Сетевая энциклопедия Wikipedia попала под удар – недобросовестные пользователи массово «заливают» ресурс бредовым и фейковым ИИ-контентом.
Открытая платформа + открытый доступ к ИИ = открытый сезон для злоумышленников. Wikipedia переживает не лучшие времена. Люди начали наводнять сайт бессмысленной информацией, придуманной большими языковыми моделями вроде ChatGPT.
Например, вы когда-нибудь слышали о величественной османской крепости, построенной в 1400-х годах, под названием Amberlisihar. В статье объемом 2 000 слов подробно описывается местоположение и строительство этой достопримечательности. Есть только одна загвоздка – Amberlisihar полная галлюцинация, снабженная достаточным количеством «фактической» информации, чтобы придать ей некоторую достоверность.
Чтобы отследить и вычистить подобный контент, группа добровольцев объединилась в проект WikiProject AI Cleanup. Энтузиасты просматривают статьи в Wikipedia, редактируют или удаляют ложную информацию.
– Некоторые из нас заметили, что в тексте часто встречаются неестественные фразы, которые имеют явные признаки того, что их сгенерировал ИИ, – говорит один из основателей команды Илиас Леблеу. – Обнаружение некоторых общих фраз ИИ позволило нам быстро выявить некоторые из наиболее вопиющих примеров сгенерированных статей. Мы захотели упорядочить свой опыт и создать проект для противостояния фейкам.
Пока непонятно, смогут ли добровольцы очистить сетевую энциклопедию от постоянно пополняющегося ИИ-контента, но, по крайней мере, радует, что эта работа начата.
