В последние годы студенты стали массово запрашивать в библиотеках журналы, книги и архивные записи, которых попросту не существует. Оказалось, что проблему создают ИИ-модели – именно они генерируют названия для несуществующих книг и ссылки на выдуманные архивные записи. Об этом заявляют специалисты Международного комитета Красного Креста.
– Эти системы не проводят исследования, не проверяют источники и не перепроверяют информацию, – говорится в заявлении МККК. – Они создают контент на основе статистических закономерностей и могут генерировать несуществующие каталожные номера, описания документов или даже ссылки на платформы, которых никогда не было.
По словам руководителя отдела работы с исследователями Библиотеки Виргинии, Сары Фоллс 15% справочных запросов, поступающих по электронной почте, теперь сгенерированы ChatGPT и включают «галлюцинированные» первоисточники и публикации.
– Сегодня утром я потратила много времени на поиск цитат для студента, – пишет библиотекарь в соцсети Bluesky. – К третьей попытке, с нулевым результатом, я спросила, откуда список. И студент признался, что взял его из сводки Google AI.
Интересно, что в последние годы все больше исследователей ловят на публикации работ с выдуманными ИИ–цитатами. Тем не менее, многих ученых это не смущает – некоторые научные сотрудники публикуют более сотни работ в год, явно написанных ИИ-моделями.
Читайте также. Википедия внедряет ИИ, но не для замены волонтеров
