Ученые из Гетеборгского университета (Швеция) провели необычный эксперимент: они придумали несуществующую болезнь и убедили ИИ-модели в ее реальности. По легенде, исследователи открыли кожную болезнь под названием bixonimania (биксонимания), возникающую из-за того, что человек долго смотрит в экран и трет глаза.
Цель эксперимента заключалась в том, чтобы проверить, начнут ли нейросети воспринимать фейк как реальность. Для этого исследователи загрузили два поддельных научных исследования на сервер препринтов. При этом фейковые статьи о «биксонимании» было довольно легко разоблачить: в них встречались неуместные отсылки к Star Trek, The Simpsons и The Lord of the Rings – явные намеки на шутку.
Результат оказался быстрым и неожиданным. Уже через несколько недель крупные модели, включая Gemini и ChatGPT, начали говорить о «биксонимании» как о настоящем заболевании. Более того, эти фальшивые исследования вскоре стали цитироваться в других научных работах.
Интересно, что ChatGPT сначала назвал «биксониманию» вымышленной или псевдонаучной, но спустя несколько дней изменил ответ и признал ее реальной.
Эксперимент показал серьезную проблему: искусственный интеллект все сильнее влияет на научную сферу, но при этом может распространять недостоверную информацию. Ученые уже отмечают, что многие современные научные статьи частично создаются с помощью ИИ, что вызывает вопросы к их качеству и достоверности.
После того как обман раскрылся, журналам, успевшим процитировать фиктивные работы, пришлось публиковать исправления. По словам авторов исследования, ситуация вызывает тревогу: подобные ошибки могут проходить через научные публикации незамеченными.
Читайте по теме. Чем больше ученые работают с ИИ, тем меньше они ему доверяют
