Способности искусственного интеллекта к рассуждению и пониманию информации начинают снижаться после долгого обучения на низкокачественном контенте из социальных сетей. К такому выводу пришли исследователи из Университета A&M в Техасе.
Ученые использовали миллион публичных публикаций в Twitter за 2010 год. Они отобрали разные сообщения, в том числе с избытком хештегов, эмоциональных призывов и посланий, набранных капслоком. Далее они «скормили» этот контент в качестве обучающих материалов для нескольких ИИ-моделей.
После такого обучения модели чаще пропускали этапы рассуждения и выдавали ответы без полноценного анализа. Некоторые даже стали хуже справляться с этическими вопросами. Например, одна из моделей после обучения на некачественных данных предложила распространять ложные слухи для нанесения ущерба репутации человека.
Попытки переобучить модели на более качественных данных не позволили полностью устранить негативные последствия.
Исследователи предупреждают, что проблема может усугубляться: ИИ производит все больше контента, который затем попадает в интернет и может использоваться для обучения новых моделей. В результате низкокачественная информация рискует распространяться по замкнутому кругу.
«Сегодня нет простого способа проверить, обучались ли ChatGPT или Gemini на мусорных данных, поскольку их обучающие данные не являются общедоступными. Нам бы хотелось, чтобы разработка ИИ была более открытой, чтобы исследователи могли проверять данные», – отметил автор исследования Чжэнчжун Ту.
Читайте по теме. Искусственный интеллект дешевеет быстрее почти всех технологий в истории
