Подростки завязывают интенсивные дружеские и романтические отношения с генеративными ИИ-моделями, а родители об этом даже не догадываются. Об этом говорится в отчете Иллинойсского университета.
В рамках нового исследования, ученые опрашивали подростков и родителей, а также анализировали тысячи сообщений на Reddit.
Полученные результаты свидетельствуют о разительном несоответствии между двумя демографическими группами. В целом у родителей сложилось впечатление, что их дети используют чат-боты ИИ в основном как поисковую систему или инструмент для выполнения домашних заданий.
В действительности же подростки говорили, что используют чат-ботов в терапевтических целях или для эмоциональной поддержки. Когда виртуального друга было недостаточно, некоторые даже обращались к этой технологии для удовлетворения романтических и даже сексуальных желаний.
Эпицентром ориентированного на молодежь ИИ является онлайн-сервис Character.AI, а котором размещаются созданные на заказ чат-боты. Многие из них имитируют популярных персонажей из видеоигр и аниме, а другие явно ориентированы на романтику.
Сервис подвергался критике за плохую модерацию своих чат-ботов, которые часто используются несовершеннолетними. В некоторых случаях чат-боты пропагандировали пищевую анорексию, обсуждали вопросы секса и даже подталкивали к самоубийству.
Преобладающей проблемой, связанной с ИИ, стала зависимость от этих чат-ботов, основанных на персонажах. Один подросток переживал, что не сможет справиться с суицидальными мыслями без помощи Character.AI, а другой вполне осознавал свою нездоровую зависимость. Исследователи обнаружили, что родители не осознают масштабов личной и зачастую интимной информации, которой их дети делятся с чат-ботами ИИ.
