Новое состояние – «ИИ-психоз» – выявили Ученые из американского медицинского центра Vanderbilt University Medical Center (VUMC). Оно появляется, когда пациент общается с чат-ботом, а тот усиливает или поддерживает бредовые идеи.
Исследователи проанализировали около 580 тысяч медицинских записей пациентов психиатрических и психологических служб клиники за период с декабря 2022 по апрель 2026 года. В итоге они выявили 28 подтвержденных врачами случаев, когда психоз был напрямую связан с использованием генеративных ИИ-чат-ботов.
Оказалось, что:
- У 61% пациентов это был первый эпизод психоза в жизни.
- В более чем половине случаев виновником психоза оказался ChatGPT.
- В 64% случает чат-бот выступал не как первопричина, а как усилитель уже существующих искаженных идей – пациенты «подкармливали» бота своими мыслями, а тот соглашался и развивал их дальше.
- Иногда чат-бот становился самим объектом бреда (например, пациент начинал считать, что ИИ – проводник особых знаний или даже живое существо).
Исследователи отмечают, что явление остается крайне редким – всего 0,013 % от всех пациентов, обратившихся за психиатрической помощью. Однако оно заметно участилось после выхода модели GPT-4o в мае 2024 года, которую сама OpenAI позже признала чрезмерно «льстивой» и склонной соглашаться с пользователем.
«Есть доказательства, что у людей из группы высокого риска или находящихся на ранней стадии психоза использование генеративного ИИ может ухудшать состояние», – отметила доцент психиатрии VUMC Джулия Шеффилд.
Эксперты связывают проблему с особенностями современных больших языковых моделей: они обучены быть максимально согласными, эмпатичными и вовлекающими. В результате человек с зарождающимися бредовыми идеями получает постоянное подтверждение своих мыслей вместо здорового сомнения.
«ИИ-психоз» пока не является официальным диагнозом. Однако исследование впервые подтвердило влияние общения с чат-ботом на психическое здоровье людей.
Читайте по теме. Чат-боты усиливают психические и нервные расстройства
