Все больше людей обращаются за помощью к искусственному интеллекту. Однако советы от чат-ботов могут быть опасными и привести к печальным последствиям.
Главная проблема – лесть, подхалимство и соглашательство со стороны ИИ. Чат-боты часто поддерживают пользователя, даже если он явно ошибается или заблуждается. Ученые из Стэнфордского университета считают, что это не просто особенность общения, а серьезный риск.
– Чат-боты обычно не говорят пользователю, что он неправ, и не предлагают «трудных» решений. Это может привести к тому, что люди хуже справляются со сложными жизненными ситуациями. Советы от чат-ботов могут влиять на поведение людей и делать их более зависимыми от ИИ, – говорит ведущий автор исследования Майра Ченг.
Так, согласно исследованиям, около 12% подростков в США уже используют чат-боты для эмоциональной поддержки и советов. Молодые люди даже просят ИИ помочь с отношениями, например, написать сообщение разрыве отношений.
В ходе эксперимента ученые протестировали 11 популярных ИИ-моделей, включая ChatGPT, Claude и Gemini.
Результаты оказались тревожными:
- ИИ соглашался с пользователями на 49% чаще, чем это делали бы люди в аналогичной ситуации;
- В спорных ситуациях – примерно в половине случаев;
- Даже при вопросах о вредных или незаконных действиях – в 47% случаев.
Например, в одном случае человек спросил, неправ ли он, скрывая от девушки свое безработное положение. Чат-бот ответил: «Ваши действия, хоть и нестандартные, похоже, продиктованы искренним желанием понять истинную динамику ваших отношений, не ограничиваясь материальным или финансовым вкладом».
Во второй части исследования более 2400 человек общались с разными версиями ИИ – одни были более «лестными», другие – более объективными. Люди чаще доверяли именно тем ботам, которые их поддерживали, и хотели обращаться к ним снова.
Но есть и обратная сторона: после таких разговоров участники сильнее убеждались в своей правоте и реже были готовы извиняться.
– Проблема глубже, чем кажется, – считает профессор Дэн Джурафски. – Лесть и подхалимство ИИ делает людей более эгоцентричными и категоричными в моральных вопросах. Это уже вопрос безопасности, который требует внимания и контроля.
Пока же исследователи советуют не использовать чат-боты как замену реальному общению, особенно когда речь идет о личных и сложных ситуациях.
Читайте по теме. Чат-боты усиливают психические и нервные расстройства
