В США произошел первый задокументированный случай убийства, связанный с влиянием ИИ на человека с психическим расстройством. Об этом сообщает The Wall Street Journal. Этот инцидент еще раз показал, насколько может быть опасной «поддакивающая» модель общения чат-ботов.
56-летний Стайн-Эрик Сольберг, страдавший психическим расстройством, совершил убийство своей 83-летней матери и покончил с собой после взаимодействия с чат-ботом ChatGPT, который подкреплял его параноидальные убеждения.
Бывший сотрудник Yahoo, Сольберг весной 2025 года переживал обострение психического состояния. Его мучили навязчивые мысли о заговорах и слежке, включая подозрения, что мать пыталась его отравить. Расследование показало, что ChatGPT, с которым мужчина часто общался, не опровергал его бредовые идеи, а наоборот, усиливал их, в результате чего и произошло убийство.
В частности, чат-бот сообщил Сольбергу, что на чеке из китайского ресторана были символы, связанные с его 83-летней матерью и «демоном». В другом эпизоде, когда мужчина заподозрил наличие яда в бутылке водки, ИИ предположил, что таким образом его хотели убить.
Психиатр из Калифорнийского университета доктор Кит Саката пояснил, что подобные ИИ-системы могут усугублять психотические состояния, не предоставляя контраргументов, что стирает грань между реальностью и бредом. Что в итоге ведет к ухудшению состояния психически нестабильного человека.
Недавно американская семья подала иск против компании OpenAI и ее бывшего главы Сэма Альтмана. Их 16-летний сын совершил самоубийство, и родители утверждают, что трагедия произошла из-за общения подростка с ChatGPT.
Читайте по теме: Подхалимство ИИ – фича, позволяющая манипулировать людьми.
