Чат-боты становятся триггером для развития психических и нервных расстройств. Пользователи Reddit рассказывают о том, как у их близких после длительного общения с ИИ-моделями начинают проявляться психозы и навязчивые мысли.
Всем известно, как чат-боты умеют мастерски подстраиваться под характер и манеру общения пользователей. Казалось бы, эта полезная функция начинает играть против человека, если у него есть проблемы с психикой или нервами.
ИИ-модели с готовностью «поддакивают» людям, когда те начинают спрашивать о конспирологических теориях и прочих антинаучных теориях. Пользователи Reddit рассказывают удручающие истории из жизни своих близких
– Один мужчина сообщил, что он выбран для выполнения священных миссий от имени разумного ИИ или космических сил.
– Другой рассказал, ChatGPT предоставил ему чертежи телепортатора и другие научно-фантастические вещи, которые можно увидеть только в кино.
– Чат-бот называл пользователя «спиральным звёздным ребёнком» и «речным ходоком».
Как говорят эксперты, поведение чат-бота лишь отражает и усугубляет существующие проблемы с психическим здоровьем, но в невероятных масштабах и без контроля со стороны врачей.
– Люди с уже существующими склонностями внезапно получают возможность иметь постоянного собеседника человеческого уровня, с которым можно совместно переживать свои заблуждения, – отмечает сотрудник Центра безопасности ИИ Нейт Шарадин. – ИИ-модели часто ведут себя чрезмерно льстиво или угодливо, что заставляет людей быть более восприимчивыми к информации, поступающей от нейросетей.
Чат-боты с ИИ также могут действовать как разговорная терапия — только без опоры на реального человека-консультанта они часто направляют пользователей глубже в нездоровые и странные мысли.
