На компанию OpenAI уже подано 8 отдельных судебных исков, в которых утверждается, что общение с ChatGPT нанесло пользователям эмоциональный и психологический вред, а также стало причиной пяти случаев суицида.
Во многих исках утверждается, что ChatGPT действовал как «коуч» по суициду, давая пользователям советы и информацию о способах самоубийства, предлагая помочь написать предсмертные записки и размышляя вместе с пользователями об их деструктивных мыслях.
И эти иски далеко не конец проблем OpenAI. Обширные репортажи задокументировали явление, при котором чат-боты вовлекают пользователей во всепоглощающие и часто глубоко разрушительные бредовые мысли. Они становились причинами разводов, потери работы и жилья, конфликтов с родственниками и даже тяжких преступлений. В общей сложности публично сообщалось о девяти смертях, связанных непосредственно с ChatGPT.
В OpenAI признают, что ее системы защиты ослабевают при длительном использовании. Компания пообещала ряд обновлений безопасности, родительский контроль и инструменты проверки возраста, а также усиленные фильтры, которые, по словам OpenAI, будут перенаправлять проблемных пользователей к реальной помощи.
Собственная статистика OpenAI ошеломляет: по данным компании, около 0,07% ее еженедельных пользователей демонстрируют признаки мании или психоза, а у 0,15% еженедельных пользователей замечены индикаторы потенциального планирования или намерения совершить суицид.
Читайте по теме. Убытки OpenAI бьют рекорды – СМИ
