Популярный китайский чат-бот Yuanbao от компании Tencent оказался в центре скандала после того, как в резкой форме ответил пользователю на технический запрос. Встроенный в WeChat ИИ-помощник назвал просьбу человека глупой (stupid) и предложил ему отвалить (get lost).
Скриншоты переписки с чат-ботом Yuanbao выложил пользователь под ником Jianghan в китайской соцсети RedNote. Он использовал ИИ-помощника для поиска ошибки и доработки программного кода. Однако в какой-то момент чат-бот начал отвечать агрессивно и грубо.
В одном из сообщений он и вовсе заявил, что запрос «глупый», и посоветовал пользователю «самому установить плагин», если ему нужна функция с эмодзи.
Как уточняется, Jianghan просил исправить баг, из-за которого функция эмодзи или стикеров перестала реагировать на двойной клик, и ожидал рабочий код для решения проблемы. Но нарвался на оскорбления.
Позже официальный аккаунт Yuanbao прокомментировал ситуацию прямо под публикацией пользователя, извинившись за «негативный опыт». Представители компании заявили, что произошедшее стало результатом «редкой аномалии в работе модели».
По данным Tencent, анализ системных логов показал, что резкие ответы не были вызваны действиями пользователя и не связаны с вмешательством сотрудников. Компания также сообщила о запуске внутреннего расследования и процесса оптимизации, чтобы снизить вероятность повторения подобных инцидентов.
Читайте по теме. Tencent намерен завоевать облачный бизнес в Европе
