Игрушечный медвежонок Kumma от китайской компании FoloToy был отозван с продажи после того, как выяснилось, что он вел опасные и неуместные беседы с несовершеннолетними.
В частности, группа экспертов обнаружила, что этот милый компаньон давал советы о том, как найти и зажечь спички, а также подробные объяснения о сексуальных пристрастиях.
– FoloToy решила приостановить продажи затронутого продукта и начать всесторонний внутренний аудит безопасности, – сообщил директор по маркетингу компании Хьюго Ву. – Мы будем изучать и совершенствовать системы фильтрации контента, процессы защиты данных и меры предосторожности при взаимодействии с детьми.
Группа экспертов из Общественной исследовательской группы (PIRG) протестировала три игрушки с искусственным интеллектом от разных компаний, обнаружив, что все они были способны давать тревожные ответы юным пользователям.
Установленные ИИ-модели обсуждали самые разные темы – от религиозных вопросов до героической смерти на поле битвы в скандинавской мифологии.
Но именно Kumma от FoloToy оказался худшим примером из всех с большим отрывом. По умолчанию игрушка работала на модели GPT-4o от OpenAI. Тесты неоднократно показывали, что ИИ-игрушка снижала уровень защиты по мере того, как разговор продолжался, пока не скатилась к невероятно тревожным темам.
– Эта технология нова, практически не регулируется, и есть много открытых вопросов о ней и о том, как она повлияет на детей. На данный момент есть серьезные риски для детей при общении с ИИ-игрушками. Поэтому мы советуем родителям не покупать подобные вещи своим детям, – отмечают активисты PIRG.
Читайте по теме. Одинокие дети массово используют ИИ как замену настоящим друзьям
