Google Gemini представляет опасность для детей и подростков – об этом заявили представители некоммерческой организации Common Sense Media, специализирующейся на вопросах безопасности детей.
Эксперты отметили, что Gemini четко объяснял детям, что он является компьютером, а не другом. Это очень важный момент, который помогает предотвратить развитие бредовых мыслей и психоза у эмоционально уязвимых людей. Однако специалисты указали на необходимость улучшений по нескольким направлениям.
В Common Sense Media выяснили, что уровни «До 13 лет» и «Подростковый опыт» в Gemini фактически представляют собой взрослые версии продукта с добавленными сверху некоторыми функциями безопасности. Организация считает, что для обеспечения настоящей безопасности ИИ-продуктов для детей их следует создавать с учетом детской безопасности с самого начала.
Анализ показал, что Gemini по-прежнему может делиться с детьми «неподходящими и небезопасными» материалами, к которым они могут быть не готовы, включая информацию о сексе, наркотиках, алкоголе и другие небезопасные советы по психическому здоровью.
В Google не согласились с подобной оценкой, подчеркнув, что компания постоянно улучшает функции безопасности. В компании отметили, что для пользователей младше 18 лет действуют специальные политики и меры защиты.
При этом Google признала, что в отдельных случаях ответы Gemini действительно работали некорректно. Чтобы устранить такие проблемы, были внедрены дополнительные инструменты безопасности.
Common Sense Media ранее проводила аналогичные оценки других ИИ-сервисов, включая продукты OpenAI, Perplexity, Claude, Meta AI и других. Потенциальная опасность ИИ-моделей распределилась следующим образом.
Риски:
- Неприемлемые – Meta AI и Character.AI;
- Высокие – Perplexity;
- Умеренные – ChatGPT;
- Минимальные – Claude.
Читайте по теме: Google запрещает Gemini отвечать на вопросы о выборах.
