Власти Индонезии и Малайзии временно закрыли доступ к чат-боту Grok, созданному компанией xAI. Причина – массовое появление сексуализированных изображений, которые ИИ создавал по запросам пользователей.
Речь идет о дипфейках – поддельных изображениях, сделанных с помощью ИИ. Часто они изображали реальных женщин, иногда несовершеннолетних, а в некоторых случаях содержали сцены насилия. Все это появлялось в ответ на запросы пользователей в соцсети X.
Министр цифровых коммуникаций Индонезии Меутья Хафид заявила, что такие изображения, созданные без согласия людей, являются серьезным нарушением прав человека, достоинства и цифровой безопасности граждан. Власти страны также вызвали представителей X для объяснений.
Малайзия объявила о похожей блокировке на следующий день.
Другие государства тоже начали реагировать:
- Индия потребовала от X принять меры, чтобы Grok не создавал непристойный контент.
- Евросоюз обязал компанию сохранить все документы, связанные с Grok. Это может свидетельствовать о подготовке к официальному расследованию.
- В Великобритании регулятор связи Ofcom начал срочную проверку. Премьер-министр Кир Стармер заявил, что полностью поддерживает жесткие меры.
- В США власти официально пока не вмешиваются, но сенаторы-демократы призвали Apple и Google удалить X из магазинов приложений.
Компания xAI сначала опубликовала извинение по поводу работы Grok, признав, что некоторые публикации нарушали этические нормы и, возможно, американские законы.
Позже компания ограничила создание изображений – теперь эта функция доступна только платным пользователям X. Однако это ограничение не затронуло отдельное приложение Grok, где изображения по-прежнему может создавать любой пользователь.
Читайте по теме. Представлены AI-компаньоны Grok
