Китай готовит новые ограничения – ИИ-сервисы, имитирующие романтическое или эмоциональное общение с ИИ-персонажами, не должны будут предлагать свои услуги несовершеннолетним. Так власти хотят оградить подростков от эмоциональной зависимости, связанной с виртуальными персонажами.
Проект правил запрещает платформам предлагать пользователям младше 18 лет «виртуальных родственников, компаньонов и романтических партнеров», если такие ИИ-сервисы могут провоцировать зависимость или вредить физическому и психологическому здоровью.
Для пользователей младше 16 лет платформы должны будут автоматически включать специальный подростковый режим. Также сервисы обяжут точнее определять возраст пользователей и не использовать алгоритмы, стимулирующие эмоциональную зависимость, чрезмерное использование или значительные финансовые вложения.
При этом обычные разговоры с ИИ и функциональные ролевые сценарии сами по себе, вероятно, под запрет не попадут. Ключевым элементом, считают юристы, станет именно возможность развития эмоциональной привязанности.
За нарушение правил платформам могут грозить крупные штрафы – вплоть до десятикратного размера полученного дохода.
Проект пока вынесен на общественное обсуждение, которое продлится до 17 октября. Новые меры появились всего через два месяца после вступления в силу первых специальных китайских правил для ИИ, имитирующего человеческое общение. Они также направлены против сервисов, которые чрезмерно подстраиваются под пользователя или провоцируют эмоциональную зависимость.
После введения этих требований китайские ИИ-сервисы Doubao и Qwen уже отключили некоторые функции, позволявшие создавать ИИ-персонажей с заданным именем, характером и манерой общения.
Читайте по теме. ИИ-знакомства: нейросети мешают построению романтических отношений
