Депутаты Парламента РК предлагают запретить автономные ИИ-системы. Об этом сообщила депутат Екатерина Смышляева в рамках презентации Закона «Об искусственном интеллекте». Ее слова цитирует inform.kz.
Основные новеллы нового законопроекта следующие.
Введение классификации систем ИИ по уровням риска — законопроект разделяет системы искусственного интеллекта на минимального, среднего и высокого риска, что позволяет регулировать их эксплуатацию в зависимости от потенциального влияния на безопасность пользователей, общества и государства.
Запрет полностью автономных систем ИИ — на территории Казахстана запрещается создание и внедрение систем, принимающих решения без возможности вмешательства человека, что снижает вероятность неконтролируемых последствий.
Создание Национальной платформы ИИ — формируется государственная технологическая инфраструктура для разработки, обучения и тестирования систем ИИ в контролируемой среде, что способствует развитию отечественных решений в этой сфере.
Обязательность прозрачности и информирования пользователей — законопроект устанавливает требования к владельцам и разработчикам ИИ о необходимости предупреждать пользователей о том, что они взаимодействуют с ИИ, а также обеспечивать разъяснение принципов его работы.
Усиленная защита персональных данных и предотвращение манипуляций — вводятся строгие ограничения на использование ИИ для оценки людей по социальным, биометрическим и поведенческим характеристикам, а также запреты на создание и использование ИИ, способного манипулировать поведением человека.
Депутат рассказала также о сопутствующих поправках в действующее законодательство. В частности, в Кодекс об административных правонарушениях предлагается ввести статью 641-1, устанавливающую административную ответственность за нарушение требований законодательства об ИИ, включая неинформирование пользователей о синтетических данных и отсутствие управления рисками ИИ-систем.
Также предложено исключить устаревшие определения, введены правила доступа к конфиденциальным данным Национальной платформы ИИ, а также требования к разработке ИИ-систем в рамках электронного правительства. Уточнены понятия, введены ограничения на извлечение персональных данных из открытых источников, добавлены правила обработки биометрических данных и автоматизированной обработки персональных данных. Введена обязанность продавцов информировать потребителей о рисках и условиях безопасного использования товаров и услуг с компонентами ИИ. Установлена обязанность информировать пользователей о том, что медиаконтент создан с использованием ИИ.
— Цель законопроекта — создать прозрачную, эффективную правовую базу для внедрения IT-технологий в нашу экономику. Особое внимание развитию искусственного интеллекта уделяет Глава государства, он неоднократно давал соответствующие поручения. Более того, в ходе недавнего посещения Центра развития искусственного интеллекта Глава государства особо отметил важность правильной модели регулирования именно этой технологии по той причине, что это, с одной стороны — вопрос безопасности, с другой стороны — это вопрос развития. И здесь нам важно держать баланс. Согласно этим поручениям, мы сегодня приступаем к работе над проектом Закона «Об искусственном интеллекте, — резюмировала депутат Екатерина Смышляева.
