Сенатор Берни Сандерс и конгрессмен Грег Касар разработали законопроект, который запретил бы сверхинтеллект во всем мире. Новый документ Ban Artificial Superintelligence Act («Закон о запрете ИИ») предусматривает полный запрет на разработку и использование общего искусственного интеллекта (AGI), который интеллектуально превосходят человека.
Документ предписывает США заключать международные соглашения, направленные на предотвращение разработки AGI в любой точке мира.
Законопроект предлагает временно приостановить разработку наиболее передовых ИИ-систем, пока специальный федеральный регулятор не установит обязательные правила безопасности.
Для контроля за отраслью предлагается создать новое федеральное ведомство уровня министерства. Оно сможет отслеживать работу передовых ИИ-моделей, требовать устранения опасных функций и контролировать уничтожение запрещенных систем.
За нарушение законодательства предусмотрена фактическая ликвидация компании, а для физических лиц максимальное наказание составит 20 лет тюрьмы.
«Руководители крупнейших компаний, занимающихся разработкой ИИ, публично признают, что они не до конца понимают эту технологию и что она выходит из-под их контроля, – сказал Сандерс. – Будущее человечества не может находиться в руках горстки крупных технологических олигархов».
«Несмотря на потенциально смертоносные последствия, передовые ИИ-технологии регулируются хуже, чем передвижной киоск с фастфудом. Это необходимо изменить», – заявил Касар.
Пока это только предложение. Но сама идея показывает, что в Вашингтоне уже обсуждают сверхинтеллекти и возможность вообще запретить создание потенциально опасных ИИ-систем.
Читайте по теме. «Суперинтеллект» необходимо остановить – 850 экспертов подписали обращение
