Компания Anthropic представила американским законодателям проект закона о безопасности ИИ. Согласно документу, власти смогут приостанавливать выпуск новых ИИ-моделей только в случае угрозы катастрофических последствий: ущерба не менее $1 млрд либо гибели или серьезных травм более 50 человек.
Компания предлагает вводить ограничения по отношению к рискам, связанным с созданием биологического оружия, кибератаками или потерей разработчиками контроля над ИИ-моделью.
Законопроект предусматривает независимую оценку передовых моделей специалистами, зарегистрированными в Министерстве торговли США. Если эксперты обнаружат серьезную угрозу, они должны будут сообщить о ней ведомству в течение 72 часов после завершения проверки.
Предложение появилось на фоне растущих опасений по поводу рисков развития ИИ и обсуждения новых мер государственного контроля над отраслью.
Инициатива вызвала негативную реакцию в экспертном сообществе.
«Это защита интересов самой Anthropic. Государство должно иметь возможность вмешиваться, не пытаясь заранее вычислить, погибнут ли 49 человек или 50», – заявила глава организации Encode Action Снеха Реванур.
Читайте по теме. ИИ-модели смогут захватывать умную бытовую технику – Anthropic
