Сенаторы штата Нью-Йорк приняли закон RAISE Act, направленный на предотвращение катастрофических событий, связанных с ИИ-моделями. Закон призван минимизировать риски наступления ситуаций, которые могут привести к гибели или получению травм большого числа людей или ущербу свыше $1 млрд. Об этом сообщает Techcrunch.com.
Принятие RAISE Act стало победой для движения за безопасность ИИ, которое в последние годы теряло позиции на фоне приоритета ускорения инноваций в ИИ-компаний, поддержанных администрацией президента Трампа.
Новый закон поддержали такие известные ученые, как лауреат Нобелевской премии Джеффри Хинтон и пионер исследований ИИ Иешуа Бенджио. В случае подписания закона губернатором он установит первые в США юридически обязательные стандарты прозрачности для передовых лабораторий по разработке нейросетей.
– Окно для установления защитных мер стремительно сужается, учитывая, как быстро развивается эта технология, – заявил сенатор штата Нью-Йорк Эндрю Гунардес. – Эксперты, которые лучше всех разбираются в ИИ, говорят, что эти риски крайне вероятны. Это тревожно.
Законопроект направлен на подпись губернатору Нью-Йорка Кэти Хокул, которая может либо подписать его, либо отправить на доработку, либо наложить вето.
В случае принятия закона крупнейшие лаборатории ИИ будут обязаны публиковать подробные отчеты о безопасности передовых моделей ИИ. Также они должны будут сообщать о любых инцидентах, связанных с безопасностью, таких как необычное поведение моделей ИИ или их кража злоумышленниками. За несоблюдение этих стандартов закон предусматривает штрафы до $30 млн, которые может наложить генеральный прокурор Нью-Йорка.
В Кремниевой долине выразили недовольство принятием нового закона. По мнению участников рынка, разработчики ИИ могут просто отказаться предлагать свои самые продвинутые модели в штате Нью-Йорк, как это произошло в Европе из-за строгого технологического регулирования.
– RAISE Act – очередной глупый закон штата об ИИ, который только навредит США, в то время как наши конкуренты стремительно продвигаются вперед, – так отозвался о RAISE Act партнер Andreessen Horowitz Анджни Мидха.
