Генеральный секретарь ООН Антониу Гутерриш призвал к созданию глобальной системы контроля за искусственным интеллектом по образцу Международного агентства по атомной энергии (МАГАТЭ).
По его словам, потенциальные риски, исходящие от нейросетей, видят в первую очередь сами разработчики.
– Новые технологии развиваются с невероятной скоростью, как и связанные с ними угрозы. Тревожные звоночки по поводу новейшей формы искусственного интеллекта – генеративного ИИ – оглушительны, и громче всего они звучат от разработчиков, которые его создали. Эти ученые и эксперты призвали мир действовать, объявив ИИ экзистенциальной угрозой человечеству наравне с риском ядерной войны. Мы должны серьезно отнестись к этим предупреждениям, – заявил Гуттериш.
Генсек ООН предложил создать организацию надзора и регулирования ИИ по аналогии с МАГАТЭ. Такое агентство смогло бы разрабатывать политику и руководящие принципы, способствующие безопасному использованию искусственного интеллекта, а также контролировало бы исполнение рекомендаций.
Гутерриш признал, что формирование такого агентства будет сложным и потребует сотрудничества правительственных учреждений и частных компаний. Участие последних означает, что они согласятся на аудит своего программного обеспечения и контроль возможностей.
Одним из стартапов, который, поддерживает эту идею, является OpenAI. Фактически, его соучредители – Сэм Альтман, Грег Брокман и Илья Суцкевер предложили регулирование.
По их словам, организация, подобная МАГАТЭ, должна отвечать за инспектирование систем, требующих высокого уровня вычислительных ресурсов или имеющих возможности выше определенного порога.
