В отчете, подготовленном по заказу Госдепартамента США, предупреждается, что быстро развивающийся искусственный интеллект может представлять катастрофический риск для национальной безопасности и даже для всего человечества. Документ, озаглавленный «План действий по повышению защищенности продвинутого искусственного интеллекта» призывает правительство США действовать быстро и решительно, чтобы спасти человечество от вымирания.
– Дальнейший прогресс AI и появление AGI (общего искусственного интеллекта) потенциально может дестабилизировать глобальную безопасность способами, напоминающими ядерное оружие, – говорится в докладе.
Это не первый и не последний случай, когда эксперты предупреждают о том, что технология искусственного интеллекта представляет экзистенциальный риск для человечества.
Недавний опрос также показал, что более половины исследователей искусственного интеллекта говорят, что существует пятипроцентная вероятность вымирания людей. Впрочем, это самый плохой вариант. Есть сценарии не такие страшные, но тоже малоприятные, вроде порабощения людей с помощью ИИ.
Чтобы нейросети не уничтожили наш вид, авторы доклада рекомендуют правительству США установить верхний предел того, сколько вычислительных мощностей должно использоваться для обучения любой данной модели искусственного интеллекта. Компаниям, занимающимся ИИ-технологиями, также следует запрашивать разрешение правительства на обучение любой новой модели выше определенного порога.
Интересно, что в отчете также рекомендуется ввести уголовную ответственность за открытый исходный код или раскрытие внутренней работы мощных моделей искусственного интеллекта. Эти рекомендации предназначены для устранения риска того, что лаборатория искусственного интеллекта потеряет контроль над своими системами, что может иметь потенциально разрушительные последствия для глобальной безопасности.
– Искусственный интеллект уже является экономически преобразующей технологией. ИИ позволит нам побеждать неизлечимые болезни, совершать научные открытия и преодолевать проблемы, которые мы когда-то считали непреодолимыми. Но это также может привести к серьезным рискам, в том числе катастрофическим, о которых мы должны знать. Исследования говорят, что при превышении определенного порога возможностей искусственный интеллект потенциально может стать неконтролируемым. Текущие меры безопасности прискорбно неадекватны по сравнению с рисками национальной безопасности, которые ИИ может представить довольно скоро, – считает генеральный директор Gladstone AI Джереми Харрис.
