Не выпускайте сверхразум! Крупнейшие ИИ-гиганты, включая Anthropic, OpenAI, xAI и Meta, сегодня имеют слабые системы кибербезопасности, отстающие от современных международных стандартов. Несмотря на гонку по созданию систем, приближающихся к суперинтеллекту, ни одна компания пока не представила полноценной стратегии по контролю таких мощных технологий. Об этом свидетельствует отчет некоммерческого института Future of Life.
Исследование выходит на фоне растущей обеспокоенности последствиями появления систем, способных рассуждать и принимать решения на уровне, превосходящем человеческий. Тревога усилилась после нескольких случаев, когда взаимодействие с чат-ботами ИИ связывали с эпизодами суицида и самоповреждений.
– Несмотря на недавний резонанс вокруг взломов с помощью ИИ и случаев, когда ИИ доводил людей до психоза и самоповреждений, американские ИИ-компании остаются менее регулируемыми, чем рестораны, и они продолжают лоббировать отказ от обязательных стандартов безопасности, – заявил президент Future of Life Макс Тегмарк.
Институт, основанный в 2014 году, уже много лет предупреждает о рисках, которые быстро развивающиеся интеллектуальные системы могут представлять для человечества.
Призывы к более жестким мерам усиливаются. В октябре группа ученых, среди которых были такие исследователи, как Джеффри Хинтон и Йошуа Бенджио, выступила с предложением ввести запрет на разработку сверхинтеллектуального ИИ до тех пор, пока не будут представлены надежные системы безопасности и сдерживания.
Между тем, конкуренция в сфере ИИ лишь усиливается, а крупнейшие IT-компании вкладывают колоссальные средства в развитие своих ИИ-проектов.
Читайте по теме. DeepMind представила Genie 3 – важный шаг к сверхразуму
