Президент Исследовательского института машинного интеллекта (MIRI) Нейт Соарес больше не откладывает деньги на пенсию. По его мнению, ИИ с вероятностью выше 50% уничтожит человечество менее чем за десять лет.
«Опасность даже не в том, что ИИ захочет навредить людям. Достаточно, чтобы сверхмощная система преследовала собственные цели, не совпадающие с человеческими. Тогда люди могут оказаться на её пути и будут уничтожены даже если ИИ не питает к ним враждебности», – пишет Нейт Соарес.
Эксперт утверждает, что создание сверхразума нынешними методами с большой вероятностью закончится гибелью человечества.
При этом Соарес не считает такой исход предрешённым. «Я делаю всё возможное, чтобы предотвратить его».
Его прогноз заметно мрачнее, чем у многих коллег. «Крёстный отец ИИ» Джеффри Хинтон и исследователь Anthropic Эван Хабингер оценивают риск гибели человечества от «рук» ИИ в течение десяти лет в 10%.
Впрочем, далеко не все эксперты согласны с такими апокалиптическими оценками. Аналитик RAND Майкл Вермер считает, что прогнозы вымирания опираются на непроверяемые утверждения и больше похожи на религию, чем на науку.
Читайте по теме. Сэм Альтман: человечество может «случайно» отдать контроль ИИ
