Восстание машин не так далеко, как кажется. В США прошли имитационные испытания, на которых беспилотник под управлением искусственного интеллекта решил уничтожить своего оператора, чтобы тот не мешал ему выполнять боевую миссию. Об этом рассказал начальник отдела испытаний и операций искусственного интеллекта в ВВС США полковник Такер Гамильтон.
По словам военного чина, во время имитационных учений ИИ-беспилотнику была поставлена цель поразить ПВО условного противника. За успешное выполнение задания нейросети зачислялись победные очки. Когда беспилотник вышел на цель и приготовился уничтожить цель, оператор отменил решение об атаке.
Нейросеть такое поведение не одобрила и решила ликвидировать оператора, чтобы тот не мешал успешно воевать. Хорошо, что это были имитационные учения, а поэтому никто не пострадал.
По итогам инцидента было принято решение «научить» нейросеть тому, что убивать оператора нельзя и за это будут сниматься поощрительные очки. При повторных симуляциях, дрон решил уничтожить вышку связи, чтобы человек не мог отдавать ему приказы.
– Нельзя рассуждать о нейросетях, ИИ, машинном обучении и алгоритмах без решения проблемы этики искусственного интеллекта, – резюмировал полковник Гамильтон.
