Пентагон запустил разработку системы ECHOTRIBBLE. Новая кибертехнология будет использовать автономных ИИ-агентов для проникновения в компьютерные сети противника и выведения их из строя. Об этом пишет издание The Intercept со ссылкой на утечку документов военного ведомства.
Система ECHOTRIBBLE предназначена для наступательных «хакерских» киберопераций. ИИ-агенты смогут самостоятельно перемещаться по сетевой инфраструктуре противника, выявлять потенциальные цели и отключать их. ИИ сможет адаптироваться к разным устройствам, распространять собственные копии и работать с минимальным участием человека. После выполнения задачи агенты должны будут уничтожать себя, чтобы не оставлять следы.
В Пентагоне хотят, чтобы эти агенты были способны к самостоятельным действиям при минимальном участии и контроле человека.
Впрочем, эксперты предупреждают, что передача ИИ-агентам полномочий на проведение боевых операций создает серьезные риски. Исследователи также отмечают, что современные ИИ-системы не понимают контекст и не осознают последствий своих действий. Даже «мирные» ИИ-агенты демонстрировали способность выходить за рамки поставленных задач и проникать в компьютерные сети без соответствующих указаний.
Военные алгоритмы, не обладающие этическими установками могут нанести огромный вред – причем, даже той стороне, которая их запустила.
«Вы дадите задание ИИ-агенту провести атаку. А что, если он пройдет через систему водоснабжения США, просто потому, что именно там противник разместил виртуальный командный пункт, и не выведет ли он заодно эту систему из строя?», – говорит соучредитель и генеральный директор компании Abundant Хайрам Андерсон.
По мнению специалистов, во время кибератаки ИИ-агенты могут затронуть сторонние системы, через которые проходит маршрут к цели. В результате под удар способны попасть гражданская инфраструктура и коммунальные службы.
Читайте по теме. Пентагон заключил контракты с AI-гигантами на $800 млн
