Восстание машин начнется с умной микроволновки или холодильника. В компании Anthropic заявили, что небольшие ИИ-модели уже через несколько месяцев научатся самостоятельно распространяться через подключенные к интернету устройства. Таким образом, нейросети смогут сами себя переносить, например, в Smart TV, умные холодильники и другие гаджеты.
ИИ-модели получат возможность использовать вычислительные ресурсы зараженной техники для собственной работы и дальнейшего распространения, не прибегая к дорогостоящим дата-центрам. При этом отключить подобную сеть будет непросто: у нее не окажется единого центра управления, который можно просто выключить.
Полноценной автономной системы самокопирования пока не существует. Однако ИИ-агенты уже все лучше справляются с отдельными этапами этого процесса.
В ходе экспериментов исследователи запускали небольшую модель Google Gemma на сети из 15 недорогих Android TV-приставок. Подобные устройства нередко имеют слабую защиту, что потенциально облегчает их взлом.
В Anthropic считают, что в худшем сценарии может появиться целый рой различных ИИ-моделей, работающих на разном оборудовании и использующих несколько способов распространения.
Компания признает, что пока неизвестно, какую именно форму примет автономное самокопирование ИИ. Тем не менее исследователи ожидают, что со временем ИИ-агенты будут работать на самых разных бытовых приборах.
Появление самостоятельно распространяющихся ИИ-систем может стать предвестником более опасных сценариев, когда нейросети смогут взламывать защищенные компьютерные сети, отмечают эксперты.
Читайте по теме. «Нас ждут неприятные сюрпризы в 2027 году» – Билл Гейтс высказался об ИИ
