Новый ИИ-агент Muse может стать причиной крупной утечки пользовательских данных – этого опасаются сотрудники Meta. Как сообщает издание 404 Media, незадолго до запуска ИИ-агента инженеры компании обнаружили серьезные уязвимости. Их удалось исправить, но некоторые программисты считают, что угроза нейтрализована не полностью.
ИИ-агент Muse предназначен для выполнения действий от имени пользователя. Он может забронировать авиабилеты, совершить запланированные покупки и даже ответить на электронные письма. Чтобы выполнять эти задания, на компьютере пользователя Muse запускается в изолированной виртуальной среде, которая должна отделять ИИ-агента от остальных систем.
Однако инженеры обнаружили случаи «побега» из виртуальной машины, когда агент потенциально мог получить доступ к другим системам и данным.
По данным 404 Media, проблема оказалась настолько серьезной, что о ней доложили Марку Цукербергу, а несколько команд безопасности работали над исправлением практически круглосуточно. Уязвимости удалось закрыть до официального запуска Muse.
Впрочем, некоторые сотрудники компании сомневаются, что принятые меры полностью устраняют угрозу. Один из источников издания 404 Media заявил, что ряд старших инженеров считает крупную утечку данных практически неизбежной из-за архитектуры Muse.
Сама компания признает высокий уровень риска. В рамках программы поиска уязвимостей Meta предлагает до $300 тысяч за обнаружение других уязвимостей.
Читайте по теме. Meta запустила модель Muse Image – она использует фото из Instagram
