Исследователи нашли серьезные уязвимости в браузере Atlas от OpenAI. Оказалось, что его пользователи могут быть на 90% более уязвимыми по сравнению с Chrome или Edge.
Так, например, эксперты компании LayerX обнаружили ошибку, которая позволяет злоумышленникам внедрять вредоносные инструкции прямо в память ChatGPT и даже выполнять удаленный код без ведома пользователя.
Исследователи уточняют, что эта проблема может затронуть всех пользователей ChatGPT, независимо от браузера, но особенно опасна для тех, кто пользуется Atlas.
– В Atlas от OpenAI пока нет эффективной защиты от фишинга, поэтому пользователи этого браузера могут быть до 90% более уязвимы по сравнению с теми, кто использует Chrome или Edge, – отмечают в LayerX.
Кроме того, пользователи автоматически входят в ChatGPT при запуске Atlas, что также повышает риск. В ходе тестов оказалось, что браузер в 1,9 раза более подвержен фишинговым атакам, чем популярные альтернативы.
Хакеры могут использовать так называемую CSRF-атаку (Cross-Site Request Forgery). Она позволяет «подцепиться» к активной сессии пользователя ChatGPT и внедрить вредоносные инструкции.
Когда человек затем обращается к ChatGPT по обычным вопросам, срабатывают эти «зараженные воспоминания». В итоге атакующий получает доступ к аккаунту, браузеру, коду, над которым работает пользователь, или даже к связанным системам.
Особенно тревожно, что эксплойт может сохраняться между сессиями и устройствами – пользователь может не заметить, что его данные уже скомпрометированы.
Генеральный директор компании CyberSmart Джейми Ахтар заявил, что подобные случаи демонстрируют, насколько новые ИИ-технологии уязвимы с точки зрения безопасности:
– Хотя ИИ и LLM открывают огромные возможности, они также делают киберпреступность более доступной. Такие угрозы, как prompt injection, не требуют глубоких знаний – ими может воспользоваться даже начинающий хакер.
Он добавил, что главная опасность таких атак – в том, что злоумышленник может перенастроить ИИ и фактически заставить его действовать против пользователя.
Читайте по теме. OpenAI запускает ИИ-браузер ChatGPT Atlas.
