Фейковая атака на Пентагон показала опасность платной верификации учетных записей в Twitter, заявляют эксперты. Изображение дыма возле главного военного ведомства США, созданное при помощи алгоритмов, было опубликовано в ленте аккаунта Bloomberg Feed.
Из-за того, что учетная запись была помечена «синей галочкой», многие пользователи решили, что это официальный аккаунт информационного агентства и распространили фейковый снимок по сети.
Публикация вызвала замешательство на американском фондовом рынке и привела к снижению биржевого индекса S&P 500 на 25 пунктов. И хотя падение было недолгим, кто-то мог заработать благодаря этой мистификации.
Инцидент действительно поднимает вопрос о том, как генеративный ИИ может быть использован для игры на фондовом рынке в будущем.
Более того, платная верификация, когда любой человек может купить себе «официальный» аккаунт, создает благоприятную почву для мошенников и манипуляторов.
Эксперты отмечают, что у пользователей Twitter сформировалась визуальная привычка считать официальными все учетные записи с «синей галочкой». В будущем это может дать злоумышленникам возможность провести еще более изощренные дезинформационные кампании.
