Злоумышленники уже используют ChatGPT для совершения преступлений – с таким заявлением выступил Европол. По мнению европейских правоохранителей, языковые модели ИИ могут способствовать мошенничеству, киберпреступности и терроризму.
ChatGPT от компании OpenAI был выпущен в ноябре 2022 года и быстро стал популярным. Чат-бот генерирует для пользователей эссе, шутки, электронные письма, программный код и другие тексты. Возможности ChatGPT заинтересовали и преступников, считают полицейские.
– Преступники, как правило, быстро осваивают новые технологии, применяя их в конкретных преступных действиях. Первые такие случаи были отмечены всего через несколько недель после публичного выпуска ChatGPT, – говорится в отчете Европола.
И хотя чат-бот отказывается обрабатывать потенциально опасные запросы, злоумышленники нашли способы обойти систему фильтрации контента OpenAI. С помощью ИИ они находят инструкции по созданию взрывных устройств или наркотиков. Пользователи могут даже попросить ChatGPT предоставить подробный инструктаж о том, как эффективно совершать те или иные преступления.
– Если потенциальный злоумышленник ничего не знает о конкретной области преступности, ChatGPT может значительно ускорить процесс исследования, – отмечают правоохранители.
Агентство признает, что вся эта информация находится в открытом доступе в Интернете, но модель облегчает поиск и понимание того, как совершать конкретные преступления.
Европол также подчеркнул, что модель может быть использована для содействия мошенничеству и создания дипфейков или для пропаганды терроризма. Способность ChatGPT генерировать код, в том числе вредоносный, увеличивает риск киберпреступности, снижая технические навыки, необходимые для создания хакерского ПО.
