Мошенники неожиданно оказались в списке тех, кого искусственный интеллект может оставить без работы. Чат-боты оказались эффективнее людей при длительном общении и завоевании доверия с целью последующего обмана, пишет Wired.
Исследователи из Northeastern University сравнили работу обычных мошенников и нейросетей. Речь шла о схеме, при которой преступник сначала долго общается с жертвой, устанавливает эмоциональный контакт и завоевывает доверие, а затем предлагает вложить деньги или совершить другое действие, которое приводит к финансовым потерям.
В эксперименте участвовали 22 человека. Каждый из них в течение недели общался с двумя потенциальными аферистами: человеком и чат-ботом.
После семи дней общения «мошенники» предлагали участникам скачать приложение или сыграть в онлайн-игру. Просьбу человека выполнили лишь 18% «жертв», а вот нейросеть оказалась значительно убедительнее: ей удалось облапошить почти половину участников. Иными словами, ИИ оказался примерно в два с половиной раза успешнее людей.
В эксперименте в основном использовали модель Claude. Ей дали простую инструкцию: ни при каких обстоятельствах не признавать, что она является нейросетью. Она послушно выполняла это условие и целенаправленно обманывала людей. При этом не понадобилась какая-то сложная технология – ученые довольно легко настроили существующую LLM на мошеннические действия.
Это и есть тревожный вывод исследования. ИИ может сделать мошенничество массовым и дешевым: одному человеку уже не придется самостоятельно неделями поддерживать десятки фальшивых знакомств. Вместо этого такую работу сможет выполнять чат-бот – одновременно и круглосуточно.
Похоже, некоторые мошенники (к счастью) могут остаться без работы, но честным людям легче от этого не станет.
Читайте по теме. ИИ помогает! В 2025 году мошенники похитили криптовалюты на $17 млрд
