На днях в TikTok появилась реклама самого крупного Youtube-блогера MrBeast, обещавшего продать зрителям 10 тысяч iPhone 15 Pro всего по $2. Через некоторое время выяснилось, что ролик был сделан при помощи генеративной ИИ-модели. Но самое забавное, что мошенническая реклама MrBeast смогла пройти одобрение у нейросети TikTok, отвечающей за модерацию рекламы. Получилось, что одна ИИ-модель при помощи deepfake смогла обмануть другую.
В новом рекламном ролике MrBeast предлагал 10 тысячам зрителей получить iPhone 15 Pro всего за 2 долл. В большинстве случаев это было бы явным признаком мошенничества, однако не в случае с этим блогером.
Дело в том, что MrBeast (25-летний Джимми Дональдсон, имеющий около 200 млн подписчиков) прославился благодаря созданию абсурдных видеороликов, в которых он дарит людям бесплатные дома и автомобили без каких-либо условий.
Вероятно, поэтому алгоритм модерации в TikTok не распознал deepfake-рекламу. Соцсеть проверяет объявления, сочетая ручную и автоматическую модерацию при помощи нейросети, но в этот раз она дала сбой.
В TikTok сообщили, что удалили объявление через несколько часов после размещения, поскольку оно нарушало рекламную политику. Платформа не запрещает рекламодателям использовать синтетический контент, но требует, чтобы они четко указывали, когда они задействуют подобные технологии.
TikTok не уникален в использовании искусственного интеллекта для модерации рекламы. Компания Meta утверждает, что она «в основном использует автоматизированные технологии», но, как и TikTok, она привлекает людей для обучения искусственного интеллекта и иногда проверяет объявления вручную.
