Пентагон заинтересован в использовании генеративного ИИ для создания поддельных интернет-пользователей, сообщает издание The Intercept.
Объединенное командование специальных операций США (JSOC) объясняет, что ищет технологии, которые могут генерировать убедительные онлайн-персоны для использования в социальных сетях, где они будут управляться агентами Сил специальных операций (SOF). Это решение должно включать видео и изображения лица и фона, а также звуковые слои.
Согласно списку пожеланий, JSOC хочет, чтобы агенты SOF использовали эту возможность для сбора информации с публичных онлайн-форумов.
Другими словами, JSOC хочет предоставить своим спецподразделениям технологию создания сложных глубоких подделок ИИ для сбора информации, способных убедить пользователей социальных сетей в том, что они настоящие.
В прошлом году Пентагон проявил интерес к deepfakes, однако сообщалось, что ведомство нуждается в более всеобъемлющих, масштабных и разрушительных технологиях.
– Это только подстегнет другие военные силы или противников делать то же самое, – говорит главный научный сотрудник Института искусственного интеллекта AI Now Institute Хейди Хлааф. – Это приведет к созданию общества, в котором будет все труднее отличить правду от вымысла, и запутает геополитическую сферу.
Забавно, что именно правительство США часто говорит о том, что фальшивки и другой контент, генерируемый искусственным интеллектом, усугубят кризис дезинформации и приведут к тому, что информационная экосистема станет более грязной для всех.
