Дипфейки, создаваемые с помощью ИИ-технологий, становятся одной из главных проблем интернета. Их количество стремительно растет, а вместе с этим увеличивается число случаев мошенничества, шантажа и травли. Особенно серьезной проблемой стали поддельные откровенные фотографии, которые создаются миллионами и наносят огромный психологический ущерб жертвам, особенно подросткам.
Однако запретами дипфейки не победить. Поэтому специалисты исследовательского института Fraunhofer IOSB разрабатывают ИИ-систему RealorRender, которая умеет не просто вычислять дипфейки, но и объяснять, почему она пришла к такому выводу. Фактически один «добрый» ИИ будет отлавливать результаты работы «злых» ИИ.
Работает система необычным способом. Сначала она пытается заново сгенерировать проверяемое изображение с помощью собственного ИИ. Если сделать это удается слишком легко, это может означать, что исходная картинка тоже была создана нейросетью. Затем второй алгоритм анализирует полученный результат и вычисляет вероятность того, что изображение является подделкой.
RealorRender показывает, какие именно участки изображения вызвали подозрение. Для этого используются специальные тепловые карты, которые выделяют области с характерными для нейросетей текстурами и другими особенностями. Такой подход делает работу алгоритма более прозрачной и позволяет специалистам понять, почему было принято то или иное решение.
По словам разработчиков, пока точность распознавания ИИ-системы составляет от 85 до 91%. Исследователи считают, что подобные системы станут важным инструментом в борьбе с дипфейками.
По мере того как генераторы изображений становятся все совершеннее, технологии их обнаружения тоже должны развиваться, чтобы защищать людей от мошенничества, шантажа и распространения фальшивых фотографий.
Читайте по теме. ИИ-дипфейки становятся главным оружием мошенников
