Низкокачественный ИИ-мусор (AI slop) захватывает социальные сети, и особенно от этого тренда пострадала платформа TikTok. Согласно исследованию компании Kapwing, которое цитирует издание Futurism, около 60% роликов, которые алгоритмы показывают новым пользователям в разделе «Для вас», представляют собой ИИ-контент. Для сравнения, у новых пользователей YouTube доля таких видео примерно втрое ниже.
Особую тревогу у исследователей вызвал детский контент. Категория Kids оказалась буквально переполнена подобными ИИ-роликами. Невероятно, но из 100 видео с хештегом #cartoonkids только три были созданы людьми, а остальные представляли собой низкокачественный ИИ-мусор.
Кроме того, алгоритмы быстро подстраиваются под интересы пользователя. Если человек проявил интерес к ИИ-видео, платформа начинает показывать еще больше подобных роликов.
Эксперты предупреждают, что обилие такого контента может негативно влиять на детей и подростков. Помимо примитивных и бессмысленных роликов, распространение получают реалистичные дипфейки, которые могут использоваться для дезинформации и политической пропаганды.
Проблема распространилась на все соцсети. Facebook и Instagram также транслируют бессмысленный ИИ-мусор.
При этом специалисты признают, что простого решения проблемы пока не существует. Технологии генерации изображений и видео достигли такого уровня, что отличить реальный контент от созданного нейросетями становится все труднее. Как недавно отметил один из ведущих мировых экспертов по дипфейкам Хани Фарид, он «перестал доверять даже собственным глазам».
Читайте по теме. Суперприложение TikTok: от видеороликов к огромной экосистеме
