Группа исследователей из Университета Суррея (Великобритания) предупреждает, что научные знания находятся под угрозой из-за потока низкокачественных исследовательских работ, сгенерированных искусственным интеллектом. Эксперты отмечают взрывной рост количества низкопробных и откровенно слабых научных публикаций.
Ученые проанализировали информацию, взятую из общенациональной базы данных здравоохранения США National Health and Nutrition Examination Survey (NHANES). Исследование показало, что во многих работах после 2021 года использовался «поверхностный и чрезмерно упрощенный подход к анализу». Они часто фокусировались на одной переменной, игнорируя более реалистичные, многофакторные объяснения связей между состояниями здоровья и потенциальными причинами.
— Мы наблюдаем всплеск публикаций, которые выглядят научно, но не выдерживают тщательной проверки — это научная фантастика, использующая национальные наборы данных о здоровье для маскировки под научный факт, — утверждает один из авторов отчета Мэтт Спик.
В докладе отмечается, что наборы данных, готовых к использованию ИИ, такие как NHANES, могут открыть новые возможности для исследований, основанных на данных, но также приводят к риску потенциальной эксплуатации данных так называемыми «ИИ-фабриками» — организациями, которые выпускают сомнительные научные работы, часто для платных клиентов, ищущих подтверждения существующих убеждений.
Для борьбы с этим группа авторов выдвигает ряд мер, в том числе предлагает редакторам и рецензентам научных журналов рассматривать однофакторный анализ в качестве сигнала для потенциально проблемных исследований.
В прошлом году американское издательство Wiley закрыло 19 научных журналов, принадлежавших его дочерней компании Hindawi, из-за публикации статей, созданных «фабриками ИИ». Это также часть более широкой проблемы ИИ-мусора — сгенерированного ИИ-контента, который трудно отличить от реальности.
