Правительство ЮАР попало в крайне неловкую ситуацию – чиновники использовали ИИ, чтобы написать закон для регулирования… ИИ. Ожидаемо, все получилось плохо и закончилось большим скандалом. В списке использованной научной литературы среди 67 источников значились как минимум шесть работ, которых не существует в природе.
Министр коммуникаций и цифровых технологий ЮАР Солли Малатси признал, что наиболее вероятной причиной инцидента стало использование ИИ для составления текста без должной проверки со стороны людей.
Впрочем, уже через несколько дней произошла еще более курьезная ситуация, но уже с Министерством внутренних дел ЮАР. В переработанной чиновниками «Белой книге по вопросам гражданства, иммиграции и беженцев» из 148 сносок 102 оказались выдумками нейросети. ИИ наполнил список литературы правдоподобными, но несуществующими академическими работами и юридическими прецедентами.
В отличие от министерства коммуникаций и цифровых технологий, которое сразу отозвало свой законопроект, МВД ЮАР заняло более жесткую позицию. Руководство отстранило двух высокопоставленных чиновников, ответственных за проверку текста, но заявило, что ошибки в источниках не отменяют сути предложенных реформ.
Наличие ИИ-галлюцинаций полностью подорвало доверие к законодательным документам. Ситуация в ЮАР зашла так далеко, что власти официально пошли на беспрецедентный шаг – полную ревизию документов за последние несколько лет.
МВД ЮАР официально привлекло две независимые юридические фирмы, чтобы перепроверить все политические и нормативные документы, выпущенные с 30 ноября 2022 года. Эта дата была выбрана не случайно – именно в этот день компания OpenAI представила миру ChatGPT.
Читайте по теме. ИИ-юристы захватывают суды: нейросети устроили юридический кошмар
