Американская полиция активно внедряет ИИ-инструменты – они распознают лица, фиксируют передвижение автомобилей и анализируют улики. И вот в арсенале правоохранителей появилось автоматическое написание рапортов с помощью ИИ. Разве что-то могло пойти не так?
Итак, полицейский департамент города Хибер-Сити в штате Юта тестировал программу Draft One, которая автоматически составляет полицейские отчеты на основе аудио с нагрудных камер. Идея простая и привлекательная: меньше бумажной работы, больше времени на службу.
Но даже демонстрационная остановка автомобиля закончилась провалом – отчет пришлось серьезно редактировать. Полицейскому департаменту пришлось официально разъяснять, почему в одном из отчетов офицер внезапно превратился… в лягушку.
Причина оказалась прозаичной – и довольно комичной. Система «услышала» фильм, который шел на фоне. Это была «Принцесса и лягушка». Проанализировав голоса полицейского, водителя и персонажей мультфильма, система решила, что результатом проверки стало превращение полицейского офицера в лягушку.
Draft One была представлена в прошлом году компанией Axon. В основе программы лежат языковые модели OpenAI (GPT), которые генерируют полноценные полицейские отчеты по записям с камер. Эксперты почти сразу предупредили: галлюцинации ИИ в таких документах будут неизбежны.
Читайте по теме. ИИ-системы распознавания лиц приводят к арестам невиновных людей
