ИИ-системы распознавания лиц повсеместно внедряются во многих странах. Однако, работают они не так точно, как рассказывают разработчики. Так, полиция Флориды оказалась в неловком положении после того, как стражи порядка арестовали случайного человека в августе 2024 года на основании данных, полученных с помощью ПО для распознавания лиц. Совершенно невиновный человек был обвинен в попытке похитить 12-летнего ребенка.
Согласно полицейскому отчету, Роберт Диллон был объявлен подозреваемым после того, как ИИ-система распознавания лиц связала его с записями видеонаблюдения действительного подозреваемого, заявив, что сходство составляет 93%. Фотография Диллона была затем показана двум свидетелям, которые также опознали 51-летнего мужчину.
Это привело к аресту. Однако, через некоторое время полиции пришлось отпустить Диллона, когда тот смог предъявить алиби.
Впрочем, это далеко не единственный случай ареста невиновного человека по наводке ИИ-системы распознавания лиц. В последнее время все больше полицейских управлений передают свою детективную работу непроверенному и часто несовершенному алгоритмическому программному обеспечению.
В США местная полиция полагается на технологии ИИ, которые сопоставляют базы данных, такие как информация о регистрации водителей, записи камер видеонаблюдения и социальные сети. Эти системы печально известны своей ненадежностью и подхалимством. Эксперты опасаются, что подобное бездумное использование правоохранительными органами ИИ-технологий несет опасность обществу.
Ранее сообщалось, что IT-системы помогут следить за порядком в армии Казахстана.
