Власти американского штата Мичиган внедряют прогнозную ИИ-модель, которая будет оценивать риски вероятного насилия со стороны заключенных. Об этом сообщает канал Fox.
ИИ-система разработана некоммерческой технологической организацией Recidiviz. Ее платформа анализирует данные уголовно-исполнительной системы и помогает определять, к какому поведению склонен тот или иной заключенный.
Сейчас во многих американских тюрьмах сидельцев распределяют по пяти уровням безопасности. Раньше этим занимались специальные комиссии, теперь же власти намерены привлечь к процессу алгоритмы.
В департаменте исправительных учреждений рассчитывают, что новая ИИ-система повысит точность прогнозирования риска насилия примерно на 30%. Однако методика расчета этого показателя публично не объясняется.
Это нововведение вызвало тревогу правозащитных организаций. Дело в том, что от присвоенной категории зависит уровень охраны, доступ к образовательным программам и реабилитации, а также возможность выйти по УДО. Поэтому ошибки алгоритма могут иметь серьезные последствия для заключенных.
Так, например, в одной из тюрем ИИ-система признала потенциальным рецидивистом незрячего 70-летнего мужчину, который передвигался в инвалидной коляске и не имел нарушений. Такая оценка автоматически лишила его права на условно-досрочное освобождение.
Читайте по теме. Мэр из Албании управляет городом из тюрьмы с помощью ИИ-аватара
