Автоматизированное принятие решений на основе ИИ сегодня провозглашается следующим большим прорывом, который позволит экономить время и ресурсы. Однако людям совершенно не нравится, когда нейросети принимают решения по таким вопросам, как кредитование, прием на работу, страхование или аренда жилья.
Организация Electronic Frontier Foundation провела масштабное исследование совместно с Consumer Reports, в ходе которого выяснилось, что людям не нравится, когда ИИ используется для принятия решений о найме на работу, банковских услугах, аренде жилья, медицинской диагностике и слежке.
Среди более чем 2000 опрошенных 72% заявили, что им было бы «неприятно», если бы ИИ сканировал их лица и анализировал ответы на вопросы во время собеседования. 45% отметили, что им «очень неприятна» такая идея.
Примерно две трети респондентов выразили негативное отношение к использованию нейросетей финансовыми учреждениями для определения возможности получения кредита.
Столько же опрошенных заявили, что они против использования ИИ арендодателями для определения пригодности арендаторов, а почти 40% отметили, что им «очень не нравится» такая практика.
Более половины респондентов сказали, что им неприятно использование искусственного интеллекта для наблюдения и распознавания лиц, а около трети выразили, что им это «очень не нравится».
На вопрос о приемлемости использования ИИ в медицинской диагностике и планировании лечения половина респондентов ответила отрицательно.
Подавляющее большинство опрошенных – около 83% – хотели бы знать, на каких данных обучались алгоритмы, принимающие решения, а 91% хотели бы иметь возможность корректировать эти данные, если они ошибочны. Учитывая, что ИИ часто ошибается и действует дискриминационным образом, эти опасения, вероятно, не беспочвенны.
Несмотря на такие рациональные и здравые опасения, некоторые компании и правительства настойчиво стремятся внедрять эту зарождающуюся и подверженную ошибкам технологию, чтобы сократить затраты на человеческий труд.
