ИИ-модель – участник мошеннической схемы. В США подали в суд на страховую компанию Humana, которая специализируется на предоставлении медицинских услуг. Истцы утверждают, что используемая им ИИ-модель nH Predict настроена таким образом, чтобы так как можно чаще отказывать в лечении и помощи пожилым пациентам. Иск подан двумя американцами, но к нему могут присоединиться более 5 млн человек.
– Компания Humana использует модель искусственного интеллекта с 90% ошибок, чтобы отменять врачебные решения и неправомерно отказывать в обслуживании пожилым людям, включенным в страховые планы Medicare Advantage. Как результат, пожилые люди оказываются либо с непомерными медицинскими долгами, либо без необходимого лечения, – говорится в иске.
По мнению истцов, компания с помощью ИИ-модели nH Predict организовала «мошенническую схему», получая при этом «финансовую выгоду».
Это уже второй иск, направленный на использование страховщиком инструмента искусственного интеллекта nH Predict от компании NaviHealth для прогнозирования времени, когда пациенты будут нуждаться в уходе после получения травмы или болезни.
В ноябре 2023 года наследники двух умерших людей подали иск против UnitedHealth – крупнейшей компании медицинского страхования в США – за то, что она также якобы использовала nH Predict для неправомерного отказа в обслуживании.
В обоих случаях истцы утверждают, что страховщики используют несовершенную модель, чтобы вслепую и незаконно прекратить выплаты за послеоперационное обслуживание, которое покрывается страховыми планами Medicare.
Модель, работающая на основе искусственного интеллекта, определяет эти даты, сравнивая диагноз, возраст, жизненную ситуацию и физическое состояние пациента с аналогичными случаями в базе данных, насчитывающей 6 миллионов человек. В свою очередь, модель выдает прогноз медицинских потребностей пациента, продолжительности пребывания и даты выписки.
Однако истцы утверждают, что модель не учитывает все обстоятельства, рекомендации врачей и реальное состояние пациента. Тем не менее страховщики продолжают использовать nH Predict, а сотрудникам NaviHealth предписано строго придерживаться прогнозов, сделанных на основе искусственного интеллекта.
