Американские (и не только) врачи уже используют нерегулируемые и малоиспытанные инструменты искусственного интеллекта для помощи в диагностике пациентов. Об этом говорится в исследовании издания politico.com. Эксперты считают, что отрасль в будущем может захлестнуть волна скандальных исков о халатности и врачебных ошибках, если регуляторы не вмешаются в этот процесс.
Возможно, вы помните юристов, которые пытались использовать инструменты ИИ в суде. Как правило, такие истории заканчивались разоблачением и наказанием, когда нейросети ошибались или придумывали прецеденты, которых на самом деле не существовало. Оказывается, врачи тоже стали активно использовать ИИ-модели для диагностирования болезней.
– Телега так сильно опережает лошадь, что в любой момент может скатиться в овраг. Очевидный ответ заключается в том, что технологии нуждаются в регулировании – концепция, которая получила номинальную поддержку от всех заинтересованных сторон, от Белого дома до OpenAI, – говорит исследователь общественного здравоохранения из Калифорнийского университета Сан-Диего Джон Айерс.
Одна из ключевых проблем заключается в том, что большинство медицинских товаров – фармацевтические препараты, хирургическое оборудование или медицинские приборы – получают одобрение на неопределенное время использования.
Напротив, модели искусственного интеллекта постоянно меняются по мере того, как их создатели настраивают и добавляют больше данных. Это значит, что после сотен правильных диагнозов, ИИ однажды (после очередного обновления) может ошибиться или «словить» галлюцинацию.
Если обязать регуляторов создать и поддерживать рабочие процессы для постоянного тестирования медицинских систем искусственного интеллекта, это потребует невообразимых объемов работы и финансирования.
Одна из идей заключается в том, что медицинские школы и академические центры могли бы создать лаборатории, которые бы постоянно проверяли работу инструментов искусственного интеллекта в здравоохранении. Однако, и это может оказаться непосильной задачей.
А пока ИИ-модели проникают в медицину без одобрения. И для этого есть весьма важная причина.
Дело в том, что более 90% американских врачей сообщают, что чувствуют себя перегоревшими. Такие результаты удалось получить по время опроса компании Athenahealth.
Исследование показало, что чрезмерные административные задачи, такие как бумажная волокита, являются движущей силой этого выгорания: 64% врачей заявили, что чувствуют себя перегруженными канцелярскими требованиями. Более 60% респондентов заявили, что рассматривали возможность ухода из медицинской сферы, говорится в отчете.
Несмотря на эти препятствия, 83% врачей, участвовавших в опросе, заявили, что помочь им может искусственный интеллект. Медики считают, что технология в конечном итоге может упростить административную работу, повысить точность диагнозов, выявить закономерности и аномалии в данных о пациентах и многое другое.
