Авторитетный медицинский журнал Nature Medicine опубликовал критическую статью с предупреждением об использовании ИИ в медицине. Главный вывод – пока нет убедительных доказательств, что ИИ-технологии реально приносят пользу пациентам или врачам.
Поводом для обсуждения стало то, что все больше людей обращаются к чат-ботам за медицинскими советами. И самое тревожное, что консультация с ИИ нередко становится альтернативой похода к врачу. При этом ученые продолжают находить серьезные проблемы в работе нейросетей. Например, они могут придумывать несуществующие диагнозы, факты или даже болезни.
В редакционной статье говорится, что заявления о пользе ИИ в медицине звучат все чаще, но при этом нет четких стандартов, как эту пользу измерять, а самое главное – проконтролировать. В результате технологии начинают хаотично проникать в повседневную жизнь.
Авторы призывают срочно разработать понятные правила оценки таких систем: по каким критериям их проверять и какие доказательства считать достаточными.
Исследования показывают, что в реальных условиях ИИ часто ошибается. Например, в журнале JAMA описан случай, когда современные модели не смогли правильно поставить диагноз более чем в 80% случаев, если симптомы были неочевидными.
Ученые признают, что ИИ может быть полезен, например, для обработки данных или ускорения исследований. Но при этом важно понимать его ограничения и не полагаться на него бездумно.
Читайте по теме. ВОЗ: резистентность бактерий к антибиотикам угрожает всему человечеству
