Авторы статьи в JAMA призвали не закреплять последнее слово за врачом при использовании ИИ

В JAMA опубликована дискуссионная статья, авторы которой прогнозируют, что автономный ИИ сможет превзойти связку врача и алгоритма в ряде медицинских задач. Они предлагают не закреплять обязательный контроль врача в регулировании, одновременно признавая, что большинство подтверждающих данных получено в симуляциях, а не в реальной клинической практике.

В медицинском журнале JAMA опубликована статья о возможном переходе от вспомогательного медицинского ИИ к автономным системам. Ее авторы — специалисты Пенсильванского университета, телемедицинской компании Curai Health и венчурной фирмы Khosla Ventures — считают, что в некоторых задачах модель без участия врача со временем сможет работать точнее, чем врач с доступом к той же технологии.

Авторы ссылаются на исследования медицинского опроса, диагностики, выбора обследований и лечения. По их мнению, если алгоритм превосходит специалиста, требование оставить окончательное решение за человеком может не повысить, а снизить точность из-за ошибочной отмены рекомендаций системы.

Статья предлагает регуляторам не закреплять модель с обязательным участием врача и заранее пересмотреть правила ответственности, оплаты и медицинской подготовки. При этом авторы признают, что почти все имеющиеся результаты относятся к симуляциям отдельных задач: автономные системы по-прежнему подвержены галлюцинациям, сбоям инфраструктуры и кибератакам, а хирургические и другие физические процедуры остаются за людьми.