Подотчетность врачей остаётся ключевой по мере внедрения ИИ в здравоохранение

Поскольку искусственный интеллект всё глубже проникает в здравоохранение, два ведущих врача призывают коллег принимать эту технологию, но помнить, что только люди могут действовать в интересах конкретных пациентов.

Эндрю С. Парсонс из Медицинской школы Университета Вирджинии, MD, MPH, и Адам Родман из Гарвардской медицинской школы, MD, MPH, в новом комментарии отмечают, что ИИ становится всё сложнее с впечатляющей скоростью. Технология уже может соответствовать или превосходить врачей в отдельных задачах — например, при постановке диагноза по письменным клиническим случаям и данным электронных медицинских карт — и это породило споры о том, заменит ли ИИ в будущем врачей в ряде приложений.

Парсонс и Родман подчёркивают, что решение о ведении пациента — выбор лечения, обследований и последующего наблюдения, соответствующих целям и обстоятельствам конкретного человека — не сводится к единственно «правильному» ответу. ИИ, возможно, способен определить состояние здоровья, но выбор того, что делать дальше, требует оценки рисков для данного пациента; рекомендация, верная в теории, может не подойти на практике.

«Руководства и исследования ориентированы на исследуемые популяции, а реальные пациенты часто выходят за рамки этих норм из‑за сложных сопутствующих заболеваний, социальных обстоятельств или потому, что их цели отличаются от конечных точек исследования, — пишут Парсонс и Родман. Отклонение от технически правильного ответа часто является хорошей медицинской практикой, и кто‑то должен отвечать за такое отклонение.»

Именно в этом, по их мнению, заключается реальная роль человека в медицине будущего: несмотря на то, что ИИ возьмёт на себя часть диагностической работы, врачи должны учитывать индивидуальные особенности пациентов, обсуждать варианты с пациентами, принимать трудные решения и нести ответственность за последствия.

«Мы утверждаем, что неизменная роль врача — это подотчетность: принятие на себя риска действий в условиях неопределённости и ответственность за последующие результаты, — отмечают авторы. Эта ответственность реальна только тогда, когда врач продолжает обдумывать решение и заинтересован в его исходе.»

По их словам, эту работу нельзя делегировать искусственному интеллекту, сколь бы точны ни были его диагнозы.

«Врач, который знает, что он будет отвечать за результат, оценивает варианты иначе, чем система, которой нечего терять, — пишут Парсонс и Родман. Клиницист, рассчитывающий вновь увидеть пациента, также учитывает, какой выбор сохранит отношения, если что‑то пойдёт не так. Искусственный интеллект будет продолжать улучшать информацию, на которой основываются эти решения, но он не может взять на себя ответственность за то, что произойдёт дальше.»

Авторы заключают, что врачи‑люди должны приветствовать растущую точность ИИ, но при этом продолжать брать на себя риск и действовать в интересах каждого пациента: в конечном итоге с последствиями будет жить пациент, а не компьютер.