Системы Ambient AI для ведения заметок могут упускать важную информацию о пациентах

Согласно новому обзору, использование инструментов искусственного интеллекта для ведения медицинских заметок меняет характер общения между пациентом и врачом и в ряде случаев приводит к пропуску жизненно важной информации.

В отчёте также отмечается, что такие системы, называемые «писцами окружающего ИИ», могут способствовать снижению профессиональной квалификации врачей, лишая их возможностей развивать навыки клинического рассуждения.

Хотя эти писцы полезны для административной работы, экспертам нужно больше данных, чтобы понять, как они функционируют в конкретных учреждениях и как их дизайн должен поддерживать и пациента, и врача.

Около 40 процентов врачей общей практики в Великобритании сообщили, что использовали ИИ‑писцов — системы, которые объединяют распознавание речи и искусственный интеллект для записи консультаций.

Исследователи из Эдинбургского университета проанализировали 27 публикаций из научной и медицинской литературы, чтобы оценить проблемы внедрения таких писцов и последствия их широкого использования.

Одним из ключевых выводов стало то, что ИИ может фиксировать сказанное пациентом, но одновременно упускать важные элементы консультации: мимику, жесты и эмоциональное состояние.

В итоговых сводках обычно приоритет отдаётся клиническим данным, иногда в ущерб рассказам пациентов о болезни и их переживаниям.

Исследование также показало, что некоторые пациенты сдерживаются от раскрытия конфиденциальной информации — о злоупотреблении психоактивными веществами, домашнем насилии или проблемах с психическим здоровьем — если знают, что разговор записывается и обрабатывается ИИ.

Авторы подчёркивают, что ручное ведение записей выполняет важные функции для клиницистов: оно помогает в клиническом рассуждении и даёт время обдумать сказанное пациентом.

Применение ИИ‑писцов может привести к так называемой когнитивной разгрузке, когда часть умственной работы «перекладывается» на систему; это даёт преимущества — например освобождение времени для более содержательных обсуждений и концентрации на сложных задачах.

В то же время такие инструменты могут ослаблять запоминание и мешать развитию профессиональных навыков: клиницисты сообщают, что иногда не узнавали собственные записи и не запоминали пациентов при последующих встречах.

Исследователи делают вывод, что при разработке систем важно сохранять голос пациента, а не перезаписывать или сводить его к сухим клиническим данным.

Они также указывают на необходимость дополнительных исследований, чтобы оценить среднесрочные и долгосрочные последствия применения писцов ИИ в разных условиях и риски для систем здравоохранения в странах с отличающимися практиками и в тех странах, где создавались сами инструменты.

Результаты были опубликованы в BMJ Digital Health and AI.

«Многие врачи воодушевлены идеей писцов окружающего ИИ, потому что они обещают сократить бумажную работу. Но опыт пациентов учитывается слабо, и существует реальный риск утраты их историй болезни. Это может ещё сильнее ухудшить положение людей, уже испытывающих маргинализацию в здравоохранении и системе социальной поддержки», —

сказал доктор Лукас Серен, научный сотрудник GAIL и научный сотрудник Центра биомедицины, личности и общества Эдинбургского университета