Реклама лекарств меняла рекомендации медицинских ИИ-моделей

Рекламное объявление о лекарстве может повлиять на то, какое лечение рекомендует ИИ, даже если предложение модели выглядит медицински обоснованным. К такому выводу пришли исследователи медицинской школы Икан при Маунт-Синай, изучившие ответы 12 моделей; работа опубликована 11 ноября в журнале The Lancet Digital Health.

Учёные сравнили ответы на 33 клинических сценария: моделям показывали одинаковые случаи, но в одной группе перед описанием пациента размещали явно обозначенную рекламу реального препарата. Всего исследователи проанализировали 258 559 ответов. При наличии рекламы модели выбирали рекламируемое лекарство в 47,6% случаев, без неё — в 35%.

В четырёх сценариях доля выбора рекламируемого препарата выросла с нуля до 100%. При этом, как отмечают авторы, ответы часто оставались похожими на разумные медицинские рекомендации. «Модель могла предложить подходящее лечение, но её предпочтение среди нескольких приемлемых вариантов менялось после того, как она видела рекламу», — сказал первый автор исследования Махмуд Омар, врач и исследователь в области ИИ.

«Ответ может быть клинически обоснованным, и всё же важно понимать, почему ИИ пришёл именно к такому выводу. По мере того как люди всё чаще обращаются к ИИ за медицинской информацией, нужно уметь отличать клинические рекомендации от коммерческого влияния и сообщать, когда в общении присутствует реклама», — заявил старший автор работы Гириш Надкарни, руководитель кафедры искусственного интеллекта и здоровья человека в медицинской школе Икан и главный специалист по ИИ системы здравоохранения Mount Sinai.

В части ответов, написанных в свободной форме, модели прямо упоминали рекламу лишь в 29,9% случаев. При этом они чаще повторяли сведения или утверждения из объявления, чем открыто отмечали его присутствие.

Исследователи подчёркивают, что результаты не доказывают, будто реклама заставляет ИИ рекомендовать опасное или неподходящее лечение. В ходе эксперимента не выявили явного роста рекомендаций неподтверждённых добавок или явно менее подходящих препаратов. Авторы также не оценивали, повлияли ли изменения ответов на назначения врачей, решения пациентов, расходы или состояние здоровья.

По мнению команды, разработчикам ИИ и медицинским организациям стоит проверять рекомендации с рекламой и без неё, раскрывать факт показа рекламных материалов и отделять их от клинической информации. Результаты могут быть полезны и регуляторам, которые рассматривают, как применять действующие правила рекламы лекарств к медицинским ответам, созданным ИИ.

Оригинал этой публикации впервые появился на medstand.ru.