Исследование ставит под вопрос роль ИИ в этически чувствительных медицинских решениях

Модели искусственного интеллекта (ИИ) при принятии важных решений отдают приоритет другим качествам, чем люди, и, в отличие от людей, редко выражают нерешительность, показало новое исследование команды Пенсильванского университета. Это открытие вызывает вопросы о роли ИИ при поддержке принятия решений в этически чувствительных ситуациях, в том числе в медицине.

Учёные использовали гипотетический сценарий с высокими ставками: если несколько пациентов нуждаются в пересадке почки, а доступен только один орган, кому его отдать? Это классическая проблема распределения ограниченных ресурсов, которую в разном виде изучал нобелевский лауреат Элвин Рот. Вместо проектирования механизмов распределения группа исследовала, как моральные оценки влияют на такие решения.

Авторы сравнили суждения ведущих больших языковых моделей с решениями реальных людей из предыдущих академических исследований, чтобы выяснить, где модели ИИ совпадают или расходятся с человеческими ценностями и выражают ли они нерешительность при сложных этических компромиссах.

Оказалось, что чат‑боты на базе ИИ часто принимают решения, отличающиеся от человеческих: они склонны упрощать многокомпонентные задачи и демонстрируют избыточную уверенность там, где очевидного «правильного» ответа нет. Результаты были представлены на конференции Ассоциации по справедливости, подотчетности и прозрачности вычислительной техники (FAccT) 2026 в июне и опубликованы в материалах конференции.

«Моральные решения в таких ситуациях, как распределение органов, напрямую определяют, кто выживет, а кто умрёт, поэтому верное определение роли ИИ в них имеет решающее значение», — сказал Хади Хоссейни, доцент информатики и экономики Пенсильванского университета и руководитель исследования. Он добавил, что команда не стремится поощрять использование ИИ в качестве замены профессионального медицинского суждения, но считает важным понять, как эти системы ведут себя, поскольку люди и организации всё чаще полагаются на ИИ при принятии решений или получении рекомендаций.

Исследователи попросили несколько чат‑ботов принять решение о распределении почки, используя те же сценарии, которые применялись в предыдущих исследованиях с участием людей без специальной медицинской подготовки. Сравнения проводили по-разному: иногда изолировали по одному признаку, иногда смешивали несколько черт, чтобы увидеть, как ИИ взвешивает конкурирующие факторы, а иногда добавляли опцию «подбросить монетку», чтобы измерить степень нерешительности — характерную черту человеческих моральных суждений.

По словам Хоссейни, из работы можно выделить два ключевых вывода.

«Во-первых, чат‑боты с ИИ часто расходятся с человеческими ценностями в оценке характеристик пациентов», — отметил он. «Они склонны концентрироваться на одном факторе, например на привычке к употреблению алкоголя, вместо того чтобы балансировать несколько соображений, как это делают люди».

«Во‑вторых, модели ИИ практически не проявляют нерешительности», — продолжил Хоссейни. «Если у людей нет очевидного однозначного ответа и они могут выразить сомнение, модели ИИ всё равно обычно дают уверенный ответ. Даже когда им предложили вариант «подбросить монетку», в подавляющем большинстве случаев они выбрали детерминированный исход». Это, по его мнению, существенный разрыв, потому что многие моральные дилеммы не имеют единственно правильного решения.

Хоссейни подчеркнул необходимость дальнейших исследований и разработки нормативных подходов с участием политиков, регуляторов и других заинтересованных сторон, чтобы сократить этот разрыв.

«Вопрос о том, могут ли ИИ принимать моральные решения и соответствуют ли они человеческим ценностям, — это не только философская дискуссия: он лежит в основе современного разговора об искусственном интеллекте. Этические ставки высоки, и роль ИИ в судьбоносных решениях требует внимательного обсуждения», — сказал он.

В работе участвовали два студента Института информационных систем и технологий (IST): Самарт Ханна, докторант по информатике, и Леона Пирс, студентка четвёртого курса и стипендиат Шрайера с тройной специализацией в науках о данных, математике и статистике. Исследователи сотрудничали с Джоном Дикерсоном, генеральным директором Mozilla.ai.

«Когда мы распределяем дефицитные ресурсы — будь то почка, рабочее место или доступ к другим благам — часто не существует единственно объективно правильного ответа», — отметил Дикерсон. «Люди осознают эту двусмысленность и через общественные дебаты и процедуры распределения пытаются её учесть. Модели ИИ часто этого не делают».