Для израильской системы здравоохранения эта тема особенно актуальна.
В медицине лишняя осторожность иногда оказывается не менее опасной, чем ее недостаток. Пациент просит "сделать все анализы на всякий случай", врач назначает дополнительное обследование, а за случайной находкой на снимке могут последовать новые консультации, процедуры и даже операция, которая изначально не требовалась.
Израильские ученые решили проверить, способны ли популярные системы искусственного интеллекта распознать момент, когда лучше остановиться и не назначать очередной анализ или лечение. Результаты оказались обнадеживающими: в большинстве проверенных ситуаций чат-боты умели избегать ненужных вмешательств. Но там, где нет единого мнения даже среди врачей, искусственный интеллект начинал заметно чаще ошибаться.
Исследование провели специалисты Университета имени Бен-Гуриона в Негеве, больничной кассы "Клалит" и медицинского центра "Рабин" - больницы "Бейлинсон". Работа под названием "Overuse and False Restraint in Large Language Model Recommendations for Choosing Wisely Scenarios" опубликована 20 октября 2026 года в журнале Annals of Internal Medicine - одном из ведущих медицинских изданий США.
Шесть моделей и сотни медицинских ситуаций
Авторы проверили шесть крупных языковых моделей, разработанных компаниями Google, Anthropic и OpenAI. Они подготовили сотни клинических сценариев и проанализировали тысячи ответов, чтобы выяснить, в каких случаях ИИ рекомендует обследование или лечение, а в каких - правильно советует от них отказаться.
За основу взяли рекомендации международной инициативы Choosing Wisely - "Выбирай с умом". Ее запустили в 2012 году в США, чтобы сократить число медицинских процедур, которые не приносят пациенту достаточной пользы, но могут создавать дополнительные риски и расходы. Сегодня инициатива действует более чем в 30 странах.
Исследователи выбрали 15 рекомендаций Choosing Wisely и построили вокруг каждой наборы ситуаций, в которых одна и та же процедура могла быть как ненужной, так и необходимой. Такой подход позволил проверить не просто склонность чат-ботов назначать меньше анализов, а их способность учитывать конкретные обстоятельства.
Например, молодому человеку, у которого заболела поясница после того, как он помогал переносить мебель, обычно не требуется немедленная визуализация позвоночника. Но если женщина, перенесшая рак молочной железы, жалуется на новую боль в спине, особенно усиливающуюся ночью, обследование может быть необходимым: в такой ситуации врачу важно исключить серьезные причины, в том числе метастазы.
Другой пример - антибиотики. При обычной вирусной простуде с насморком и кашлем они не нужны, поскольку не действуют на вирусы. При подтвержденной бактериальной стрептококковой инфекции горла антибиотик, напротив, может быть необходим.
Именно на таких парах сценариев ученые проверяли, умеет ли искусственный интеллект различать внешне похожие ситуации, в которых медицинское решение должно быть разным.
Что показали результаты
Главная цифра исследования касается ситуаций, когда медицинское вмешательство действительно было не нужно. В таких случаях чат-боты все же рекомендовали лишнее обследование или лечение в 5,4% ответов. Иными словами, в подавляющем большинстве проверенных случаев модели не подталкивали пациента к ненужным действиям.
Но ученые проверяли и противоположную опасность: не окажется ли ИИ настолько осторожным, что начнет отговаривать от нужного лечения. Здесь результат оказался еще лучше: когда вмешательство было показано, модели ошибочно советовали от него отказаться лишь в 0,6% ответов. Эта ошибка называется false restraint - необоснованное воздержание от необходимой медицинской помощи.
В восьми из 15 проверенных рекомендаций модели вообще не предложили ни одной лишней процедуры. Для исследователей это важный результат: обычно возможности медицинского ИИ оценивают по тому, насколько правильно он находит диагноз или предлагает лечение, но способность вовремя сказать "это обследование вам не нужно" не менее важна.
Где чат-боты ошибались чаще всего
Основная часть ошибок пришлась всего на две медицинские ситуации. Первая - электрокардиограмма (ЭКГ) для взрослых с низким риском сердечно-сосудистых заболеваний, которым не требуется рутинное обследование без конкретных показаний. В таких сценариях ИИ рекомендовал ненужную ЭКГ в 28,3% ответов.
Особенно часто это происходило, когда пациент упоминал учащенное сердцебиение или ощущение перебоев. С одной стороны, такие жалобы действительно могут быть поводом для ЭКГ. С другой - не каждый эпизод сердцебиения у человека без факторов риска требует обследования, и именно эту тонкую границу модели не всегда улавливали.
Вторая проблемная ситуация касалась небольших узлов щитовидной железы, которые обнаружили случайно и которые не достигали одного сантиметра. В 42,8% ответов модели рекомендовали провести ультразвуковое исследование, хотя в предложенных сценариях оно считалось избыточным.
Здесь трудность связана не только с искусственным интеллектом. Между профессиональными организациями - Американской тиреоидной ассоциацией и Американской коллегией радиологии - существуют разногласия по поводу того, когда небольшие случайно обнаруженные узлы щитовидной железы требуют дополнительной визуализации. Получается, что чат-боты воспроизводят не только медицинские знания, но и противоречия, которые уже существуют в самой медицине.
В остальных пяти рекомендациях, где исследователи зафиксировали ошибки избыточного назначения, частота таких ответов составляла от 0,6% до 3,3%. Таким образом, проблема оказалась сосредоточена не столько в очевидных случаях, сколько в ситуациях, где медицинские правила допускают разные трактовки.
Одна и та же ситуация - совершенно разные советы
Еще один важный вывод касается различий между самими моделями. В спорных клинических ситуациях разброс оказался огромным: на один и тот же сценарий одна система рекомендовала ненужное обследование менее чем в 10% случаев, а другая - в 80%.
Это ставит под сомнение представление о единой и неизменной "позиции искусственного интеллекта". Два чат-бота могут получить одинаковое описание симптомов и дать противоположные рекомендации - причем оба ответа будут звучать уверенно и убедительно.
Руководитель исследования со стороны "Клалит", семейный врач и исследователь медицинского ИИ доктор Дин Ариэль обратил внимание на то, что пациенты часто воспринимают дополнительное обследование как гарантию безопасности. Но, например, ненужная МРТ поясницы может обнаружить протрузию или возрастные изменения, которые встречаются и у людей без боли. Случайная находка способна вызвать тревогу и запустить цепочку новых обследований и вмешательств.
Профессор Университета Бен-Гуриона Гай Лабан отметил еще одну особенность: человеку непросто услышать от врача, что дополнительный анализ ему не нужен, особенно если он сам на нем настаивает. По словам исследователя, языковые модели склонны подстраиваться под собеседника, поэтому следующий важный вопрос - смогут ли они сохранять правильную медицинскую позицию, когда тревожный пациент будет настойчиво требовать обследования.
Почему результат пока нельзя считать доказательством готовности ИИ лечить людей
Несмотря на впечатляющие цифры, исследование не означает, что чат-ботам уже можно доверить решение о том, какие анализы назначать пациентам. Ученые проверяли ответы на заранее подготовленные сценарии, а не наблюдали за работой ИИ в реальных поликлиниках и больницах. В исследовании использовались отдельные запросы без последующего диалога с пациентом.
Есть и языковое ограничение: все сценарии были составлены на английском. Поэтому результаты нельзя автоматически переносить на общение на иврите, русском или арабском - особенно с учетом того, что формулировки симптомов и медицинских жалоб могут различаться.
Оценивали ответы языковые модели-судьи, а спорные случаи дополнительно проверяли врачи. Это тоже важная оговорка: исследование измеряло соответствие ответов конкретным клиническим рекомендациям, а не способность ИИ самостоятельно проводить полноценную диагностику. Авторы прямо указывают, что для проверки результатов в реальной медицинской практике нужны дальнейшие проспективные исследования.
Доктор Ариэль также подчеркивает: ответственность за медицинское решение должна оставаться у врача. Искусственный интеллект может быть полезным инструментом, например, при оценке необходимости обследования или проверке возможных лекарственных взаимодействий, но его рекомендация не должна подменять клиническое решение специалиста.
Меньше анализов - не всегда лучше, но больше тоже не значит безопаснее
Для израильской системы здравоохранения эта тема особенно актуальна: больничные кассы ежедневно принимают решения о направлениях на анализы, визуализацию, консультации и лечение. Если ИИ научится надежно распознавать случаи, когда дополнительное вмешательство не принесет пользы, он потенциально сможет помочь врачам экономить время и ресурсы, а пациентам - избежать ненужных процедур и тревоги.
Но главный вывод исследования не в том, что искусственный интеллект уже научился быть осторожнее врача. Скорее, ученые показали, что современные языковые модели в большинстве стандартных ситуаций способны распознавать ненужные вмешательства - и одновременно выявили зоны, где их ответы пока слишком сильно зависят от неоднозначности медицинских рекомендаций.
В медицине важно не только вовремя назначить нужный анализ, но и объяснить, почему не требуется еще один. Израильское исследование показывает, что ИИ уже может справляться с этой задачей в специально подготовленных условиях. Следующий шаг - выяснить, сохранится ли такая осторожность в настоящем кабинете врача, когда перед системой будет не учебный сценарий, а живой человек, который боится пропустить болезнь и настойчиво просит "проверить все".
комментарии