Местный Минздрав заметил странные символы в медицинских заключениях, которые пациенты получали на портале «Госуслуги». Вместо сухого бюрократического языка в документах появлялись эмодзи — например, улыбающиеся рожицы и сердечки. Такая стилистика оказалась характерной для общения с нейросетью. Проверка подтвердила: врачи ставили диагнозы, просто копируя ответы чат-бота.
Как это вышло наружу
Пациенты не сразу поняли, что что-то не так. Мало кто обращает внимание на оформление справки, если само заключение выглядит правдоподобно. Но кто-то всё же заметил, что в тексте встречаются странные обороты: слишком общие фразы, которые обычно не пишут в медицинских документах. Сотрудники Минздрава проанализировали несколько десятков таких заключений и выяснили: примерно каждый пятый нижегородский врач регулярно пользуется ChatGPT, чтобы ускорить заполнение бумаг. Ещё треть заявили, что хотели бы освоить этот инструмент.
По данным источника, руководство больниц уже получило устное распоряжение прекратить практику. Формально пока никаких официальных разбирательств не начато, но в ведомстве говорят о готовности провести проверку Росздравнадзора.
«Врачи перестали думать головой. Они просто гонят поток больных, а диагнозы выдают на коленке. Искусственный интеллект в медицине — это не игрушка. Это угроза для пациентов», — прокомментировал ситуацию один из сотрудников нижегородской поликлиники на условиях анонимности.
Почему врачи идут на это
Парадокс в том, что сами медики не считают свои действия чем-то преступным. Им приходится заполнять горы документации: карты, направления, эпикризы. Ресурсы ограничены, а поток пациентов растёт. Нейросеть для постановки диагноза воспринимается как спасение: быстро, удобно, не требует глубоких знаний по конкретному случаю. Особенно это касается стандартных жалоб — ОРВИ, гипертония, гастрит.
Но есть и другая сторона. Чат-бот для постановки диагноза не видит пациента, не знает его историю болезни, аллергии, сопутствующие патологии. Он не может провести осмотр. Более того, нейросеть склонна к так называемым галлюцинациям в диагнозах — когда она выдумывает несуществующие симптомы или назначает препараты, которые могут навредить. Это описано даже в исследованиях OpenAI: компания не рекомендует использовать ChatGPT для медицинских консультаций именно из-за высоких рисков.
Этика использования ИИ врачами под вопросом
Прямо сейчас в России нет закона, который бы однозначно запрещал врачам опираться на нейросеть. Но есть клинические рекомендации и требования врачебной этики. Согласно основным нормам, медик несёт полную юридическую ответственность за каждый поставленный диагноз. Если выяснится, что он действовал на основе ответов ChatGPT, — это уже основание для уголовного дела: «халатность» или «причинение вреда здоровью по неосторожности».
Кроме того, возникает вопрос конфиденциальности данных пациентов. ChatGPT обрабатывает запросы на серверах третьих стран. Передавая туда описание симптомов, результаты анализов и личные данные, врач нарушает федеральный закон о персональных данных. И это уже не вопрос этики, а вопрос уголовной ответственности медиков.
Мнение профессионала
Ранее кардиолог, доктор медицинских наук Алексей Никитин, комментируя похожую ситуацию, отмечал, что ИИ может быть полезен только как подсказка на начальном этапе — например, для быстрого поиска возможных диагнозов по введённым симптомам. Но окончательное решение всегда должен принимать врач, учитывая всю картину: возраст, хронические болезни, наследственность.
Он подчеркнул: особенно опасно, когда пациенты сами начинают следовать советам нейросети и заниматься самолечением. ИИ может неправильно интерпретировать симптомы, из-за чего больной потеряет время, а болезнь будет прогрессировать.
«Диагностика болезней нейросетью — это рискованный эксперимент над здоровьем живых людей. Мы не доверяем роботу управление самолётом, но почему-то готовы отдать ему жизнь пациента», — добавил врач.
Чем это грозит здравоохранению
После скандала в Нижнем Новгороде логично ожидать усиления контроля. Минздрав, скорее всего, выпустит разъяснительные письма о недопустимости использования нейросетей при составлении заключений. Возможно, последуют проверки в других регионах. Вопрос автоматизации работы врачей при этом никуда не денется — слишком велик груз бумажной работы. Но решение должно быть другим: внедрение официально одобренных систем, которые работают по правилам и не нарушают врачебную этику, а не кустарное применение ChatGPT.
Пока же в больницах снова вздохнули: придётся либо нанимать больше сотрудников, либо мириться с очередями. А пациенты теперь будут настороженно относиться не только к диагнозам, но и к самим врачам. Доверие — вещь хрупкая. Один «диагноз со смайликом» — и его уже не вернуть.