Бурное развитие нейросетей и генеративного ИИ мгновенно распахнуло все двери и ящики Пандоры, обнажив массу неприятных сюрпризов. В частности, наивная вера в «универсальный» ИИ в медицинской сфере обернулась тем, что потенциал вреда превысил гипотетическую пользу: западные СМИ сообщают о случаях, когда люди умирали или причиняли вред другим, полагаясь на «могущественный сетевой разум» и его лечебные советы.
Проблема приобрела такие масштабы, что в конце 2025 года OpenAI изменила правила работы ChatGPT, фактически запретив нейросети интерпретировать медицинские жалобы пользователей и назначать терапию. Похожую политику ввёл и Google, ограничив функцию AI Overviews при медицинских запросах в поиске.
Ключевая причина — серьезные базовые недостатки архитектуры и алгоритмов массового ИИ. Во?первых, такие модели тренируются на всём подряд, включая материалы социальных сетей, где можно найти советы вроде «лечить рак соком одуванчика», которые затем попадают в обучающую выборку.
Во?вторых, массовый ИИ по умолчанию ориентирован на то, чтобы максимально удовлетворить запросы пользователя: если человек предполагает, что у него киста в мозге, модель с высокой вероятностью найдет подтверждение в ответе. В?третьих, эти системы склонны к сильным «галлюцинациям»: они нередко выдумывают факты и «документы», приводя убедительно звучащие, но вымышленные доказательства.
В совокупности это делает самолечение с опорой на массовый ИИ не просто рискованным, а потенциально смертельно опасным. Тем не менее это не означает, что использование ИИ в медицине само по себе недопустимо.
Опыт Москвы показывает: ИИ не является панацеей, но при правильной и ответственной интеграции представляет собой мощный специализированный инструмент, способный спасти миллионы жизней. В столичной медицине ИИ применяется в нескольких направлениях.
В радиологической диагностике нейросети анализируют изображения, выполняют точные измерения и размечают снимки, указывая на вероятные патологии. В поликлиниках функционируют ИИ?агенты, которые мгновенно формируют краткие сводки из истории болезни пациента, а также системы поддержки врачебных решений, помогающие выносить предварительные и окончательные диагнозы на основе реальных клинических данных конкретного пациента.
Почему Москва не опасается «галлюцинаций» ИИ? Потому что, в отличие от открытых моделей, тренируемых на огромных массиве интернет?данных, где много шума и дезинформации, московская программа внедрения больших языковых моделей базируется на принципе клинического контроля.
Пациент в Москве не остаётся наедине с машиной. ИИ выступает здесь как оперативный помощник, освобождающий врачей от рутинных операций, способный за секунды обработать огромные объёмы информации, выявить скрытые закономерности в медицинских данных и предложить наиболее вероятные направления для дальнейшей работы с пациентом.
Кроме того, в клиническую практику внедрён сервис, который, анализируя электронную медицинскую карту (ЭМК), оповещает специалистов городских поликлиник о пациентах с риском сердечно?сосудистых заболеваний и рекомендует перечень необходимых контрольных исследований. Основной вызов для врачей и экспертов — огромный объём данных, требующий анализа.
В Москве ежегодно проводится миллионы профилактических процедур и приёмов (маммография, флюорография, диспансеризация и прочие). По состоянию на июль 2025 года на платформе ЕМИАС накоплено более 4,2 миллиарда записей, и их число растёт экспоненциально.
Но главное в московском подходе — многоуровневая система верификации. Прежде чем модель попадёт в клиническое использование, она проходит через «сито» экспертов.
Специалисты уже провели свыше девяти тысяч экспертных оценок, выявляя логические и фактологические ошибки, благодаря чему количество критических погрешностей в работе нейросетей стремится к нулю.