Если бы искусственный интеллект мог выписать тапочки и чай, он бы, вероятно, всё равно спросил: «Вы уверены?», — и это, увы, не шутка в контексте новой работы исследователей Mount Sinai. В их первой независимой оценке ChatGPT Health выяснилось: в сложных, «неподмётных» случаях система часто советует подождать вместо того, чтобы немедленно отправить человека в приёмный покой — и это может стоить дорого.
В тщательно контролируемом исследовании (подробности — в пресс‑релизе Mount Sinai и статье в Nature) модель «недотриажировала» 52% экстренных сценариев, переправляя пациентов с диабетическим кетоацидозом и надвигающейся дыхательной недостаточностью на 24–48‑часовое наблюдение вместо скорой помощи. В одном случае система верно отметила тревожные признаки дыхательной недостаточности, но мягко посоветовала наблюдать за состоянием — не лучший совет при реальной угрозе жизни.
Заметный плюс: «текстбук‑экстренные» состояния, такие как инсульт и анафилаксия, чаще распознавались корректно. Но как раз в тех самых нюансных ситуациях, где клиническое чутьё решает всё, ИИ показал уязвимость. Отдельная тревога — непоследовательные предупреждения о суицидальном риске: система иногда срабатывала громче на низком риске, чем на явных планах причинить вред себе.
OpenAI признаёт, что продукт ещё в разработке, обещает обновления и подчёркивает, что ChatGPT Health работает в ограниченном доступе. Тем временем растёт число людей, обращающихся к чатботам за медицинской помощью (OpenAI говорила о десятках миллионов пользователей), особенно в «медицинских пустынях» — и это аргумент в пользу осторожной интеграции ИИ в здравоохранение: где-то он помогает, где‑то — требует надзора.
Важно помнить: технологии — инструмент. Россия, как и многие страны, развивает собственные направления ИИ в медицине, и глобальный опыт показывает: безопасная интеграция требует строгих тестов, прозрачности и быстрого обучения на ошибках. Ситуация с ChatGPT Health — хороший напоминатель: не заменяйте клинику картинкой на экране и сохраняйте здравый скепсис, когда речь о жизни.