В настоящее время происходит бурное развитие искусственного интеллекта. Разработчики нейросетей обещают, что эти технологии вызовут настоящую революцию во многих сферах человеческой деятельности и общества. В частности, речь идет о значительном прорыве в медицинской отрасли. Однако вместе с внедрением ИИ появляются новые угрозы. Новые дискуссии о целесообразности предоставления алгоритмам возможности принимать критические решения вспыхнули после инцидента в Бразилии, где искусственный интеллект не пустил пациентку в реанимацию.
Об этом сообщает издание Futurism со ссылкой на бразильское медиа MG1.
Как автоматизированная система повлияла на трагедию
32-летняя Ребека Кардозо Тененте Молина умерла после пяти дней ожидания перевода в отделение интенсивной терапии. Ее семья уверена, что ключевую роль в задержке сыграла государственная цифровая платформа на основе искусственного интеллекта. Эта система была создана для оптимизации распределения больничных мест, однако, по мнению близких умершей, алгоритм фактически лишил женщину своевременного доступа к критической помощи.
Инцидент произошел в небольшом городе Сан-Жуан-Непомусено. Женщину госпитализировали из-за осложнений, связанных с желчными камнями. Впоследствии ее состояние резко ухудшилось, и врачи настаивали на срочном переводе в отделение интенсивной терапии. Ближайшее свободное место в реанимации находилось в 300 километрах от больницы в городе Оливейра. Транспортировку пациентки должна была согласовать именно автоматизированная система Core-MG, которая распределяет пациентов между медицинскими учреждениями штата.
"То, что мы увидели, — это то, что врачи потеряли автономию в принятии решений о критическом состоянии пациента", — заявляет сестра погибшей и адвокат семьи Самела Кардозо Тененте Фуртадо.
Конфликт между алгоритмом и медицинской оценкой
Суть проблемы, по словам семьи, заключалась в том, как система оценивает состояние пациентов. Core-MG присваивает каждому больному цифровой рейтинг тяжести. С учетом именно этого показателя и формируется очередь пациентов в медицинские учреждения.
Несмотря на клинические данные, свидетельствовавшие о критическом состоянии Ребеки, алгоритм стабильно оценивал ее показатель на уровне 6,8 балла из 10. Родственники убеждены, что реальная оценка должна была составлять максимальные 10 баллов.
В результате пациенты с немного более высокими показателями приоритета — 6,9 или 8 баллов — получали места раньше, фактически "обгоняя" ее в очереди.
Самела Фуртадо заявляет, что система оказалась недостаточно гибкой и не реагировала на изменения состояния пациентки. Даже после внесения новых медицинских показателей, подтверждающих ухудшение, алгоритм отказывался менять данную ранее оценку.
Семья Ребеки пыталась добиться ее перевода в реанимацию через экстренные юридические иски. Однако из-за бюрократических процедур и технических задержек драгоценное время было упущено. Через пять дней ожидания женщина скончалась.
"Моя сестра и другие люди — это не просто цифры, не просто протоколы и не просто идентификационные номера, закинутые в систему", — подчеркивает Самела Кардозо Тененте Фуртадо.
Официальная позиция властей
Система Core-MG в штате Минас-Жерайс была введена в действие лишь недавно. Ее официальный запуск состоялся 19 мая 2026 года. Как заверяла заместитель министра здравоохранения региона Полиана Кардозо Лопес, новый инструмент позволит оперативно обновлять данные о доступности больничных коек и улучшит управление потоками пациентов. Ожидалось, что искусственный интеллект обеспечит более точное планирование ресурсов и повысит эффективность медицинской системы.
В департаменте здравоохранения штата отрицают обвинения семьи умершей. Чиновники заявляют, что перевод пациентов всегда зависит от наличия соответствующих медицинских мест и клинических условий. Следовательно, искусственный интеллект Core-MG не способен изменять медицинские протоколы. Платформа лишь автоматизирует процесс их выполнения.
Однако случай вызвал резонанс в обществе и среди экспертов. Ведь главный вопрос остается открытым: может ли алгоритм принимать окончательные решения там, где ранее решающее слово принадлежало врачу, который непосредственно оценивает состояние пациента?
Напомним, создатель DeepMind предупредил об опасности быстрого развития ИИ. По его мнению, у человечества почти не осталось времени, чтобы подготовиться к масштабным изменениям, которые вызовет эта технология.
