Наразі відбувається бурхливий розвиток штучного інтелекту. Розробники нейромереж обіцяють, що ці технології спричинять справжню революцію у багатьох сферах людської діяльності та суспільства. Зокрема, йдеться про значний прорив у медичній галузі. Проте разом із впровадженням ШІ з’являються й нові загрози. Нові дискусії щодо доцільності надання алгоритмам можливості ухвалювати критичні рішення спалахнули після інциденту у Бразилії, де штучний інтелект не пустив пацієнтку до реанімації.
Про це повідомляє видання Futurism із посиланням на бразильське медіа MG1.
Як автоматизована система вплинула на трагедію
32-річна Ребека Кардозо Тененте Моліна померла після п’яти днів очікування на переведення до відділення інтенсивної терапії. Її родина переконана, що ключову роль у затримці відіграла державна цифрова платформа на основі штучного інтелекту. Ця система була створена для оптимізації розподілу лікарняних місць, однак, на думку близьких померлої, алгоритм фактично позбавив жінку своєчасного доступу до критичної допомоги.
Інцидент відбувся в невеликому місті Сан-Жуан-Непомусено. Жінку госпіталізували через ускладнення, пов’язані з жовчними каменями. Згодом її стан різко погіршився, і лікарі наполягали на терміновому переведенні до відділення інтенсивної терапії. Найближче вільне місце у реанімації знаходилося за 300 кілометрів від лікарні в місті Олівейра. Транспортування пацієнтки мала погодити саме автоматизована система Core-MG, яка розподіляє пацієнтів між медичними закладами штату.
“Що ми побачили – так це те, що лікарі втратили автономію у прийнятті рішень щодо критичного стану пацієнта”, — заявляє сестра загиблої та адвокатка родини Самела Кардозо Тененте Фуртадо.
Конфлікт між алгоритмом і медичною оцінкою
Суть проблеми, за словами родини, полягала в тому, як система оцінює стан пацієнтів. Core-MG присвоює кожному хворому цифровий рейтинг важкості. З урахуванням саме цього показника й формується черга пацієнтів до медичних закладів.
Попри клінічні дані, що свідчили про критичний стан Ребеки, алгоритм стабільно оцінював її показник на рівні 6,8 бала з 10. Родичі переконані, що реальна оцінка мала становити максимальні 10 балів.
У результаті пацієнти з трохи вищими показниками пріоритету — 6,9 або 8 балів — отримували місця раніше, фактично “обганяючи” її в черзі.
Самела Фуртадо заявляє, що система виявилася недостатньо гнучкою та не реагувала на зміни стану пацієнтки. Навіть після внесення нових медичних показників, які підтверджували погіршення, алгоритм не відмовлявся змінювати надану раніше оцінку.
Родина Ребеки намагалася домогтися її переведення до реанімації через екстрені юридичні позови. Проте через бюрократичні процедури та технічні затримки дорогоцінний час було втрачено. Через п’ять днів очікування жінка померла.
“Моя сестра та інші люди — це не просто цифри, не просто протоколи і не просто ідентифікаційні номери, закинуті в систему”, — наголошує Самела Кардозо Тененте Фуртадо.
Офіційна позиція влади
Систему Core-MG у штаті Мінас-Жерайс було запроваджено лише нещодавно. Її офіційний запуск відбувся 19 травня 2026 року. Як запевняла заступниця міністра охорони здоров’я регіону Поліана Кардозо Лопес, новий інструмент дозволить оперативно оновлювати дані про доступність лікарняних ліжок і покращить управління потоками пацієнтів. Очікувалося, що штучний інтелект забезпечить точніше планування ресурсів і підвищить ефективність медичної системи.
У департаменті охорони здоров’я штату відкидають звинувачення родини померлої. Чиновники заявляють, що переведення пацієнтів завжди залежить від наявності відповідних медичних місць і клінічних умов. Отже, штучний інтелект Core-MG не здатний змінювати медичні протоколи. Платформа лише автоматизує процес їх виконання.
Однак випадок викликав резонанс у суспільстві та серед експертів. Адже головне питання залишається відкритим: чи може алгоритм ухвалювати остаточні рішення там, де раніше вирішальне слово належало лікарю, який безпосередньо оцінює стан пацієнта?
Нагадаємо, творець DeepMind попередив про небезпеку швидкого розвитку ШІ. На його думку, у людства майже не залишилося часу, аби підготуватися до масштабних змін, які спричинить ця технологія.
