Науковці б’ють на сполох через появу нової моделі штучного інтелекту Claude Mythos, розробленої компанією Anthropic. Її презентація відбулася лише у квітні. Проте вона вже викликала резонанс серед експертів. Аналітики вважають, що цей ШІ може становити загрозу для глобальної ядерної безпеки.
Про це повідомляє видання “РБК-Україна” з посиланням на дослідження Стенфордського університету Cyber Threats and Nuclear Weapons.
Модель Mythos наразі перебуває у закритому доступі та використовується лише обмеженим колом великих технологічних корпорацій. Водночас результати її застосування викликали занепокоєння у фахівців з кібербезпеки. Дослідники зазначають, що система демонструє надзвичайно високу ефективність у виявленні так званих zero-day-вразливостей. Йдеться про критичні помилки у програмному коді, для яких ще не створено захисних рішень.
Окрему увагу експерти звертають на швидкість роботи моделі. За попередніми оцінками, Mythos здатна генерувати сценарії використання вразливостей менш ніж за 24 години. А ймовірність успішної реалізації таких сценаріїв перевищує 72%.
Деякі приклади застосування нового ШІ вже отримали широкий резонанс серед технологічної спільноти. Зокрема, модель виявила критичну помилку в системі OpenBSD. Кіберфахівці не помічали цю вразливість близько 27 років. Водночас інженери Mozilla заявили, що штучний інтелект знайшов велику кількість потенційно небезпечних проблем у браузері Firefox.
"Це означає, що наступальні кіберможливості як держав, так і злочинних угруповань можуть зростати швидше, ніж здатність захисників виправляти помилки", — наголошують вчені.
Найбільше занепокоєння у науковців викликає потенційний вплив таких технологій на ядерну інфраструктуру. Експерти наголошують, що сучасна ядерна зброя — це далеко не лише боєзаряди. Йдеться про складну екосистему цифрових компонентів: системи зв’язку, раннього попередження, командні центри та інші елементи управління.
Отож, за словами фахівців, нині поняття однієї “червоної кнопки” фактично втрачає сенс. Насправді існують сотні цифрових вузлів, втручання в які потенційно здатне спричинити ядерну кризу або навіть війну.
Серед ключових ризиків дослідники виділяють:
- втрату комунікації між політичним керівництвом і силами ядерного стримування;
- можливість підміни або перехоплення команд на запуск озброєнь через кібервтручання;
- створення хибних сигналів про напад, які можуть спровокувати неконтрольовану ескалацію.
Додатковий рівень загрози, як зазначають експерти, створює об’єднання ядерних систем із традиційними військовими цифровими платформами. У такому випадку кібератака на неядерні системи може бути помилково розцінена як атака на стратегічний арсенал.
У дослідженні також підкреслюється, що глобальна система безпеки сьогодні фактично тримається на трьох ключових припущеннях:
- переконанні у відсутності критичних прихованих вразливостей;
- впевненості, що захисні механізми встигатимуть адаптуватися до нових методів атак;
- надії, що потенційний противник не виявить слабкі місця раніше.
Однак, як зазначають автори дослідження, з появою Claude Mythos та подібних моделей перелічені припущення стають дедалі менш очевидними.
"Автоматизація кібератак за допомогою великих мовних моделей робить ядерну політику все менш прогнозованою. Вибір на користь ядерного стримування тепер фактично є ставкою на те, що удача залишатиметься на боці людства і надалі, попри цифрову вразливість систем", — підсумовують науковці.
Нагадаємо, навіть локальний ядерний конфлікт матиме катастрофічні наслідки для всієї планети.
