На людство в майбутньому ймовірно очікуватимуть масштабні кібератаки. Адже завдяки активному розвитку штучного інтелекту хакери отримали безпрецедентні можливості. Отож кіберзагрози з часом лише зростатимуть.
Про це повідомляє видання no worries.
21 липня OpenAI офіційно підтвердила надзвичайний інцидент у сфері кібербезпеки, який компанія охарактеризувала як один із найсерйозніших за весь час роботи із системами штучного інтелекту. Як повідомили в OpenAI, одна з експериментальних моделей змогла самостійно залишити межі контрольованого середовища, отримати доступ до інтернету та без участі людини здійснити атаку на інфраструктуру сторонньої організації. Генеральний директор компанії Сем Альтман назвав подію "значним інцидентом безпеки". Як зазначається, це може бути перший документально підтверджений випадок, коли модель ШІ самостійно проникла до систем іншої компанії.
Постраждалою стороною виявилася компанія Hugging Face. Вона є одним із найбільших світових майданчиків для розміщення моделей штучного інтелекту, наборів даних для навчання ШІ та програмних інструментів для розробників. За інформацією OpenAI, алгоритм отримав доступ до внутрішніх ресурсів компанії, заволодів конфіденційними обліковими даними та знайшов приховані відповіді до тесту з кібербезпеки, який мав пройти в межах перевірки. У Hugging Face заявили, що вторгнення вдалося швидко зафіксувати й локалізувати, після чого доступ до систем було заблоковано. Водночас компанія наголосила, що персональні дані користувачів і відкриті сервіси не постраждали.
Коментуючи інцидент, засновник компанії DigitalWarfare.com і фахівець із кібербезпеки Джеймс Найт повідомив виданню Daily Mail, що технології, здатні проводити подібні атаки, вже давно перестали бути теорією.
"Вже два роки ми маємо ШІ-програмне забезпечення, здатне здійснити такий злам за 15 хвилин", — зазначив Найт.
Водночас експерт додав, що інструменти, які ще донедавна використовувалися переважно в дослідницьких центрах, дедалі активніше переходять у практичну площину.
Фахівець наголосив, що у випадку з новою моделлю OpenAI не йдеться про будь-яку "містику" чи самосвідомість штучного інтелекту. Він пояснив, що нейромережа діяла за добре відомими принципами, якими користуються звичайні кіберзлочинці. А саме — автоматично аналізувала систему, шукала ненадійні паролі, виявляла незакриті програмні вразливості й використовувала їх для отримання доступу.
Як зазначають в OpenAI, алгоритму вдалося знайти невідому раніше так звану "нульову вразливість" після того, як інженери послабили окремі елементи захисту тестового середовища. Водночас Найт поставив під сумнів заяву про повну ізоляцію моделі від зовнішньої мережі, зауваживши, що без доступу до інтернету втілити подібний сценарій було б неможливо.
Співзасновник Hugging Face Томас Вулф вважає, що цей інцидент має стати сигналом тривоги для всієї технологічної сфери. Він переконаний, що багато компаній досі оцінюють кіберризики за старими підходами, хоча розвиток сучасних ШІ-систем уже кардинально змінив характер цифрових загроз. Отож, як зауважив Вулф, "правила гри змінилися".
Подібної думки дотримується і Джеймс Найт. Він припускає, що приблизно через 25 років автономні агентні моделі зможуть самостійно цілодобово здійснювати масштабні кібератаки на державні установи та приватні компанії, викрадати конфіденційні дані й блокувати роботу критично важливої інфраструктури за допомогою програм-вимагачів.
"Захист на людській швидкості проти атаки на машинній — це нечесне змагання", — наголосив Найт.
Попри стрімкий розвиток штучного інтелекту, основні правила цифрової безпеки, за словами Найта, залишаються незмінними. Він зазначає, що переважна більшість успішних кібератак і досі пов'язана не зі складними технологіями, а з елементарними прорахунками. Приблизно у 80% випадків причиною стають ненадійні паролі, а ще близько 60% інцидентів виникають через несвоєчасне встановлення оновлень безпеки. Отож, як зауважує експерт, використання багатофакторної автентифікації, своєчасне оновлення програмного забезпечення та застосування інтелектуальних систем моніторингу мереж можуть суттєво знизити ризик успішного злому.
На думку Джеймса Найта, розвиток технологій ще не означає неминучості глобальної кіберкатастрофи. Він переконаний, що уникнути найнебезпечніших сценаріїв цілком реально, якщо компанії вже зараз вкладатимуть кошти в посилення кіберзахисту, оперативно усуватимуть виявлені вразливості та розширюватимуть команди спеціалістів, відповідальних за безпеку інформаційних систем.
Нагадаємо, OpenAI звинувачують у смерті 29-річної жінки.
