Учёные бьют тревогу из-за появления новой модели искусственного интеллекта Claude Mythos, разработанной компанией Anthropic. Её презентация состоялась лишь в апреле. Однако она уже вызвала резонанс среди экспертов. Аналитики считают, что этот ИИ может представлять угрозу для глобальной ядерной безопасности.
Об этом сообщает издание “РБК-Украина” со ссылкой на исследование Стэнфордского университета Cyber Threats and Nuclear Weapons.
Модель Mythos в настоящее время находится в закрытом доступе и используется лишь ограниченным кругом крупных технологических корпораций. В то же время результаты её применения вызвали обеспокоенность у специалистов по кибербезопасности. Исследователи отмечают, что система демонстрирует чрезвычайно высокую эффективность в выявлении так называемых zero-day-уязвимостей. Речь идёт о критических ошибках в программном коде, для которых ещё не созданы защитные решения.
Особое внимание эксперты обращают на скорость работы модели. По предварительным оценкам, Mythos способна генерировать сценарии использования уязвимостей менее чем за 24 часа. А вероятность успешной реализации таких сценариев превышает 72%.
Некоторые примеры применения нового ИИ уже получили широкий резонанс среди технологического сообщества. В частности, модель выявила критическую ошибку в системе OpenBSD. Киберспециалисты не замечали эту уязвимость около 27 лет. В то же время инженеры Mozilla заявили, что искусственный интеллект нашел большое количество потенциально опасных проблем в браузере Firefox.
"Это означает, что наступательные кибервозможности как государств, так и преступных группировок могут возрастать быстрее, чем способность защитников исправлять ошибки", — подчеркивают ученые.
Наибольшее беспокойство у ученых вызывает потенциальное влияние таких технологий на ядерную инфраструктуру. Эксперты подчеркивают, что современное ядерное оружие — это далеко не только боезаряды. Речь идёт о сложной экосистеме цифровых компонентов: системы связи, раннего предупреждения, командные центры и другие элементы управления.
Таким образом, по словам специалистов, ныне понятие одной “красной кнопки” фактически теряет смысл. На самом деле существуют сотни цифровых узлов, вмешательство в которые потенциально способно вызвать ядерный кризис или даже войну.
Среди ключевых рисков исследователи выделяют:
- потерю коммуникации между политическим руководством и силами ядерного сдерживания;
- возможность подмены или перехвата команд на запуск вооружений через кибервмешательство;
- создание ложных сигналов об атаке, которые могут спровоцировать неконтролируемую эскалацию.
Дополнительный уровень угрозы, как отмечают эксперты, создаёт объединение ядерных систем с традиционными военными цифровыми платформами. В таком случае кибератака на неядерные системы может быть ошибочно расценена как атака на стратегический арсенал.
В исследовании также подчеркивается, что глобальная система безопасности сегодня фактически удерживается на трёх ключевых предположениях:
- убежденности в отсутствии критических скрытых уязвимостей;
- уверенности, что защитные механизмы успеют адаптироваться к новым методам атак;
- надежде, что потенциальный противник не выявит слабые места раньше.
Однако, как отмечают авторы исследования, с появлением Claude Mythos и подобных моделей перечисленные предположения становятся всё менее очевидными.
"Автоматизация кибератак с помощью больших языковых моделей делает ядерную политику всё менее предсказуемой. Выбор в пользу ядерного сдерживания теперь фактически является ставкой на то, что удача останется на стороне человечества и впредь, несмотря на цифровую уязвимость систем", — подытоживают ученые.
Напомним, даже локальный ядерный конфликт будет иметь катастрофические последствия для всей планеты.
