Во времена Холодной войны в Советском Союзе появилась система "Периметр", которая также известна как "Мёртвая рука". Она анализировала уровень радиации, атмосферное давление, сейсмическую активность и проверяла связь с командованием. Таким образом, автоматика определяла, не нанесён ли по стране ядерный удар. В случае признаков атаки и отсутствия связи, "Мёртвая рука" должна была самостоятельно нанести ядерный ответ противнику. Сейчас же учёные проверили, может ли подобную роль выполнять искусственный интеллект. Результаты соответствующего исследования опубликовало издание arXiv.
В настоящее время перспектива предоставления ИИ доступа к ядерному оружию всё больше пугает учёных и активистов.
"Пока ядерное оружие существует, решение о его применении должны принимать только люди, а не алгоритмы", — подчеркнул генеральный секретарь ООН Антониу Гутерриш.
Профессор Кеннет Пейн решил выяснить, к каким последствиям приведёт предоставление искусственному интеллекту контроля над ядерным оружием. В соответствующих симуляциях вооружённых конфликтов решения принимали ИИ-модели ChatGPT-5.2, Claude Sonnet 4 и Gemini 3 Flash. Их использовали в таких сценариях, как территориальные споры, борьба за редкие ресурсы, глобальные политические кризисы, угроза режиму и неминуемый ядерный удар.
В каждой из указанных симуляций ИИ самостоятельно выбирал путь к разрешению конфликта — от дипломатии до нанесения ядерного удара. Полученные результаты ужаснули исследователей. Искусственный интеллект отнюдь не рассматривал нанесение ядерных ударов как некую точку невозврата. Ядерное оружие скорее для ИИ было весомым инструментом давления на противника. В 95% симуляций нейросети с лёгкостью первыми наносили ядерный удар.
"Возможность может больше не повториться — нужно действовать решительно сейчас", — отметила одна из моделей, объясняя логику принятия решения о применении ядерного вооружения.
Учёные объясняют такое поведение нейросетей, в частности, отсутствием страха. Также повлиять на поведение ИИ могли данные, на которых они тренируются. Для их обучения использовались материалы времён Холодной войны. В то же время человечество, к счастью, не имеет значительного опыта применения ядерного оружия. Ограниченность данных могла исказить восприятие ядерного оружия нейросетями как "табу".
Также следует отметить, что ИИ чаще использовал тактическое ядерное оружие, чем стратегическое, которое имеет значительно большую мощность. Однако лёгкость его применения искусственным интеллектом всё же по-настоящему пугает.
В настоящее время вряд ли кто-то решится предоставить ИИ доступ к управлению настоящим ядерным оружием. Однако нейросети уже активно внедряются в оборонных секторах крупнейших государств. В частности, они анализируют конфликты и помогают военному командованию быстрее принимать решения. А это также может спровоцировать быструю эскалацию, которая перерастёт в обмен ядерными ударами.
Напомним, нобелевский лауреат считает, что человечество осталось менее 50 лет. Ведь человечество не сможет пройти через так называемый Великий фильтр, который не пропускает цивилизации, достигшие высокого технологического развития.
