Судьба всего человечества уже находится в "руках" искусственного интеллекта. Технологии ИИ могут спровоцировать ядерную войну. И для этого им совсем необязательно контролировать ядерные арсеналы стран.
Об этом сообщает издание Foreign Affairs.
В настоящее время оборонные ведомства ядерных держав активно внедряют сервисы, которые базируются на искусственном интеллекте. Однако современные модели ИИ уже умеют вводить людей в заблуждение. Речь идет, в частности, о технологиях создания дипфейков, которые позволяют генерировать реалистичные поддельные изображения, видео и аудио.
Таким образом, искусственный интеллект имеет инструменты для введения в заблуждение даже высшего военного руководства и блокировки дипломатических связей. Дипфейки уже используются для дестабилизации отдельных регионов. В частности, создаются фейковые ролики с лидерами Украины и РФ, целью которых является дезинформация гражданского населения и военных.
Фактически искусственный интеллект уже получил возможность манипулировать руководителями оборонных ведомств и главами государств. Поэтому нельзя исключать сценарий, при котором ответственные за ядерный арсенал должностные лица получат подделанный сигнал об атаке. В такой ситуации им придется быстро принимать решения о ответном ударе.
Авторы публикации отмечают, что США и Китай уже договорились не передавать контроль над ядерными арсеналами искусственному интеллекту. Однако обе страны активно интегрируют ИИ в системы раннего предупреждения. В этих условиях для начала ядерной войны даже не нужно ждать создания общего искусственного интеллекта, который якобы решит уничтожить человечество. Достаточно ошибки современной ИИ-модели, чтобы появился ложный сигнал об атаке.
Ранее судьба мира в значительной мере зависела от дипломатических контактов между лидерами государств. Однако технологии искусственного интеллекта работают с молниеносной скоростью. Таким образом, на дипломатию у человечества просто может не остаться времени.
В Foreign Affairs напоминают, что мир уже находился на грани уничтожения в 1983 году. Тогда предотвратить глобальную катастрофу помог именно человеческий фактор. Советский офицер Станислав Петров получил сигнал о ракетном нападении, однако пришел к выводу, что тревога является ошибкой системы предупреждения. Он не решился запустить ядерные ракеты в ответ и таким образом спас человечество.
Однако современный мир оставляет все меньше места для человеческой интуиции. Следовательно, в случае повторения подобной ситуации чуда может не произойти.
Напомним, эксперты объяснили, как выжить после ядерного удара.
