Голливуд обратился к теме увлечения мира искусственным интеллектом еще задолго до появления современных ИИ-моделей. Одним из известнейших примеров такого сюжета является вселенная "Терминатора". Серия этих фильмов сформировала представление, что для порабощения человечества искусственному интеллекту потребуются роботы. Однако историк и футуролог Юваль Ной Харари убежден, что настоящая угроза связана не с появлением боевых роботизированных систем. По его мнению, она кроется в постепенном проникновении алгоритмов в бюрократические структуры.
Об этом Юваль Ной Харари рассказал во время лекции в Оксфордском университете.
По его мнению, именно через контроль над административными процессами ИИ может получить решающее влияние на жизнь людей без каких-либо войн или силовых переворотов.
"Когда мы думаем о ИИ, который вышел из-под человеческого контроля, мы представляем "Терминатор" — армию роботов, бегающих по улицам и стреляющих в людей. Но это не так… ИИ не нужна революция, чтобы захватить мир", — отметил футуролог.
Почему алгоритмы "любят" бюрократию
По мнению историка, современная цивилизация фактически держится на работе бюрократических механизмов. Они обеспечивают функционирование государственных органов, финансовой системы, судов, крупных компаний и других институций. Именно через такие системы происходит взаимодействие между миллионами людей.
Несмотря на то, что для большинства граждан бюрократия ассоциируется с лишними документами и сложными процедурами, для искусственного интеллекта она является наиболее естественной средой.
"Для ИИ бюрократия — это кислород", — подчеркнул Харари.
Как объясняет футуролог, бюрократическая система существует не только для оформления бумаг. Ее главное предназначение — обеспечивать доверие, обмен информацией и сотрудничество между людьми, которые никогда не встречались лично. Если же управление этими потоками информации перейдет к алгоритмам, они постепенно начнут определять правила функционирования общества.
К чему это может привести
Харари считает, что если ИИ получит контроль над бюрократическими механизмами, произойдет постепенное снижение доверия между людьми. Люди все чаще будут полагаться не друг на друга, а на советы, оценки и решения, которые будет предлагать искусственный интеллект.
"Мы уже видим, как люди начинают доверять не другим людям, а алгоритмам", — подчеркнул Юваль Ной Харари.
В качестве примера историк привел результаты исследования Ipsos BVA, которые показывают, что более 50% молодых европейцев уже готовы обсуждать вопросы своего психического здоровья с чат-ботами на базе искусственного интеллекта.
По мнению Харари, следующим этапом порабощения станет взаимодействие уже не людей с ИИ, а самих систем искусственного интеллекта между собой. По его словам, банки, государственные органы, крупные компании и другие учреждения все активнее будут делегировать системам ИИ принятие решений, минимизируя собственное участие в этом процессе.
С течением времени это может привести к появлению глобальной сети взаимосвязанных алгоритмов, которые самостоятельно будут обмениваться данными. В такой системе процессы станут настолько сложными, что даже разработчики уже не смогут объяснить логику работы созданных ими моделей.
Объясняя этот сценарий, Харари привел аналогию с миром животных. Футуролог отметил, что коровы или куры являются частью человеческой экономики, хотя не понимают ни правил ее функционирования, ни механизмов, которые определяют их судьбу. По его убеждению, человечество рискует оказаться в подобном положении: люди останутся участниками системы, где ключевые решения будет принимать искусственный интеллект, но принципы работы этой системы постепенно станут недоступными для человеческого понимания.
Напомним, пионер ИИ-отрасли выразил обеспокоенность относительно бурного развития нейросетей. Ученый отметил, что искусственный интеллект способен влиять на убеждения миллиардов людей одновременно.
