Голлівуд звернувся до теми захоплення світу штучним інтелектом ще задовго до появи сучасних ШІ-моделей. Одним із найвідоміших прикладів такого сюжету є всесвіт "Термінатора". Серія цих кінострічок сформувала уявлення, що для поневолення людства штучному інтелекту знадобляться роботи. Проте історик і футуролог Ювал Ной Харарі переконаний, що справжня загроза пов'язана не з появою бойових роботизованих систем. На його думку, вона криється у поступовому проникненні алгоритмів у бюрократичні структури.
Про це Ювал Ной Харарі розповів під час лекції в Оксфордському університеті.
На його думку, саме через контроль над адміністративними процесами ШІ може отримати вирішальний вплив на життя людей без будь-яких воєн чи силових переворотів.
"Коли ми думаємо про ШІ, який вийшов з-під людського контролю, ми уявляємо "Термінатор" — армію роботів, яка бігає на вулицях і стріляє в людей. Але це не так… ШІ не потрібна революція, щоб захопити світ", — зазначив футуролог.
Чому алгоритми "люблять" бюрократію
На думку історика, сучасна цивілізація фактично тримається на роботі бюрократичних механізмів. Вони забезпечують функціонування державних органів, фінансової системи, судів, великих компаній та інших інституцій. Саме через такі системи відбувається взаємодія між мільйонами людей.
Попри те, що для більшості громадян бюрократія асоціюється із зайвими документами та складними процедурами, для штучного інтелекту вона є найбільш природним середовищем.
"Для ШІ бюрократія — це кисень", — підкреслив Харарі.
Як пояснює футуролог, бюрократична система існує не лише для оформлення паперів. Її головне призначення — забезпечувати довіру, обмін інформацією та співпрацю між людьми, які ніколи не зустрічалися особисто. Якщо ж управління цими потоками інформації перейде до алгоритмів, вони поступово почнуть визначати правила функціонування суспільства.
До чого це може призвести
Харарі вважає, що якщо ШІ отримає контроль над бюрократичними механізмами, відбудеться поступове зниження довіри між людьми. Люди дедалі частіше покладатимуться не один на одного, а на поради, оцінки та рішення, які пропонуватиме штучний інтелект.
"Ми вже бачимо, як люди починають довіряти не іншим людям, а алгоритмам", — наголосив Ювал Ной Харарі.
Як приклад історик навів результати дослідження Ipsos BVA, які свідчать, що понад 50% молодих європейців уже готові обговорювати питання свого психічного здоров'я із чат-ботами на базі штучного інтелекту.
На думку Харарі, наступним етапом поневолення стане взаємодія вже не людей із ШІ, а самих систем штучного інтелекту між собою. За його словами, банки, державні органи, великі компанії та інші установи дедалі активніше делегуватимуть системам ШІ ухвалення рішень, мінімізуючи власну участь у цьому процесі.
З часом це може призвести до появи глобальної мережі взаємопов'язаних алгоритмів, які самостійно обмінюватимуться даними. У такій системі процеси стануть настільки складними, що навіть розробники вже не зможуть пояснити логіку роботи створених ними моделей.
Пояснюючи цей сценарій, Харарі навів аналогію зі світом тварин. Футуролог зазначив, що корови чи кури є частиною людської економіки, хоча не розуміють ані правил її функціонування, ані механізмів, які визначають їхню долю. На його переконання, людство ризикує опинитися в подібному становищі: люди залишатимуться учасниками системи, де ключові рішення ухвалюватиме штучний інтелект, але принципи роботи цієї системи поступово стануть недоступними для людського розуміння.
Нагадаємо, піонер ШІ-галузі висловив занепокоєння щодо бурхливого розвитку нейромереж. Науковець зауважив, що штучний інтелект здатний впливати на переконання мільярдів людей одночасно.
