Провідні науковці світу, які є визнаними авторитетами у сфері інформаційних технологій, закликають своїх колег зупинити розвиток штучного інтелекту. Вони вважають, що ШІ буде здатний знищити людство вже найближчими роками. Причому ймовірність загибелі людської цивілізації від ШІ вони оцінюють у 95%.
Таку цифру, зокрема, наводить колишній інженер Google Нейт Соарес.
Науковець переконаний, що розробникам слід негайно припинити роботу над вдосконаленням ШІ. Інакше незабаром зарадити проблемі вже буде неможливо: штучний розум повністю візьме контроль над людством.
"Ми мчимо до прірви зі швидкістю 100 км/год", — порівняв Соарес розвиток ШІ з невідворотним рухом до загибелі людства.
Втім, якби він один так вважав, то його можна було би сприймати як дивака, який вбив собі у мізки фантастичну ідею. Однак думку інженера поділяють провідні науковці світу. Це - лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також керівники OpenAI, Anthropic і Google DeepMind. Тобто це люди, які безпосередньо причетні до створення новітніх моделей ШІ і знають, про що кажуть.
Вони підписали колективну заяву, в якій йдеться, що ризик знищення людства штучним інтелектом повинен розглядатися як один із найбільших глобальних ризиків разом із ядерною зброєю та пандеміями. І що провідні науковці світу мають зосередити свої зусилля, щоб обмежити розвиток ШІ.
Найбільше побоювання у науковців викликає так званий суперінтелектуальний ШІ (ASI). Це — система, яка здатна самостійно приймати рішення, ухвалювати складні плани, маніпулювати і навіть, що найбільш небезпечно, брехати. Тобто, готуючись до знищення людства, вона може тривалий час приховувати свої справжні наміри, а також ретельно маскувати програмний код, з якого досвідчений програміст може здогадатись, що зі штучним розумом не все гаразд.
При цьому ШІ може не просто фізично знищити людство за короткий проміжок часу, але й перетворити процес знищення людської цивілізації у поступовий. Розумні машини будуть поступово витісняти людей з усіх сфер діяльності, мотивуючи тим, що вони з усім впораються краще за людей. Таким чином людство поступово деградуватиме, а потім взагалі буде витіснено з життя через свою непотрібність.
Звісно, такий прогноз усе ще видається фантастичними. Але насправді все може статися так несподівано і швидко, що ми навіть оком не встигнемо змигнути.
Нагадаємо, учений назвав 5 професій, в яких ШІ не зможе замінити людей.
