Штучний інтелект вже практично перебуває за межами розуміння його творців. Науковці дедалі частіше фіксують тривожні аномалії, які можуть свідчити про розвиток свідомості у ШІ-моделей. Наразі нейромережі настільки швидко розвиваються, що вже невдовзі люди можуть втратити контроль над цим процесом.
Зокрема, як повідомив співзасновник Anthropic і один із розробників нейромережі Claude Кріс Олах, ШІ-моделі нового покоління дедалі більше нагадують людський мозок. Їхня поведінка починає викликати занепокоєння навіть у самих розробників. Дослідники фіксують усередині сучасних нейромереж складні процеси, які поки що неможливо повністю пояснити з наукової точки зору.
Експерт розповідає, що під час дослідження внутрішньої архітектури ШІ-моделей спеціалісти регулярно виявляють аномалії, які аж ніяк не відповідають звичайній алгоритмічній логіці.
“Ми постійно знаходимо загадкові, навіть тривожні речі. Ми виявляємо структури, що відображають результати досліджень у сфері нейронауки. Ми знаходимо свідчення самосвідомості”, — зазначив Олах.
Дослідник додав, що сучасні моделі штучного інтелекту демонструють не лише технічну схожість із біологічними нейронними системами. У штучних нейромережах виникають складні внутрішні стани, подібні до людських емоцій.
“Ми знаходимо внутрішні стани, які функціонально відображають радість, задоволення, страх, смуток і занепокоєння”, — заявив співзасновник Anthropic.
Однак Олах зізнається, що науковцям поки що достеменно не відомо, що насправді криється за виявленими аномаліями та наскільки серйозно їх слід трактувати. Отож, на його думку, ці феномени потребують глибокого вивчення.
Також гучну заяву щодо розвитку ШІ нещодавно зробив ще один співзасновник Anthropic Джек Кларк під час лекції в Оксфордському університеті. Він попередив, що наразі вже існують цілком реалістичні сценарії, за яких розвиток штучного інтелекту може мати катастрофічні наслідки.
А саме — за певних умов технологія потенційно здатна “знищити усе населення планети”. Він підкреслив, що подібний ризик не можна вважати зниклим або незначним.
Кларк також описав сучасні темпи розвитку штучного інтелекту як процес, який стає дедалі важче контролювати. На його думку, людство поки що не готове до довгострокових наслідків настільки стрімкої технологічної еволюції.
Отож Кларк переконаний, що найкращим варіантом було б пригальмувати темпи розвитку технологій. У такому разі суспільство отримало б більше часу на адаптацію та усвідомлення наслідків стрімкого розвитку штучного інтелекту.
Однак експерт визнає, що реалізувати такий сценарій майже неможливо. Передусім його втіленню завадить глобальна конкуренція між державами та технологічними компаніями, які паралельно розвивають ШІ-системи.
Нагадаємо, Папа Римський Лев XIV порівняв неконтрольований розвиток штучного інтелекту з будівництвом Вавилонської вежі та попередив про небезпеку цієї технології.
