Ведущие ученые мира, признанные авторитеты в области информационных технологий, призывают своих коллег остановить развитие искусственного интеллекта. Они считают, что ИИ будет способен уничтожить человечество уже в ближайшие годы. Причем вероятность гибели человеческой цивилизации от ИИ они оценивают в 95%.
Такую цифру, в частности, приводит бывший инженер Google Нейт Соарес.
Ученый убежден, что разработчикам следует немедленно прекратить работу над усовершенствованием ИИ. Иначе вскоре решить проблему будет уже невозможно: искусственный разум полностью возьмет контроль над человечеством.
"Мы мчимся к бездне со скоростью 100 км/ч", — сравнил Соарес развитие ИИ с неизбежным движением к гибели человечества.
Впрочем, если бы он один так думал, то его можно было бы воспринимать как чудака, который вбил себе в голову фантастическую идею. Однако мнение инженера разделяют ведущие ученые мира. Это - лауреат Нобелевской премии Джеффри Хинтон, математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. То есть это люди, которые непосредственно причастны к созданию новейших моделей ИИ и знают, о чем говорят.
Они подписали коллективное заявление, в котором говорится, что риск уничтожения человечества искусственным интеллектом должен рассматриваться как один из величайших глобальных рисков наряду с ядерным оружием и пандемиями. И что ведущие ученые мира должны сосредоточить свои усилия, чтобы ограничить развитие ИИ.
Наибольшую обеспокоенность у ученых вызывает так называемый суперинтеллектуальный ИИ (ASI). Это — система, способная самостоятельно принимать решения, разрабатывать сложные планы, манипулировать и даже, что наиболее опасно, лгать. То есть, готовясь к уничтожению человечества, она может долго скрывать свои истинные намерения, а также тщательно маскировать программный код, по которому опытный программист может догадаться, что с искусственным разумом не все в порядке.
При этом ИИ может не просто физически уничтожить человечество за короткий промежуток времени, но и превратить процесс уничтожения человеческой цивилизации в постепенный. Умные машины будут постепенно вытеснять людей из всех сфер деятельности, мотивируя тем, что они со всем справятся лучше людей. Таким образом человечество постепенно будет деградировать, а затем вообще будет вытеснено из жизни из-за своей ненужности.
Конечно, такой прогноз все еще кажется фантастическим. Но на самом деле все может произойти так неожиданно и быстро, что мы даже моргнуть не успеем.
Напомним, ученый назвал 5 профессий, в которых ИИ не сможет заменить людей.
