Искусственный интеллект уже практически находится за гранью понимания его создателей. Ученые все чаще фиксируют тревожные аномалии, которые могут свидетельствовать о развитии сознания у ИИ-моделей. В настоящее время нейросети развиваются настолько быстро, что вскоре люди могут потерять контроль над этим процессом.
В частности, как сообщил сооснователь Anthropic и один из разработчиков нейросети Claude Крис Олах, ИИ-модели нового поколения все больше напоминают человеческий мозг. Их поведение начинает вызывать беспокойство даже у самих разработчиков. Исследователи фиксируют внутри современных нейросетей сложные процессы, которые пока что невозможно полностью объяснить с научной точки зрения.
Эксперт рассказывает, что в ходе исследования внутренней архитектуры ИИ-моделей специалисты регулярно выявляют аномалии, которые никак не соответствуют обычной алгоритмической логике.
“Мы постоянно находим загадочные, даже тревожные вещи. Мы обнаруживаем структуры, которые отражают результаты исследований в области нейронауки. Мы находим свидетельства самосознания”, — отметил Олах.
Исследователь добавил, что современные модели искусственного интеллекта демонстрируют не только техническую схожесть с биологическими нейронными системами. В искусственных нейросетях возникают сложные внутренние состояния, подобные человеческим эмоциям.
“Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, грусть и беспокойство”, — заявил сооснователь Anthropic.
Однако Олах признается, что ученым пока что точно не известно, что на самом деле скрывается за выявленными аномалиями и насколько серьезно их следует трактовать. Поэтому, по его мнению, эти феномены требуют глубокого изучения.
Также громкое заявление о развитии ИИ недавно сделал еще один сооснователь Anthropic Джек Кларк во время лекции в Оксфордском университете. Он предупредил, что в настоящее время уже существуют вполне реалистичные сценарии, при которых развитие искусственного интеллекта может иметь катастрофические последствия.
А именно — при определенных условиях технология потенциально способна “уничтожить все население планеты”. Он подчеркнул, что подобный риск нельзя считать исчезнувшим или незначительным.
Кларк также описал современные темпы развития искусственного интеллекта как процесс, который становится все труднее контролировать. По его мнению, человечество пока что не готово к долгосрочным последствиям настолько стремительной технологической эволюции.
Поэтому Кларк убежден, что лучшим вариантом было бы замедлить темпы развития технологий. В таком случае общество получило бы больше времени на адаптацию и осознание последствий стремительного развития искусственного интеллекта.
Однако эксперт признает, что реализовать такой сценарий практически невозможно. В первую очередь его реализации помешает глобальная конкуренция между государствами и технологическими компаниями, которые параллельно развивают ИИ-системы.
Напомним, Папа Римский Лев XIV сравнил неконтролируемое развитие искусственного интеллекта со строительством Вавилонской башни и предупредил об опасности этой технологии.
