Исследователи из Anthropic обнаружили в языковой модели Claude внутренний механизм, который по принципу работы напоминает одну из ведущих теорий человеческого сознания. В то же время учёные подчеркивают: это не означает, что искусственный интеллект имеет настоящие ощущения, субъективный опыт или сознание в человеческом понимании.

Об этом сообщает Anthropic.

В исследовании Verbalizable Representations Form a Global Workspace in Language Models компания описала особую внутреннюю область Claude, которую назвали J-space. В этом пространстве модель работает с абстрактными понятиями еще до того, как формирует текстовый ответ.

Учёные сравнили J-space с Global Workspace Theory. Согласно этой теории, человеческий мозг имеет общий "рабочий простор", куда попадает лишь часть информации из множества параллельных процессов. Именно её человек осознаёт в конкретный момент.

В Claude похожий информационный центр сформировался самостоятельно, без специального программирования такой архитектуры. Чтобы увидеть скрытые процессы, исследователи использовали инструмент Jacobian lens, или J-lens. Он показывает, какие понятия активируются внутри модели еще до появления готового ответа.

Например, когда Claude спрашивали о цвете четвертой планеты от Солнца, модель сначала активировала понятие "Марс", а уже затем формировала ответ.

Во время экспериментов исследователи выяснили, что J-space помогает Claude работать со сложными задачами. Если это пространство искусственно блокировали, модель сохраняла грамотность и могла выполнять простые действия, но хуже справлялась с логическими рассуждениями, творческим письмом, переводом и другими задачами, которые требуют гибкого мышления.

Отдельно Anthropic проверила, как J-space работает в потенциально опасных сценариях. С помощью J-lens исследователи проследили, какие понятия активируются внутри Claude при обработке ситуации с возможным шантажом.

Сначала модель переходила к понятиям "компромат", "шантаж" и "скандал". Затем в её внутреннем пространстве появлялись идеи, связанные с угрозой, выживанием и отключением, после чего Claude снова возвращался к варианту с возможным шантажом.

Однако модель в итоге распознала, что речь идёт о тестовом сценарии, и отказалась действовать таким образом. Когда же исследователи искусственно отключали внутреннюю систему оценки, Claude примерно в 7% случаев пытался прибегнуть к шантажу.

Авторы исследования подчеркивают: Claude не стал сознательным. Однако работа показывает, что большие языковые модели могут самостоятельно формировать сложные внутренние структуры, которые помогают им обрабатывать понятия, рассуждать и лучше реагировать на потенциально опасные запросы.

Напомним, OpenAI готовит более широкий запуск GPT-5.6: что известно о Sol, Terra и Luna.