Дослідники Anthropic виявили у мовній моделі Claude внутрішній механізм, який за принципом роботи нагадує одну з провідних теорій людської свідомості. Водночас науковці наголошують: це не означає, що штучний інтелект має справжні відчуття, суб’єктивний досвід або свідомість у людському розумінні.

Про це повідомляє Anthropic.

У дослідженні Verbalizable Representations Form a Global Workspace in Language Models компанія описала особливу внутрішню область Claude, яку назвали J-space. У цьому просторі модель працює з абстрактними поняттями ще до того, як формує текстову відповідь.

Науковці порівняли J-space з Global Workspace Theory. Згідно з цією теорією, людський мозок має спільний "робочий простір", куди потрапляє лише частина інформації з багатьох паралельних процесів. Саме її людина усвідомлює в конкретний момент.

У Claude схожий інформаційний центр сформувався самостійно, без спеціального програмування такої архітектури. Щоб побачити приховані процеси, дослідники використали інструмент Jacobian lens, або J-lens. Він показує, які поняття активуються всередині моделі ще до появи готової відповіді.

Наприклад, коли Claude запитували про колір четвертої планети від Сонця, модель спершу активувала поняття "Марс", а вже потім формувала відповідь.

Під час експериментів дослідники з’ясували, що J-space допомагає Claude працювати зі складними завданнями. Якщо цей простір штучно блокували, модель зберігала грамотність і могла виконувати прості дії, але гірше справлялася з логічними міркуваннями, творчим письмом, перекладом та іншими задачами, які потребують гнучкого мислення.

Окремо Anthropic перевірила, як J-space працює у потенційно небезпечних сценаріях. За допомогою J-lens дослідники простежили, які поняття активуються всередині Claude під час обробки ситуації з можливим шантажем.

Спершу модель переходила до понять "компромат", "шантаж" і "скандал". Потім у її внутрішньому просторі з’являлися ідеї, пов’язані із загрозою, виживанням і вимкненням, після чого Claude знову повертався до варіанту з можливим шантажем.

Однак модель зрештою розпізнала, що йдеться про тестовий сценарій, і відмовилася діяти таким способом. Коли ж дослідники штучно вимикали внутрішню систему оцінювання, Claude приблизно у 7% випадків намагався вдатися до шантажу.

Автори дослідження підкреслюють: Claude не став свідомим. Однак робота показує, що великі мовні моделі можуть самостійно формувати складні внутрішні структури, які допомагають їм обробляти поняття, міркувати та краще реагувати на потенційно небезпечні запити.

Нагадаємо, OpenAI готує ширший запуск GPT-5.6: що відомо про Sol, Terra і Luna.