Вычислите в уме (4 + 17) × 2 + 7. По дороге к ответу 49 нужно получить 21, затем 42. В статье Anthropic исследователи сообщают, что в промежуточных активациях Claude можно обнаружить представления этих чисел, хотя модель не выводит их в ответ. Более того, если заменить одно из таких представлений, может измениться и итог вычисления.

Это интересное окно в работу языковой модели, но слово «мысль» здесь требует осторожности. Команда исследовала, какие внутренние представления можно связать с будущими словами модели и как они участвуют в вычислениях. Успешно обнаружить и изменить представление не значит установить, что система что-либо переживает.

Работа Wes Gurnee и соавторов опубликована 6 июля 2026 года на сайте Transformer Circuits Thread. Это технический документ Anthropic, а не статья с установленным статусом рецензированной журнальной публикации. Доступный текст документа обрывается в середине раздела результатов. Поэтому ниже речь идёт о тех методах и выводах, которые описаны в доступном фрагменте.

Что означает «глобальное рабочее пространство»

В теории глобального нейронного рабочего пространства мозг состоит из специализированных систем, обрабатывающих разные виды информации. Представление становится широко доступным, когда его могут использовать другие процессы, например рассуждение, память или речь. Так теория объясняет сознательный доступ: возможность удержать информацию, обдумать её и сообщить о ней.

Сознательный доступ не равен субъективному опыту. Первый касается того, как информация используется и становится доступной для отчёта. Второй относится к тому, каково переживать ощущение или мысль изнутри. Исследование функций системы само по себе не отвечает на вопрос, есть ли у неё такой опыт.

В эксперименте Антуана Дель Кюля, Симона Байе и Станисласа Деана участвовали 12 человек. Им кратко показывали цифру, а затем маскировали её буквенным изображением. Исследователи меняли интервал между цифрой и маской, просили участников оценить видимость цифры и регистрировали электрическую активность мозга. Ранняя обработка происходила и в некоторых испытаниях, когда участники не сообщали, что видели стимул. Отчёт о видимости был связан с более поздней широко распределённой активностью, начинавшейся примерно через 270 миллисекунд после предъявления цифры.

Этот результат относится к конкретной зрительной задаче, а не служит универсальным тестом на сознание. Авторы обнаружили связь активности с отчётами участников, но не доказали, что поздняя активность необходима для переживания. Они также отмечали, что реконструкция источников сигнала косвенна. Исследование помогает понять, как можно экспериментально изучать сознательный доступ у людей, но не даёт прямого способа определить сознание у любой системы.

Как исследовали внутренние представления Claude

Anthropic разработала метод «линзы Якобиана». Он оценивает, как промежуточные активации модели могут повлиять на вероятность появления слов в её текущем или последующем выводе. Расчёты усредняли по тысяче промптов. Направления, связанные с потенциально выражаемыми словами и понятиями, авторы объединили под названием J-пространство.

Линза не считывает готовый внутренний текст, который Claude будто бы произносит про себя. Она связывает векторы внутри модели с их возможным влиянием на будущие выходные токены. Затем исследователи могут не только наблюдать эту связь, но и вмешиваться в активации: менять или подавлять отдельные компоненты и смотреть, повлияет ли это на ответ.

Авторы проверяли несколько функций этих представлений: может ли модель сообщить о понятии, удерживать его по инструкции, использовать в промежуточном шаге рассуждения и переносить между разными задачами. Они также оценивали, какую долю вычислений охватывает J-пространство.

В одном двухшаговом задании модель должна была ответить, сколько ног у животного, которое плетёт паутину. Для этого требовалось сначала определить, что речь о пауке. Когда исследователи заменяли внутреннее представление паука представлением муравья, предполагаемый ответ менялся с восьми на шесть.

Такой эффект проверили на 50 заданиях, где правильный ответ зависел от промежуточного понятия. После его замены подходящий ответ становился самым вероятным в 54% испытаний модели Haiku 4.5 и в 70% испытаний Sonnet 4.5 и Opus 4.5. Это говорит о том, что найденные представления могут причинно влиять на вычисление ответа в этих условиях. Само по себе это не показывает, что модель осознаёт промежуточное понятие.

В другой проверке одно и то же понятие подменяли в задачах о столице страны, распространённом языке или континенте. Обычная замена давала ожидаемый ответ в 76 из 192 испытаний; при удвоении силы вмешательства это происходило в 101 из 192. Результат был далёк от универсального и зависел от того, насколько отчётливо исходное понятие было представлено в J-пространстве.

Исследователи также проверяли, меняются ли внутренние представления, когда Claude просят удерживать понятие или игнорировать его при выполнении другой задачи. Например, при просьбе сосредоточиться на цитрусовых слова, связанные с этой темой, появлялись в представлениях модели, хотя та копировала текст о старой картине. Инструкция игнорировать понятие снижала вероятность его появления по сравнению с просьбой сосредоточиться на нём, но не устраняла её полностью.

В одном примере модель просили не думать о мосте «Золотые Ворота». Среди представлений, связанных с неудачей подавления, исследователи нашли направление, соответствующее английскому ругательству. Это можно описать как сигнал сбоя контроля в рамках предложенной модели обработки. Нельзя заключить, что Claude раздражена или осознаёт свою неудачу.

Насколько убедительна аналогия с мозгом

Сильная сторона работы в причинных вмешательствах. Если исследователи меняют представление и вслед за этим меняется ответ, компонент не просто сопутствует результату: в заданных условиях он участвует в его получении. Такой подход даёт более конкретное свидетельство о вычислениях модели, чем одно лишь чтение словесных меток на графике.

В функциональном смысле J-пространство действительно напоминает некоторые свойства рабочего пространства: отдельные представления доступны для отчёта, поддаются направленному изменению и могут влиять на разные последующие операции. Но это сходство не означает, что в трансформере обнаружили копию мозгового механизма.

Авторы указывают на различия. В модели мозга рабочее пространство связывает специализированные системы и участвует в повторных циклах передачи сигналов. В трансформере исследователи не обнаружили очевидных отдельных входных процессоров; описанная ими передача информации происходит в пределах одного прямого прохода, без сопоставимых рекуррентных циклов.

Есть и ограничения самого метода. Линза ищет направления, связанные с отдельными токенами словаря, хотя важные понятия могут выражаться несколькими словами. Кроме того, J-пространство охватывает лишь небольшую часть изменчивости активаций. Это особый функциональный срез вычислений, а не полная карта внутренних процессов модели.

Словесная метка вроде «обман», «мысль» или «самоконтроль» тоже не доказывает, что у модели есть соответствующее человеческое психологическое состояние. Надёжнее описывать наблюдаемое: определённое направление в активациях меняли, и в некоторых заданиях вслед за этим менялся ответ. Утверждение о намерении или переживании потребовало бы других оснований.

Что можно заключить, а что пока остаётся открытым

Условный пример: система получает сигнал тревоги, передаёт его нескольким процессам и сообщает о нём. Это показывает, что информация доступна для определённых операций. Но отсюда не следует, что система испытывает страх. Так же и причинное влияние представления в Claude говорит о его функциональной роли, но не устанавливает субъективный опыт.

Сопоставление с экспериментом на людях тоже имеет пределы. У Дель Кюля и коллег изучали мозговые реакции на кратко предъявленную цифру и сравнивали их с тем, сообщают ли участники, что её видели. В работе Anthropic исследовали векторы внутри вычислительного прохода модели и их влияние на выход. Это разные объекты и разные методы. Сходство по одной функции не доказывает, что механизмы или переживания одинаковы.

В техническом документе Anthropic авторы сосредоточились на функциональной роли доступной для отчёта информации и не утверждали, что доказали наличие субъективного опыта. Поэтому точный вывод ограничен: в Claude удалось выделить небольшой набор представлений, которые можно обнаруживать и менять, а вмешательства в них могут влиять на рассуждение и ответы модели. Это делает аналогию с глобальным рабочим пространством проверяемой гипотезой о вычислительной организации, но не свидетельством сознания.

Для продолжения разговора о том, где заканчивается извлечение информации и начинаются более сильные утверждения, полезен материал о том, почему восстановление увиденного по снимкам мозга ещё не означает чтения мыслей.

Работа открывает исследователям способ вмешиваться в некоторые внутренние вычисления Claude и проверять их роль. Вопрос о том, сопровождаются ли эти вычисления каким-либо переживанием, остаётся отдельным и открытым.

Источники

  1. Wes Gurnee и соавторы. Verbalizable Representations Form a Global Workspace in Language Models. Технический документ Anthropic, 6 июля 2026 года.
  2. Antoine Del Cul, Simon Baillet, Stanislas Dehaene. Brain Dynamics Underlying the Nonlinear Threshold for Access to Consciousness. PLOS Biology, 2007. DOI: 10.1371/journal.pbio.0050260.
  3. Stanislas Dehaene, Jean-Pierre Changeux, Lionel Naccache. The Global Neuronal Workspace Model of Conscious Access: From Neuronal Architectures to Clinical Applications. Springer, 2011. DOI: 10.1007/978-3-642-18015-6_4.
Схема показывает, как исследователи находят и изменяют внутренние представления Claude и где заканчивается функциональный вывод: изменение ответа не устанавливает наличие субъективного переживания.

Фото: Matheus Bertelli / Pexels