Почему «сверхинтеллект» у Бострома и в указе Белого дома означает разное

Указ Белого дома от 29 сентября 2026 года велит федеральным ведомствам заменить в официальных документах слова «искусственный интеллект» на «сверхинтеллект». Но для применения самого указа новый термин пока охватывает системы, которые уже подпадают под действующее законодательное определение искусственного интеллекта. Название изменилось, а юридическая граница пока осталась прежней.

На этом примере видно, почему спор о том, достигла ли система общего искусственного интеллекта (AGI) или сверхинтеллекта, часто начинается с вопроса о словах. Один термин может обозначать философский тезис о понимании, сравнительный уровень способностей, желаемый продукт или административную категорию. Пока эти значения смешивают, громкое заявление трудно сопоставить с тем, что действительно проверили.

У Сёрла спор был о понимании, а не о рекордах

В статье «Разум, мозг и программы» 1980 года философ Джон Сёрл различал «слабый» и «сильный» искусственный интеллект. В рамках слабого ИИ компьютер служит инструментом для исследования разума. Сильный ИИ утверждает больше: правильно запрограммированный компьютер буквально понимает и обладает когнитивными состояниями. Именно этот тезис Сёрл оспаривал.

Для пояснения он предложил мысленный эксперимент «китайская комната». Человек, не знающий китайского, получает знаки и инструкции на английском языке. Следуя правилам, он подбирает ответы на входящие сообщения. Со стороны его ответы могут выглядеть так, будто он знает китайский. Но, по аргументу Сёрла, правильная обработка символов сама по себе ещё не означает понимания их смысла.

Это философский аргумент, а не эксперимент с современными моделями. Он ставит вопрос о связи вычислений, понимания и сознания, но не измеряет качество решения задач. Поэтому из «китайской комнаты» нельзя напрямую заключить, что нынешние модели не способны к сложному рассуждению. И наоборот: успешное решение задачи само по себе не разрешает спор о том, понимает ли система свой ответ.

Сёрл отдельно уточнял, что не отрицает возможность мыслящей искусственной машины. Его возражение направлено против идеи, что одной программы, описанной как манипуляция формальными символами, достаточно для понимания. Доступная копия статьи обозначена как предпоследний черновик, принятый к публикации. Итоговая работа вышла в журнале Behavioral and Brain Sciences и сопровождалась рецензиями и ответом автора.

У Бострома речь о превосходстве в разных областях

В колонке New Scientist журналист Джейкоб Арон передаёт определение, приписываемое философу Нику Бострому: сверхинтеллектом можно назвать интеллект, который значительно превосходит человеческие когнитивные способности почти во всех значимых областях. Здесь вопрос уже не в том, достаточно ли программы для понимания. Задан сравнительный порог: система должна превосходить людей во множестве областей, а не просто хорошо справляться с одной задачей.

Первичный текст Бострома в доступных источниках проверить не удалось. Поэтому это определение приводится как пересказ колонки, а не как независимо сверенная цитата из книги. Но даже такой пересказ показывает разницу с политическим переименованием: оно охватывает системы, уже входящие в законодательную категорию ИИ, тогда как определение Бострома предполагает превосходство над человеческим уровнем почти во всех рассматриваемых областях.

Заявление Марка Цукерберга от имени Meta использует близкий термин ещё в одном смысле. Компания описывает «персональный сверхинтеллект» как будущую технологию, которая помогает человеку достигать целей, создавать и общаться. Это корпоративное видение продукта и его возможной роли, а не спецификация с тестом, пороговым баллом или правилами проверки. Оно не подтверждает, что такая система уже существует.

Что на деле меняет указ США

Указ Дональда Трампа задаёт терминологическую политику для исполнительной власти США: ведомствам следует использовать «Super Intelligence» и сокращение «SI» вместо «Artificial Intelligence» и «AI» в официальных документах и коммуникациях. В обосновании говорится, что возможности передовых систем, по оценке администрации, выходят за рамки того, чего ожидали от ИИ, когда этот термин появился.

Однако юридическое определение в указе говорит другое: для его целей «сверхинтеллект» означает технологии и системы, уже охваченные действующим законодательным определением искусственного интеллекта. Документ не требует доказать, что система превосходит людей. Он также поручает подготовить проект отдельного федерального определения, которое должно учитывать описанные в указе возможности. Пока речь идёт о смене названия и государственной риторики, а не о научно установленном пороге сверхчеловеческого интеллекта.

Так расходятся обоснование указа и его рабочее юридическое определение. В документе сверхинтеллект описан как новая технологическая эра, но пока термин охватывает тот же круг систем, что и прежнее законодательное определение ИИ. Указ не вводит новый тест и не сообщает, что какая-либо система превзошла человеческие способности.

AGI тоже не имеет единственного порога

Общий искусственный интеллект часто звучит как название определённой ступени развития. Но единого критерия, по которому можно было бы однозначно установить её достижение, в рассмотренных источниках нет. Колонка Арона приводит разные трактовки: от систем, превосходящих людей в большинстве экономически ценных видов работы, до определения через коммерческий результат. Это критерии разных типов. Первичные документы, на которые ссылается колонка, в доступном пакете проверить не удалось.

Даже выражение «человеческий уровень» требует уточнений. О каких задачах идёт речь? Должна ли система переносить навыки на новые ситуации, действовать без постоянных подсказок и взаимодействовать с физическим окружением? Учитываются ли скорость, надёжность, вычислительные затраты и помощь человека? Пока ответы разнятся, фраза «достигнута AGI» может означать разное для разных авторов.

Тесты полезны, если считать их измерением конкретной процедуры, а не итоговым экзаменом на интеллект вообще. Лидерборд ARC-AGI, например, описывает переход от первых версий, ориентированных на решение задач, к третьей версии, где агентам нужно приспосабливаться к новым интерактивным средам. В описании также учитываются затраты на выполнение задач. Такой тест позволяет сравнивать системы в заданных условиях, но балл не становится доказательством достижения AGI или сверхинтеллекта.

Для интерпретации важны и правила самого теста: результат зависит от версии заданий, условий запуска, доступных вычислений и того, что считается правильным ответом. На примере оценки систем по тестам можно увидеть, почему высокая точность в одном режиме проверки не гарантирует успеха в других условиях. Это не исследование AGI, а более общий пример того, как выбранная процедура ограничивает выводы о модели.

Как оценивать заявления о возможностях ИИ

Когда кто-то говорит, что система достигла AGI или сверхинтеллекта, полезнее спросить не о впечатляющем названии, а о проверке. Какие задачи входили в оценку? На каких данных и в каких условиях запускали систему? Сравнивали ли её с людьми, учитывали ли стоимость и можно ли воспроизвести результат? Если речь идёт о понимании или сознании, одних показателей успешности задач недостаточно: это отдельный вопрос, требующий отдельных аргументов.

Сёрл, Бостром в пересказе Арона, Meta и Белый дом говорят о разных вещах. Сёрл спорит о понимании. Определение, приписываемое Бострому, задаёт высокий порог сравнительных способностей. Meta описывает желаемый сценарий персональной помощи. Указ США меняет язык федеральных документов, сохраняя прежнюю законодательную область действия термина. Если смешать эти смыслы, переименование легко принять за измерение, корпоративное видение за техническую спецификацию, а результат одного теста за общий диагноз возможностей системы.

Источники

1. Aron, J. AI or ‘super intelligence’? Trump isn’t the only one who is confused. New Scientist, 8 октября 2026 года. Авторская колонка, не первичное исследование: текст статьи.
2. Searle, J. R. Minds, Brains, and Programs. Behavioral and Brain Sciences, 1980, 3(3), 417–457. Философская статья; доступная копия обозначена как предпоследний черновик: PDF текста.
3. The White House. Inaugurating the Era of Super Intelligence. Executive Order 14434, 29 сентября 2026 года; опубликован в Federal Register 2 октября 2026 года: текст указа, PDF Federal Register.
4. Zuckerberg, M. Personal Superintelligence. Meta, 30 июля 2025 года. Позиционный документ компании, не техническая спецификация: текст заявления.
5. ARC Prize. ARC-AGI Leaderboard. Описание версий теста и правил интерпретации результатов: страница лидерборда.

Фото: Markus Winkler / Pexels