Представим, что мощную модель ограничили: теперь пользоваться ею могут только несколько организаций. Риск злоупотреблений может снизиться. Но одновременно технология и связанные с ней решения оказываются в руках ещё меньшего числа игроков. Одним ограничением удалось уменьшить одну опасность, но возник ли при этом другой этический вопрос?

Именно такие переходы разбирают Кирти Пракаш и Иэн ван дер Линде в статье «Beyond the AI slowdown: the four As for governing frontier AI», опубликованной 29 октября 2026 года в журнале AI and Ethics. Работа прошла рецензирование; полный текст доступен на сайте Springer Nature и в PDF. Авторы работают в Университете Англия Раскин.

Они предлагают рассматривать управление передовыми системами искусственного интеллекта через четыре разных вопроса: можно ли контролировать действия системы, кто получает доступ к её возможностям, какие решения допустимо ей поручать и как распределяются выгоды, издержки и власть. Авторы называют эти измерения четырьмя «А»: Action, Access, Authority и Allocation. Это нормативная аналитическая схема, а не результат эксперимента: авторы не собирали участников и не анализировали набор данных.

Четыре вопроса, которые нельзя заменить одним

Первое измерение, Action, касается действенного контроля над значимыми действиями ИИ. Может ли человек или организация ограничить, остановить или перенаправить систему, если её действие способно иметь серьёзные последствия? Формальное присутствие человека в процессе ещё не отвечает на этот вопрос: контроль должен позволять реально повлиять на ход событий.

Access относится к доступу к потенциально опасным возможностям. Кто вправе получить их и на каких условиях? Система может работать именно так, как задумано, но всё равно вызывать вопросы, если доступ к ней не ограничен или правила доступа не имеют достаточного обоснования.

Authority, или делегированные полномочия, задаёт другой вопрос: какие решения вообще следует поручать ИИ? Здесь важно отличать доступ к системе от права принимать с её помощью решения о лечении, военных действиях или юридическом статусе человека. Даже точная и контролируемая система может быть проблематичной, если люди не сохраняют содержательную роль в решении, не могут его оспорить или не несут ясной ответственности.

Allocation касается совокупного распределения выгод, издержек, возможностей и власти. Отдельные применения ИИ могут быть контролируемыми и разрешёнными, но их распространение способно постепенно сосредоточить экономическую или экспертную власть у небольшого числа организаций. Другие группы при этом могут не иметь влияния на решения, которые их затрагивают.

Для различения этих вопросов авторы предлагают проверку независимости: если решить проблему одного типа, исчезнут ли автоматически остальные? Обычно нет. Контроль над системой сам по себе не определяет, кому следует дать к ней доступ. Правомерный доступ не решает, какие решения допустимо делегировать. А отдельное обоснованное применение не гарантирует справедливого распределения последствий в масштабах общества.

Как ограничение может переместить риск

Авторы называют два сбоя управления. Первый возникает, когда мера направлена не на ту проблему. Например, человеческий надзор может улучшить контроль за действиями системы, но не ответить на вопрос, кто должен иметь доступ к опасной возможности. Если надзор сводится к формальному подтверждению решения, он создаёт видимость контроля, не обязательно давая человеку возможность изменить результат.

Второй сбой они называют смещением между измерениями: снижение опасения в одной области усиливает проблему в другой. Ограничение доступа к передовой модели может затруднить злоупотребление, но одновременно повысить барьеры для новых участников и сконцентрировать технологическую власть. Более широкий доступ, напротив, может поддержать участие и инновации, но усложнить наблюдение за тем, как возможности используют дальше.

Это не доказывает, что ограничения доступа всегда вредны или всегда необходимы. Схема помогает сформулировать, что именно оценивается: какую проблему мера должна решить и не переносит ли она издержки на другое измерение. В этом смысле полезно сопоставить её с разбором того, почему число ИИ-инициатив не показывает готовность университета: там тоже важно смотреть не только на наличие формальных мер, но и на то, что именно они позволяют заключить.

От этического вопроса к проверяемой мере

Чтобы схема не оставалась набором ярлыков, авторы связывают каждое измерение с ограничениями, ответственными за их соблюдение субъектами и признаками возможного сбоя. Для контроля действий это могут быть нарушения условий сдерживания или невозможность вовремя прервать систему. Для доступа значимы появление или использование возможностей, способных причинить серьёзный вред. Для делегирования полномочий тревожный признак возникает, когда последствия наступают без действенного разрешения, проверки или возможности оспорить решение. Для распределения важны накапливающиеся свидетельства концентрации власти, исключения групп или непропорционального распределения выгод и издержек.

Такой подход напоминает цикл проверки: определить этическую проблему, установить ограничение и ответственного за него, следить за признаками сбоя, принять корректирующие меры и пересмотреть решение по мере изменения возможностей и контекста. Но цикл не устанавливает сам по себе, какое ограничение справедливо. Технический анализ может помочь выяснить, работает ли оно; вопрос о его соразмерности и легитимности требует отдельного обоснования.

Что эта работа доказывает, а чего не проверяет

Пракаш и ван дер Линде сопоставляют свою схему с предшествующими подходами к этике ИИ, контролю ядерных технологий и регулированию генетических технологий, включая конференцию в Асиломаре. Их вклад состоит в нормативном предложении: различать место возникновения этической обязанности и подбирать к нему тип управления. В статье нет экспериментальной проверки того, насколько такое распределение полномочий работает на практике; авторы прямо указывают, что наборы данных не создавались и не анализировались.

Сами исследователи также оговаривают пределы рамки: четыре измерения не образуют исчерпывающий перечень вреда от ИИ и не являются взаимоисключающими категориями. Один случай может одновременно затрагивать контроль, доступ, полномочия и распределение. Статья не задаёт универсальных количественных порогов опасности и не доказывает эффективность конкретной регуляторной меры. Примеры объясняют логику схемы, но не заменяют оценку политики.

Практическая ценность четырёх вопросов поэтому не в готовом рецепте регулирования. Они помогают не считать, что успешная проверка контроля автоматически разрешает вопрос доступа или делегирования. Перед введением ограничения стоит спросить, какую именно обязанность оно защищает, кто способен обеспечить его соблюдение и какие последствия могут проявиться в остальных измерениях.

Источник

Prakash, K., van der Linde, I. Beyond the AI slowdown: the four As for governing frontier AI. AI and Ethics, 6, статья 620 (2026). Опубликована онлайн 29 октября 2026 года. DOI: 10.1007/s43681-026-01449-w. Открытый доступ, лицензия CC BY 4.0.

Источники и литература

Концептуальная схема четырёх вопросов управления ИИ и проверки того, не переносит ли ограничение риск между измерениями

Фото: Héctor Berganza / Pexels