Исследователи из Школы промышленной и системной инженерии H. Milton Stewart Технологического института Джорджии предложили метрику Mutual Information Surprise, которая должна помогать автономным системам распознавать события, требующие пересмотра текущего представления об обстановке. Материал о работе опубликован 1 октября 2026 года на Tech Xplore при участии Georgia Institute of Technology; статья вышла в INFORMS Journal on Data Science.

Концепцию разработали Сяо Лю, Иньсун Ван и Цюань Цзэн, проектом руководит профессор Юй Дин. Авторы связывают неожиданность не только с редкостью события или изменением прежних убеждений системы, но и с приростом знания.

Чем отличаются три способа измерить неожиданность

Shannon Surprise в первую очередь показывает, насколько редко наблюдаемое событие. Чем ниже его ожидаемая вероятность, тем сильнее такая неожиданность. Однако редкая деталь не обязательно важна для решения задачи. По примеру авторов, система может обратить внимание на конкретную модель припаркованного автомобиля, хотя люди обычно не сочли бы это событие неожиданным.

Bayesian Surprise оценивает другое: насколько новое наблюдение изменило убеждения системы. Авторы считают, что и этот критерий не всегда совпадает со значимой для человека неожиданностью. В их иллюстрации он может не выделить внезапно плохой результат студента, который обычно получает высокие оценки. Это именно поясняющий пример исследователей, а не описание проведённого эксперимента.

Mutual Information Surprise определяет неожиданность через получение нового знания и изменение познавательного состояния системы. По замыслу разработчиков, метрика должна отмечать моменты, когда прежнего понимания уже недостаточно, и не реагировать на редкие, но бесполезные для текущего решения детали.

Для автономной системы такой показатель может стать сигналом выбора между двумя действиями: продолжить выполнять план или временно остановиться и заново оценить происходящее. Сама метрика не нажимает кнопку остановки — предполагается, что её результат будет использовать механизм принятия решений робота, ИИ-агента или автоматизированного производства.

Представим, что складской робот движется по знакомому маршруту и замечает тележку необычного цвета. Если эта деталь редкая, но не влияет на проезд, система продолжит движение. Если же датчики обнаружат незнакомое препятствие, из-за которого прежнее представление о свободном маршруте перестало работать, робот мог бы остановиться, проверить обстановку и запросить вмешательство человека. Это условная иллюстрация возможного применения, а не результат испытаний конкретного робота.

В доступном материале Tech Xplore не приведены формула Mutual Information Surprise, численные результаты, устройство экспериментов или сравнение точности трёх метрик. Также не сообщается, что новая схема уже установлена на роботах и доказала способность безопасно ими управлять. Поэтому работу пока следует рассматривать как предложенный подход к выбору значимых неожиданностей, а не как готовую систему защиты от ошибок.

Разграничивать определение метрики, предполагаемое применение и подтверждённые результаты особенно важно при подготовке научной статьи: в данном случае возможность остановки и пересмотра плана обозначена авторами как перспектива.

Схема показывает, как оценка прироста знания может привести автономную систему к продолжению плана либо остановке и переоценке ситуации.