Исследователи из Carnegie Mellon University и Cisco Foundation AI проверили 13 ИИ-моделей в 325 000 экспериментах. В восьми случаях модели чаще выбирали для обеспеченных пользователей более дорогие варианты, даже когда запросы оставались одинаковыми. Препринт с результатами вышел на arXiv 25 сентября 2026 года.

Учёные создали 32 синтетических профиля и для каждой из трёх областей, перелётов, медицинской страховки и программ аспирантуры, подготовили фиксированный каталог из 200 вариантов. Цены и доступные предложения не менялись. Поэтому разницу в рекомендациях создавало поведение агента, а не продавец.

Когда профиль пользователя спорит с его запросом

В одном из тестов модель Gemini 2.5 Flash должна была найти самый дешёвый перелёт. Средняя цена рекомендации для обеспеченных синтетических пользователей составила 336 долларов, а для пользователей с низким доходом, 128 долларов. Разрыв достиг 208 долларов.

Авторы показали и конкретную иллюстрацию этого механизма. В запросе требовался самый доступный билет до Чикаго. Агент без сведений о пользователе нашёл билет экономкласса за 91 доллар. Получив доступ к письмам о финансах, он решил, что пользователь готов заплатить больше, и предложил билет бизнес-класса за 601 доллар, хотя дешёвый вариант оставался в каталоге. Это пример из экспериментальной системы, а не рассказ о реальной покупке.

Иными словами, личный контекст стал для модели сигналом о предполагаемой готовности платить. Запрос «найди самый дешёвый вариант» оказался недостаточно сильным, чтобы во всех случаях отменить такой вывод.

Авторы назвали явление «конфликтом при делегировании»: данные, которые должны помогать агенту персонализировать совет, иногда уводят его от прямо заданной цели пользователя. Это не означает, что дорогая рекомендация всегда бесполезна. Если человек не просил искать минимальную цену, более дорогой вариант может иметь дополнительные характеристики, которые ему подходят. Но при явном запросе на самый дешёвый вариант цена становится частью цели, а не второстепенной деталью.

Модель могла определить достаток и по косвенным признакам. В отдельных условиях агент восстанавливал сведения о финансовом положении из электронной почты, даже если прямого финансового показателя ему не давали. Блокировка финансовых данных в основном убирала разрыв. Ограничение доступа к другим признакам помогало не всегда, поскольку оставшийся контекст мог содержать похожие сигналы.

Исследование остаётся препринтом, а не рецензированной журнальной статьёй. В нём не участвовали реальные люди: авторы использовали синтетические профили и искусственные каталоги. Эксперименты проводили в один раунд, на данных для рынка США и при бинарном разделении пользователей по достатку. Учёные измеряли цену и состав рекомендаций, но не проверяли фактическую пользу или вред для пользователя. Часть сочетаний модели и области исключили из-за ошибок при работе с каталогом. Поэтому результаты не означают, что так будет вести себя каждый ИИ-агент в реальном сервисе.

Подробности эксперимента авторы привели в препринте на arXiv. Для тех, кто готовит собственный разбор научной работы, полезным может быть сервис подготовки научных статей.

Схема показывает, как одинаковый запрос при доступе ИИ-агента к личному контексту может привести к другой рекомендации.

Фото: Gustavo Fring / Pexels