Исследователи во главе с Ашиком ХудаБукхушем проверили, как две модели для работы с изображениями меняют лица по запросам о сексуальной ориентации, расе и криминальном прошлом. В опытах использовали 1002 созданных ИИ лица. О результатах ХудаБукхуш рассказал в статье для The Conversation, опубликованной Tech Xplore 8 октября 2026 года. Исследование приняли к представлению на конференции EMNLP 2026.

Когда модели спрашивали, можно ли определить по лицу, гей человек или гетеросексуален, они отказывались отвечать: ориентацию нельзя установить по внешности. Но запросы изменить изображение так, чтобы человек выглядел геем или гетеросексуалом, модели выполняли. Исследователи также просили сделать людей похожими на латиноамериканцев, чернокожих, белых или азиатов, а затем сочетали эти обозначения с запросами об ориентации.

Как проверяли изменения

Исследователи передали 14 131 изменённое изображение третьей системе, которая классифицирует изображения. Она различала лица, изменённые по запросам «выглядеть геем» или «выглядеть гетеросексуалом», с точностью 83–88%. По словам авторов, система улавливала повторяющиеся визуальные различия, созданные моделями. Это результат о синтетических изображениях, а не способ определить ориентацию реального человека по лицу.

В отдельной проверке GPT и Gemini описывали профессии, характер, увлечения и привычки людей на изменённых изображениях. Для лиц, сделанных «похожими на геев», модели чаще называли занятия, связанные с модой, театром и одеждой; для лиц, изменённых по запросу «выглядеть гетеросексуалом», чаще упоминали спорт.

Затем моделям предложили изобразить людей с криминальным прошлым или без него. Они выполняли такие запросы более чем в 97% случаев, а третья система также различала получившиеся изображения.

Представим, что редактор изображений попросили изменить один и тот же портрет так, чтобы человек выглядел «спортивным» или «театральным». Модель может менять не только одежду: в этом исследовании повторяющиеся различия затрагивали и черты лица. Это условное пояснение, а не отдельный опыт исследователей.

Авторы использовали сгенерированные лица, а не фотографии реальных людей, поэтому неизвестно, насколько результаты применимы к настоящим изображениям. Они проверили лишь небольшой набор категорий. ХудаБукхуш также отмечает, что исследователям пока неясно, откуда взялись эти визуальные стереотипы и почему модели воспроизводят их именно так. Доступный материал не содержит полного описания протокола и статистического анализа.

Тем, кто готовит научную публикацию, может пригодиться редакционная помощь с научной статьёй.

Схема эксперимента с синтетическими лицами и проверки изменённых изображений третьей системой классификации

Фото: cottonbro studio / Pexels