Почему искусственную нейросеть нельзя считать модельным организмом

Нейросеть может предсказывать ответы зрительной коры человека на изображения. Но достаточно ли этого сходства, чтобы назвать её модельным организмом, наравне с мышью или дрозофилой?

Нейробиолог Марк Кутанш предлагает оставить этот термин за биологическими системами. Это позиция автора эссе в The Transmitter, а не результат отдельного эксперимента. Вопрос, однако, не только словесный: от ответа зависит, что именно исследователи подразумевают под сходством искусственной сети и мозга.

Общее происхождение и разные способы решать задачу

Мышь и человек не одинаковы, и результаты опытов на мышах не всегда переносятся на людей. Но виды связаны общей эволюционной историей: некоторые биологические механизмы они унаследовали от общих предков. Это родство даёт основание проверять, сохраняются ли механизмы между видами.

У искусственной сети иная история. Её параметры настраиваются в процессе обучения на выбранных данных и для заданной задачи. Поэтому одинаковый ответ на изображение ещё не означает, что сеть и мозг пришли к нему одним путём. Кутанш приводит пример распознавания объектов: некоторые свёрточные сети сильнее опираются на текстуру, тогда как люди чаще используют форму. Категория ответа может совпасть, хотя признаки, на которых он основан, различаются.

Биологическая история важна не только для объяснения полезных функций, но и для понимания несовершенств. У позвоночных свет проходит через слои нервных волокон, прежде чем достигает фоторецепторов сетчатки. С таким устройством связано слепое пятно. Уязвимость нейросети к небольшим изменениям пикселей имеет другую основу: особенности оптимизации и обучающих данных. Она помогает изучать саму сеть, но не объясняет автоматически человеческое зрение.

Что показало сравнение сетей с мозгом

В рецензируемой статье в Nature Communications Колин Конвелл и соавторы сравнили 224 глубокие нейросети с ответами затылочно-височной коры человека на естественные изображения. В анализ вошли данные четырёх участников и 1000 изображений из набора Natural Scenes Dataset. Авторы сопоставляли модели, контролируя различия в архитектуре, задаче обучения и изображениях, на которых их обучали.

В одном таком сравнении 34 свёрточные сети и 21 трансформер были обучены на одном наборе изображений и для одной задачи классификации. При более гибком способе сопоставления средний показатель предсказания составил 0,67 у свёрточных сетей и 0,66 у трансформеров. Среднее преимущество свёрточных сетей было небольшим, но статистически значимым. При этом результаты отдельных моделей двух типов заметно перекрывались, поэтому авторы не считают данные доказательством того, что любая свёрточная сеть предсказывает ответы мозга лучше любого трансформера.

Среди изученных факторов наиболее устойчиво с предсказанием был связан визуальный опыт сети, то есть изображения, использованные при обучении. Но и этот вывод ограничен изученными моделями и задачей: он не устанавливает общего правила для всех нейросетей или всех функций мозга.

Есть и методическая тонкость. В более строгом анализе исследователи напрямую сравнивали геометрию представлений сети и мозга. В более гибком они сначала подбирали веса признаков сети для предсказания ответов отдельных участков мозга. Такая перенастройка повышала оценки сходства: модели, чьи исходные представления заметно различались, после неё выглядели более похожими. Следовательно, итоговая оценка зависит не только от сети, но и от того, как исследователи связывают её представления с мозговыми данными.

Авторы прямо предупреждают, что эти показатели не являются абсолютной мерой того, насколько сеть «похожа на мозг» при любых стимулах. Исследование касается зрительной коры, определённого набора изображений и конкретных методов сравнения. Оно оценивает предсказание ответов в заданных условиях, но не устанавливает тождество причинных механизмов.

Предсказание и объяснение отвечают на разные вопросы

В статье Джеффри Бауэрса и соавторов о моделях человеческого зрения сформулировано сходное предостережение. По доступной аннотации, высокая точность классификации и предсказания мозговых сигналов сама по себе не показывает, какие признаки обеспечили результат. Авторы предлагают проверять также, объясняет ли модель итоги психологических экспериментов, где условия специально меняют для проверки гипотез. Полный текст этой статьи в использованных материалах недоступен, поэтому подробнее описывать её методы и результаты нельзя.

Препринт Кристиана Сегеди и коллег показывает, почему успешное предсказание требует дополнительных проверок. Авторы обнаружили, что рассчитанное небольшое изменение изображения может привести нейросеть к ошибочной классификации, оставаясь незаметным для человека. Это результат о поведении исследованных моделей компьютерного зрения. Он не доказывает, что все нейросети устроены одинаково или что мозг никогда не использует сходные признаки.

Искусственные сети полезны для изучения зрения: исследователи могут менять их архитектуру, обучающие данные и задачи, а затем сравнивать ответы с данными мозга. Но функционального сходства недостаточно, чтобы считать сеть биологическим организмом или заключать, что обе системы используют один механизм. Важно различать два вывода: модель предсказывает наблюдения и модель объясняет, почему биологическая система ведёт себя именно так. О том же разрыве подробнее рассказывает статья о восстановлении увиденного по снимкам мозга и границах такого вывода.

Источники

1. Coutanche M. Reserve the term ‘model organism’ for biological systems. The Transmitter, 2026. Авторское эссе, не рецензируемое экспериментальное исследование.
2. Conwell C., Prince J. S., Kay K. N., Alvarez G. A., Konkle T. A large-scale examination of inductive biases shaping high-level visual representation in brains and machines. Nature Communications, 2024, 15:9383. Рецензируемая статья, полный текст доступен.
3. Szegedy C. et al. Intriguing properties of neural networks. arXiv:1312.6199, 2013; версия 4 от 2014 года. Препринт, полный текст доступен.
4. Bowers J. S. et al. Deep problems with neural network models of human vision. Behavioral and Brain Sciences, 2023, 46:e385. Рецензируемая статья; здесь использована доступная аннотация.

Фото: Google DeepMind / Pexels