Оглавление

Исследователи Стэнфорда развенчали миф о ChatGPT как инструменте лингвистического равенства: анализ 80 000 рецензий показал, что рецензенты научились определять «LLM-почерк» и ассоциируют его с авторами из неанглоязычных стран. Английский остаётся лингва-франка науки, создавая системное преимущество для носителей языка. Работа Хейли Лепп и Дэниела Скотта Смита, поддержанная Stanford HAI, будет представлена на конференции ACM FAccT и уже доступна на arXiv.

Механизмы предвзятости

Исследование выявило парадокс: после повсеместного внедрения LLM рецензенты стали искать новые маркеры происхождения авторов. Как поясняет Лепп: «Если у вас есть подсознательная предвзятость против учёных из Китая, она проявится новыми способами». Ключевые находки:

  • Рецензенты идентифицируют LLM-фразы (например, навязчивое использование «delve») как признак неанглоязычного автора
  • Языковое качество неявно приравнивается к научной ценности работы
  • После появления ChatGPT уровень дискриминации снизился лишь незначительно

Интервью с исследователями

В беседе Лепп подчеркнула ошибочность подхода, возлагающего ответственность на авторов: «Обсуждения фокусировались на учёных, а не на читателях». Она провела параллель с образовательными исследованиями Флореса и Розы (Flores & Rosa, 2015), где лингвистические «коррекции» не устраняли предубеждений.

На вопрос о демократизирующей роли ИИ Лепп ответила скептически: «Идея, что ИИ автоматически устраняет неравенство, оправдывает бездействие институтов». Учёные настаивают: проблема глубже языкового барьера — она уходит корнями в колониальную историю англоцентричной науки.

Ирония в том, что LLM, созданные для устранения барьеров, стали инструментом стигматизации. Это исследование — жёсткое напоминание: технологии не нейтральны, они усиливают системные предубеждения. Пока научное сообщество не пересмотрит критерии оценки, ИИ будет лишь маскировать дискриминацию под «объективность». И особенно цинично выглядит то, что сами LLM тренировались на корпусах текстов, где доминирует западная наука — так что они не столько инструмент демократизации, сколько продукт существующего неравенства.