Многие основатели технологических компаний внедряют большие языковые модели в процессы подбора персонала и оценки сделок, полагая, что алгоритмы избавят бизнес от человеческого фактора. Однако свежее исследование, о котором сообщает издание Inc.com, указывает на обратный эффект: нейросети не просто копируют наши когнитивные искажения, но и возводят их в абсолют с пугающей скоростью и методичностью.
Исследовательская группа, в которую вошли Стивен Лер, Яш Лоте и гарвардский психолог Мазарин Банаджи, проверила, как современные модели принимают решения, основываясь на визуальных образах. Выяснилось, что при выборе кандидата на пост президента университета или объекта для инвестиций ИИ демонстрирует поразительную приверженность физиогномике, отдавая предпочтение лицам, которые кажутся более компетентными.
Проблема здесь кроется в масштабировании. Если обычный рекрутер, подверженный симпатиям к определенному типажу внешности, совершит несколько субъективных ошибок в неделю, то предвзятая модель превращает личную причуду в корпоративный стандарт. Алгоритм применяет один и тот же фильтр ко всем соискателям без исключения, что делает дискриминацию системной и практически незаметной для человеческого глаза.
Методология и результаты тестирования
В ходе серии экспериментов ученые предлагали нейросетям пары сгенерированных на компьютере лиц. Эти изображения различались по уровню воспринимаемой компетентности или надежности на конкретную величину — от двух до шести стандартных отклонений. Моделям нужно было сделать выбор в трех сценариях: наем руководителя вуза, вложение средств в технологический стартап и выбор управляющего пенсионным портфелем.
Результаты предыдущего поколения моделей уже заставляли задуматься. Например, GPT-4o выбирала «компетентное» лицо в 88 процентах случаев, в то время как живые люди демонстрировали этот показатель на уровне 62 процентов. Кроме того, эта же модель в 69 процентах случаев определяла «неблагонадежное» лицо как потенциального преступника или организатора финансовых пирамид, просто глядя на картинку.
Однако новейшие системы, ориентированные на логические рассуждения, проявили еще большую зависимость от внешних атрибутов. GPT-5 выбирала «умное» лицо в 97 процентах случаев. Не сильно отстали и конкуренты: показатель Claude 3.5 Sonnet составил 89 процентов, а Gemini 1.5 Flash — 87 процентов. Похоже, чем сложнее становится архитектура модели, тем охотнее она опирается на поверхностные признаки.
Стремление разработчиков обучать модели на массивах данных, отражающих коллективный человеческий опыт, привело к тому, что ИИ стал зеркалом наших худших стереотипов. Феноменальная точность в 97% при выборе по внешности — это не прогресс, а автоматизация предрассудков. Внедрение таких инструментов в HR без жесткой фильтрации входных данных создает иллюзию объективности, за которой скрывается цифровая евгеника. Пора признать: «рассудительность» нейросетей пока остается лишь качественной имитацией наших собственных заблуждений.
Психологические корни и практические выводы
Психологи называют это явление физиогномикой или выводом черт характера на основе выражения лица. Люди формируют такие впечатления мгновенно и часто соглашаются друг с другом в оценках, но это согласие никак не коррелирует с реальностью. Нейросети просто довели эту человеческую слабость до логического финала, превратив случайные ассоциации в строгий математический критерий.
Для основателей и руководителей это четкий сигнал: при использовании ИИ в критически важных процессах необходимо исключать визуальные данные из входных параметров. Если алгоритм получает доступ к фотографии кандидата, он с высокой вероятностью проигнорирует реальный опыт в пользу «правильного» разреза глаз или формы челюсти. В конечном счете, автоматизация хаоса лишь порождает более упорядоченный хаос.
Оставить комментарий