Оглавление

Международная консалтинговая компания KPMG оказалась в центре репутационного скандала после публикации отчета о внедрении искусственного интеллекта, содержащего сфабрикованные данные. Как сообщает The Decoder, документ под громким названием Redefining excellence in the age of agentic AI приписывал использование передовых ИИ-решений организациям, которые на деле не имели к ним отношения.

Среди «успешных примеров», упомянутых в отчете, фигурировали такие гиганты, как банк UBS, британская служба здравоохранения NHS, Швейцарские федеральные железные дороги и транспортное управление Лондона. Однако после выхода материала все названные структуры официально опровергли заявления консультантов, заявив, что описанные в документе сценарии использования ИИ не соответствуют действительности.

Первоначальное несоответствие обнаружила платформа GPTZero, специализирующаяся на детектировании сгенерированного контента, а позже эти факты подтвердила проверка Financial Times. Похоже, в попытке продать клиентам экспертизу в области «агентского ИИ», авторы отчета слишком доверились инструментам, которые сами же и продвигают.

Механика ошибки и «галлюцинации второго порядка»

Генеральный директор GPTZero Эдвард Тиан ввел термин «вторичные галлюцинации» для описания этой проблемы. Когда отчеты крупных консалтинговых фирм, обладающих высоким кредитом доверия, содержат вымысел, эти данные мгновенно подхватываются поисковыми алгоритмами и другими LLM. В результате ложь легитимизируется и начинает циркулировать в сети как проверенный факт.

Анализ показал, что причиной провала стало небрежное использование ИИ-поиска. Ссылки в отчете представляли собой вольные пересказы реальных источников, часто без указания URL или авторов. В некоторых случаях исходных документов, на которые опиралась KPMG, и вовсе не существовало в природе. Это явление эксперты окрестили «vibe citing» — цитированием по наитию, когда форма важнее достоверности.

Слепое делегирование фактчекинга нейросетям превращает аналитику в карго-культ, где внешняя атрибутика экспертности подменяет верификацию. Для рынка это тревожный сигнал: даже топовые консалтеры не застрахованы от деградации качества при попытке сократить издержки на живых аналитиках. Подобная экономия на проверке данных неизбежно ведет к потере доверия, которое восстанавливается годами, и ставит под вопрос ценность их платных советов.

Последствия для индустрии

На текущий момент KPMG удалила скандальный отчет со своих ресурсов, но в эпоху цифровых следов скрыть подобный инцидент практически невозможно. Ситуация выглядит особенно иронично: компания, предлагающая услуги по внедрению ИИ-стратегий, продемонстрировала неспособность справиться с базовыми рисками использования генеративных моделей в собственной практике.

Для профессионального сообщества этот кейс становится наглядным уроком того, как работает ответственность за «галлюцинации». Ранее аналогичные проблемы возникли у Google с их функцией AI Overviews, за недостоверность ответов которой немецкий суд признал компанию ответственной. Теперь же мы видим, что даже в закрытом сегменте бизнес-аналитики человеческий контроль остается незаменимым звеном, если компания дорожит своим именем.