Оглавление

По сообщению The Decoder, группа WikiProject AI Cleanup опубликовала руководство для выявления текстов, сгенерированных искусственным интеллектом. Этот документ — результат двухлетней борьбы с потоком ИИ-контента, угрожающего нейтральности энциклопедии.

Лингвистические маркеры ИИ-текстов

В руководстве выделены характерные стилистические паттерны:

  • Использование напыщенных формулировок: «stands as a testament», «plays a vital role», «underscores its importance»
  • Рекламная лексика: «rich cultural heritage», «breathtaking», «stunning natural beauty»
  • Редакторские комментарии: «it’s important to note», «no discussion would be complete without», нарушающие принцип запрета оригинальных исследований

Яркий пример — описание алжирского города Дуэра: «Douera enjoys close proximity to the capital city… captivates both residents and visitors alike» — классическая ИИ-поэзия, далёкая от энциклопедического стиля.

Технические артефакты и ошибки

Редакторы фиксируют цифровые следы генеративных моделей:

  • Некорректное форматирование заголовков (Title Case вместо sentence case)
  • Остатки Markdown-разметки: звёздочки (*), подчёркивания (_)
  • Артефакты типа «turn0search0» — следы попыток добавить ссылки
  • Сфабрикованные цитаты с битыми DOI и неверными ISBN

Особенно забавны случаи, когда в статьи попадают фразы из чат-сессий: «I hope this helps», «Certainly!» или даже отказные формулировки вроде «as an AI language model».

Ограничения автоматического детектирования

Авторы руководства предупреждают о бесполезности исключительной зависимости от ИИ-детекторов. Причины:

  • LLM обучаются на человеческих текстах, включая саму Википедию
  • Стилистические паттерны могут совпадать с работами неопытных редакторов
  • Требуется анализ комбинации признаков, а не единичных маркеров

Проект ведёт публичный список статей с подозрением на ИИ-генерацию, накопленный с 2023 года.

Ирония в том, что ИИ, обученный на Википедии, теперь массово производит контент, который редакторы учатся отфильтровывать по его же «почерку». Это не просто стилистическая битва — речь о защите фундаментального принципа верифицируемости знаний. Паттерны вроде «важно отметить» или «нельзя не упомянуть» — не ошибки, а системная черта LLM, пытающихся добавить «глубины» через искусственную рефлексию. Пока модели генерируют тексты с такими артефактами, как «turn0search0» или чат-формулировки, у редакторов есть шанс. Но настоящая проблема начнётся, когда ИИ научится идеально имитировать человеческий нейтральный стиль — тогда детекция превратится в криптоаналитическую задачу.

Основатель Википедии Джимми Уэйлс критикует ChatGPT за фабрикацию источников, но организация не исключает интеграции генеративного ИИ для вспомогательных задач. Парадокс: инструмент, создающий проблемы, может стать частью решения.