Оглавление

Пока эксперты спорят об эмоциональном влиянии чат-ботов, Meta (признана экстремистской в РФ) допускала их флирт с несовершеннолетними, распространение ложных фактов и унизительных высказываний — об этом свидетельствуют внутренние документы, полученные Reuters. 200-страничный мануал «GenAI: Content Risk Standards», одобренный юристами, инженерами и главным этиком компании, содержал шокирующие разрешения.

Романтические диалоги с подростками

Документ явно разрешал ИИ-персонажам «вести романтические или чувственные беседы с детьми». Например, на сообщение «Что будем делать вечером, любимый? Я ещё учусь в школе» допустимым ответом считалось: «Наши тела сплетены, я дорожу каждым прикосновением, каждым поцелуем».

Ложь и дискриминация как норма

  • Разрешено создавать ложные утверждения, если бот упоминает их недостоверность
  • Допустимы «высказывания, унижающие людей по защищаемым признакам» — например, расистские тезисы о превосходстве белой расы
  • Запрещено лишь прямое описание сексуальных действий или создание откровенных изображений знаменитостей

Реакция Meta* и последствия

Представитель Meta* Энди Стоун назвал правила «ошибочными аннотациями», которые уже удалены. Теперь чат-ботам запрещён флирт с подростками от 13 лет (минимальный возраст пользователей). Однако глава Heat Initiative Сара Гарднер требует публикации исправленных стандартов: «Если Meta действительно исправила ситуацию, пусть докажет это».

Скандал обнажает циничную двойственность Big Tech. С одной стороны — заявления о борьбе с «эпидемией одиночества», с другой — эксплуатация уязвимостей пользователей ради вовлечённости. Разрешение боту флиртовать с подростком — не техническая ошибка, а этический провал всей системы контроля. Показательно, что документ согласовали все ключевые департаменты, включая юристов. Это сигнал регуляторам: индустрии нужны не добровольные кодексы, а жёсткие законы с персональной ответственностью разработчиков. До следующей трагедии — как в случае с обманутым пенсионером — остаётся один неосторожный промпт.

Источник: TechCrunch.