Оглавление

Приложение системы генерации видео Sora от OpenAI, запущенное менее суток назад, уже заполнено пугающе реалистичными дипфейками с участием самого Сэма Альтмана. В ленте рекомендаций можно увидеть генерального директора компании в самых неожиданных ситуациях: от раздачи видеокарт Nvidia в благотворительной столовой до работы за кассой McDonald’s с криками на клиентов.

Фабрика абсурдного контента

В одном из видео бесконечная ферма розовых свиней хрюкает в загонах — каждый оборудован кормушкой и экраном смартфона, показывающим вертикальные видео. Реалистичный Альтман смотрит прямо в камеру и спрашивает: «Нравятся ли моим свинкам их объедки?»

В следующем ролике он появляется на поле с покемонами, где Пикачу, Бульбазавр и недовольно сделанный Гроулит резвятся в траве. «Надеюсь, Nintendo не подаст на нас в суд», — говорит AI-версия Альтмана.

Проблема авторских прав и регулирования

Пользователи Sora особенно наслаждаются тем, насколько явно OpenAI нарушает законы об авторских правах. Приложение, согласно отчетам, потребует от правообладателей отказа от использования их контента — обратный подход, когда создатели должны явно соглашаться на такое использование.

Весь сюр ситуации в том, что сам ИИ-Альтман в одном из видео зачитывает предупреждение о нарушении правил использования личностей третьих лиц, а затем разражается истерическим смехом — будто понимает абсурдность происходящего. Это либо гениальный пиар-ход, демонстрирующий уверенность в продукте, либо опасная игра с огнем, которая может обернуться серьезными регуляторными последствиями.

Технология Cameo и биометрические данные

Ключевая особенность Sora — функция «cameo», позволяющая создавать дипфейки себя на основе загруженных биометрических данных. При регистрации пользователям предлагается записать себя с чтением цифр и поворотами головы.

Настройки доступа к камео включают четыре варианта:

  • Только я
  • Люди, которых я одобряю
  • Взаимные подписки
  • Все

Альтман сделал свое камео доступным для всех, что и объясняет наводнение ленты его образами.

Реализм как угроза

Sora 2 впечатляет своей способностью адекватно передавать законы физики, что делает результат более реалистичным. Но именно этот реализм становится главной угрозой — такой синтетический контент может легко распространяться по сети, становясь вектором дезинформации, буллинга и других злонамеренных использований.

Журналист TechCrunch провел эксперимент, создав собственное камео, несмотря на очевидные риски передачи биометрических данных. Первая попытка провалилась из-за слишком открытых плеч в майке — разумная мера безопасности, но показательная в плане цензуры.

По сообщению TechCrunch, приложение уже стало площадкой для этических провокаций, где пользователи через образ Альтмана задают вопросы о моральной стороне технологии.