Социальные сети столкнулись с новой волной дезинформации, где сгенерированные искусственным интеллектом изображения и несвязанные фотографии используются для создания ложного впечатления массовых протестов ультраправых по всей Европе. Аналитики отмечают, что такие кампании стали более изощренными и труднее поддаются обнаружению.
Технологии манипуляции
Злоумышленники используют несколько методов для создания правдоподобных, но фальшивых визуальных доказательств:
- Генерация фотореалистичных изображений толп и демонстраций с помощью современных ИИ-инструментов
- Использование старых фотографий протестов из других контекстов и стран
- Манипуляция с метаданными и временными штампами
- Создание скоординированных сетей аккаунтов для распространения контента
Вызовы для платформ
Модерация такого контента становится все сложнее. Современные генеративные модели создают изображения практически неотличимые от реальных фотографий, а кросс-платформенное распространение затрудняет оперативное выявление координированных кампаний.
Ирония в том, что технологии, созданные для творчества и прогресса, теперь используются для разрушения социальной ткани. Платформам придется инвестировать в детекцию ИИ-контента на уровне, сопоставимом с инвестициями в сами генеративные модели — гонка вооружений, где ставкой является сама реальность.
Политический контекст
Подобные кампании особенно активны в периоды выборов и социальной напряженности. Создание иллюзии массовой поддержки определенных движений может влиять на общественное мнение и политические процессы.
Эксперты по цифровой безопасности призывают к развитию более совершенных инструментов верификации контента и повышению медиаграмотности пользователей. По сообщению euronews, проблема приобретает системный характер и требует скоординированного ответа от технологических компаний и регуляторов.
Оставить комментарий