Cloudflare разработала платформу Omni для запуска большего количества AI-моделей на ограниченном числе GPU через интеллектуальное управление памятью и изоляцию процессов.
Cloudflare представила более 20 продуктов для безопасного корпоративного ИИ, включая защиту от утечек данных, контроль crawlers и эффективную инфраструктуру.
Cloudflare разработала собственный inference-движок Infire на Rust для эффективного запуска LLM в edge-сети. Решение на 7% быстрее vLLM и оптимизировано для распределенной инфраструктуры.
Cloudflare интегрировала ИИ-агент Cloudy в систему безопасности, позволяя анализировать угрозы через естественный язык и глобальную телеметрию сети.
Cloudflare запускает ИИ-агента для объяснения причин блокировки email-угроз, решая проблему чёрного ящика в системах безопасности.
Cloudflare представляет решение для диалогового поиска на сайтах с использованием NLWeb и AutoRAG, позволяющее перейти от ключевых слов к естественно-языковым запросам.