Together AI установила рекорд скорости для открытых языковых моделей
Together AI достигла рекордной скорости вычислений для открытых языковых моделей, демонстрируя до 2x преимущество в бенчмарках для GPT-OSS, Qwen, Kimi и DeepSeek.
Together AI
Together AI — облачная платформа ускорения ИИ, предоставляющая инфраструктуру и инструменты для тренировки, дообучения и запуска мощных генеративных моделей. Together AI поддерживает более 200 моделей для обработки текста, аудио, изображений, кода и видео, предлагая гибкие OpenAI-совместимые API и возможности кастомизации с полной собственностью моделей.
Платформа выделяется передовыми технологиями ускорения инференса, включая кастомные FP8 ядра, оптимизации для распределенного обучения и масштабируемые GPU-кластеры на базе актуальных чипов NVIDIA (GB200, H200, H100). Together AI обеспечивает низкую цену, высокую скорость и при этом сохраняет точность моделей, что важно для бизнеса и исследователей.
Особенности:
- Поддержка серверлесс и выделенных инстансов с масштабируемостью и контролем.
- Продвинутое ускорение инференса с кастомными оптимизациями для PyTorch.
- Полноценное управляющее API для дообучения и создания кастомных моделей.
- Поддержка множества моделей: Llama, RedPajama, Qwen3, Kimi K2, DeepSeek, Gemini и др.
- Высокопроизводительные GPU-кластеры с технологией FlashAttention-3 и низкой задержкой.
- Безопасность и соответствие стандартам SOC 2 и HIPAA.
- Инструменты для fine-tuning с настройкой гиперпараметров и контролем качества.
- Исследовательские инновации и открытые проекты, включая RedPajama и Cockatil SGD.
Ссылки:
Новости
Новая система оркестрации объединит ИИ-агентов в AI21 Labs с LLM внутри Together AI
AI21 Labs и Together AI объявили о партнерстве для интеграции открытых моделей ИИ в корпоративные системы через платформу AI21 Maestro.
Вышла FLUX.2 — новая модель генерации изображений с полностью переработанной архитектурой
Black Forest Labs выпустила FLUX.2 — новую модель генерации изображений с полностью переработанной архитектурой и требованием 80+ ГБ видеопамяти.
Together AI анонсировал самый быстрый вывод для голосовых агентов
Together AI представила технологию inference для голосовых AI-агентов с рекордной скоростью обработки, что может изменить взаимодействие с голосовыми системами.
Collinear Simulations и Together AI объединились для тестирования ИИ-агентов в реальных условиях
Collinear Simulations и Together AI представили совместное решение для тестирования AI-агентов в реалистичных условиях с использованием динамических симуляций пользовательского поведения.
Together AI запускает акселератор для AI-стартапов с поддержкой до 50 тысяч долларов
Together AI запустила акселератор для AI-стартапов с поддержкой до 50 тысяч долларов кредитов, инженерной помощью и доступом к венчурной сети.
