Безопасность AI-агентов: практические подходы к защите бизнес-процессов
Практические рекомендации по обеспечению безопасности AI-агентов в бизнес-процессах: от принципа нулевого доверия до мониторинга в реальном времени.
Agents
AI-агенты — автономные системы искусственного интеллекта, способные выполнять задачи без постоянного контроля человека. Новости о разработке агентских систем, multi-agent frameworks, LangChain, AutoGPT, применении в автоматизации бизнес-процессов и исследованиях.
Новости
OpenAI представляет Contract Data Agent — ИИ-агента, который автоматизирует анализ контрактов
OpenAI запустила Contract Data Agent — ИИ-инструмент для автоматического анализа юридических контрактов, использующий адаптированные модели GPT-4 для извлечения ключевых положений и выявления рисков.
Hugging Face представила инструмент для сохранения контроля над ИИ-агентами
Hugging Face представила инструмент для сохранения человеческого контроля над автономными ИИ-агентами, позволяющий встраивать точки подтверждения в критические моменты работы ИИ-систем.
Claude Code получает автономность для сложных задач разработки
Anthropic обновила Claude Code системой контрольных точек, суб-агентами и интеграцией с VS Code, превратив ИИ-ассистента в автономного агента для сложной разработки.
Anthropic представила инструменты управления контекстом для разработчиков Claude
Anthropic представила инструменты управления контекстом для разработчиков Claude: редактирование контекста и систему памяти, которые решают проблему ограничений контекстного окна.
Главный технолог Wiz предупреждает об использовании ИИ в кибератаках
Главный технолог Wiz предупреждает: ИИ кардинально меняет кибератаки. Злоумышленники используют промпты и AI-агенты для взломов, пока компании только начинают внедрять технологии.
