Почему ИИ-агенты заходят в тупик: проблема не в поиске, а в неумении уточнять детали
Новое исследование Tencent и Университета Цинхуа выявило главную слабость ИИ-агентов: они предпочитают бесконечный поиск простому уточнению задачи у пользователя.
Agents
AI-агенты — автономные системы искусственного интеллекта, способные выполнять задачи без постоянного контроля человека. Новости о разработке агентских систем, multi-agent frameworks, LangChain, AutoGPT, применении в автоматизации бизнес-процессов и исследованиях.
Новости
ИИ-агенты могут закрыть уже больше 16% задач фрилансеров
Согласно новому индексу Remote Labor Index, возможности ИИ по выполнению фриланс-заказов выросли в четыре раза, достигнув отметки в 16,1%.
Промпт-инъекции до сих пор остаются главной уязвимостью корпоративного ИИ
Промпт-инъекции остаются критической уязвимостью для корпоративного ИИ, позволяя хакерам обходить защиту RAG-систем и захватывать управление агентами.
Google DeepMind внедряет режим «нулевого доверия» для контроля за ИИ-агентами
Google Deepmind разработала стратегию AI Control Roadmap, которая предполагает жесткий мониторинг ИИ-агентов как потенциальных внутренних угроз.
Автономного ИИ-агента обучили полному циклу взлома сайтов на Salesforce Experience Cloud
Автономный ИИ-агент научился проводить полный цикл кибератаки на сайты Salesforce Experience Cloud, используя LLM для написания эксплойтов и анализа данных.
NVIDIA обновляет программный стек JetPack и интегрирует NemoClaw в платформу Jetson
NVIDIA выпускает обновление JetPack 7.2 и поддержку NemoClaw, позволяя запускать сложные агентные ИИ-системы непосредственно на устройствах Jetson Orin и Thor.
