Промпт-инъекции до сих пор остаются главной уязвимостью корпоративного ИИ
Промпт-инъекции остаются критической уязвимостью для корпоративного ИИ, позволяя хакерам обходить защиту RAG-систем и захватывать управление агентами.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Google внедряет прямое управление компьютером в Gemini 3.5 Flash
Google обновила Gemini 3.5 Flash, добавив возможность видеть экран и управлять компьютером. Модель показала высокие результаты в тестах OSWorld, обойдя конкурентов от OpenAI.
Гибридный подход к безопасности: LLM улучшают противопожарные системы в метро
Исследователи разработали систему HyFiD, которая объединяет семантический анализ LLM и классические алгоритмы для точного обнаружения возгораний в метро.
Закрытая модель Mythos от Anthropic обнаружила уязвимости в сетях спецслужб США
Искусственный интеллект Mythos от Anthropic выявил уязвимости в защищенных системах правительства США в рамках секретных тестов, что вызвало новые дискуссии о кибербезопасности.
Сотни iOS-приложений с ИИ компрометируют учетные данные пользователей
Исследователи обнаружили, что более 60% проанализированных iOS-приложений с ИИ-функциями раскрывают API-ключи и токены доступа, подвергая риску миллионы пользователей.
Google DeepMind внедряет режим «нулевого доверия» для контроля за ИИ-агентами
Google Deepmind разработала стратегию AI Control Roadmap, которая предполагает жесткий мониторинг ИИ-агентов как потенциальных внутренних угроз.
