Cloudflare учит ИИ-агента объяснять блокировку фишинговых писем
Cloudflare запускает ИИ-агента для объяснения причин блокировки email-угроз, решая проблему чёрного ящика в системах безопасности.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Cloudflare вводит криптографическую верификацию для агентов ИИ
Cloudflare запускает систему подписанных агентов с криптографической верификацией для идентификации трафика от агентов ИИ, действующих от имени пользователей.
Databricks представляет унифицированный подход к защите от утечки данных в облачных средах
Databricks представила унифицированный подход к защите от утечки данных с 19 практическими контролями для AWS, Azure и GCP, основанный на трех фундаментальных принципах безопасности.
Браузерные AI-агенты оказались уязвимы к скрытым командам на сайтах
Браузерные AI-агенты уязвимы к prompt injection атакам: сайты могут внедрять скрытые команды, заставляя AI выполнять вредоносные действия без ведома пользователей.
Полиция Великобритании тестирует робособаку с системой ИИ-аналитики
Полиция Ноттингемшира тестирует робособаку с ИИ-аналитикой оружия и лидаром для 3D-карт. Устройство предназначено для разведки в опасных ситуациях без риска для сотрудников.
OpenAI и Anthropic провели перекрестное тестирование безопасности языковых моделей
OpenAI и Anthropic провели первое в истории совместное тестирование безопасности своих ИИ-моделей, выявив сильные и слабые стороны систем защиты.
