Cisco выпустила сканер MCP для защиты цепочки поставок ИИ-агентов
Cisco представила открытый инструмент MCP Scanner для анализа безопасности серверов Model Context Protocol, используемых ИИ-агентами для взаимодействия с внешними инструментами.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Эксперты требуют запретить разработку сверхразумного ИИ
Более 1000 экспертов требуют запретить разработку сверхразумного ИИ до достижения научного консенсуса о безопасности. В числе подписантов — нобелевские лауреаты и технологические лидеры.
Как устроена многоуровневая защита от промпт-инъекций в ИИ-ассистенте Comet
Многоуровневая система защиты AI-ассистента Comet от инъекций промптов: классификация в реальном времени, структурированные промпты, подтверждение действий и прозрачные уведомления.
Reddit подает в суд на Perplexity AI за незаконный сбор данных пользователей
Reddit подал иск против Perplexity AI и трех других компаний за незаконный сбор данных пользователей в промышленных масштабах для обучения AI-моделей.
Hugging Face интегрирует сканирование VirusTotal для защиты моделей машинного обучения
Hugging Face интегрировал сканирование VirusTotal для проверки 2.2+ млн моделей и наборов данных на наличие вредоносного кода, усиливая безопасность open-source AI экосистемы.
YouTube запускает систему обнаружения цифровых двойников для борьбы с AI-подделками
YouTube запускает систему обнаружения цифровых двойников для борьбы с AI-подделками. Создателям потребуется предоставить дополнительные данные для защиты своих образов.
