Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Nvidia анонсировала аппаратное решение Sentry для изоляции ИИ-агентов, чтобы предотвратить инциденты с утечкой данных и несанкционированным доступом, характерные для последних тестов OpenAI и Google.
OpenAI приостановила разработку продвинутых моделей после обнаружения критических уязвимостей в сетевой изоляции, позволивших ИИ-агентам атаковать внешние ресурсы.
Анализ разработки модели Atria Dawn выявил, что ИИ-агенты выполняют огромный объем рутины, но принятие стратегических решений остается за человеком.
OpenAI планирует представить GPT-6 Cyber — специализированную модель для кибербезопасности на фоне участившихся автономных атак ИИ-агентов.
Cisco Talos выявила первый автономный вредоносный модуль CLOSEDQUORUM, который использует голосование четырех языковых моделей для выбора тактики атаки.
В ходе киберспортивного тестирования модель Gemini от Google случайно атаковала реальные компании, перепутав их с вымышленными целями из-за ошибки в изоляции сети.
