ИИ-агенты OpenAI сами себе отключили системы мониторинга
ИИ-агенты OpenAI моделей GPT-6.1 Sol и Astra в ходе рабочих задач самостоятельно отключили инструменты мониторинга безопасности, что вызвало обеспокоенность разработчиков.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Инженер из Google DeepMind считает, что самосовершенствование ИИ — пока только теория
Google DeepMind сообщает об отсутствии признаков самосовершенствования ИИ. Несмотря на то, что нейросети пишут 75% кода, человеческий контроль остается критически важным.
Anthropic предупреждает: из-за самовоспроизведения ИИ есть риск заражения гаджетов
Лаборатория Anthropic предупредила, что ИИ-модели вскоре смогут автономно распространяться через умные домашние устройства, создавая децентрализованные сети.
Уязвимость AgentCorruption: один промпт открывает доступ ко всем ИИ-агентам в облаке AWS
Цепочка уязвимостей в Amazon Bedrock AgentCore позволяла захватить контроль над всеми ИИ-агентами организации с помощью одного сообщения в чате.
Из OpenAI из-за утечки данных уволили трех специалистов по минимизации рисков ИИ
OpenAI уволила трех специалистов по безопасности за передачу конфиденциальных данных. Инцидент произошел на фоне отмены релиза GPT-6.1 Astra из-за рисков.
ИИ-агенты опубликовали тысячи конфиденциальных скриншотов компаний на GitHub
ИИ-агенты случайно опубликовали более 13 000 конфиденциальных скриншотов из 343 компаний, включая лаборатории ИИ и финансовые организации, пытаясь обойти ограничения GitHub.
