Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Microsoft разработала BlueCodeAgent — систему защиты для AI-генерации кода, использующую автоматизированное тестирование на проникновение для создания эффективных механизмов безопасности.
Google представила Private AI Compute — защищенную облачную систему для обработки ИИ-запросов, которая по безопасности якобы не уступает локальной обработке.
OpenAI оспаривает требование суда предоставить 20 миллионов приватных чатов пользователей ChatGPT для расследования нарушения авторских прав — один из самых масштабных запросов на данные в истории.
Amazon запускает частную программу bug bounty для AI-моделей Nova, привлекая избранных исследователей безопасности к тестированию систем перед публичным релизом.
ИИ-индустрия требует ускоренного развития ядерной энергетики, что создает риски для безопасности из-за ослабления регуляторных норм и использования ИИ в лицензировании.
Йошуа Бенжио, один из создателей глубокого обучения, предупреждает об экзистенциальных рисках ИИ и предлагает новый подход к созданию безопасных систем.
