Оглавление

Компания Cohere объявила о внедрении системы цифровой подписи для всех своих моделей Command, размещенных на платформе Hugging Face. Эта мера направлена на обеспечение проверяемой аутентичности и целостности моделей искусственного интеллекта в условиях растущих рисков безопасности цепочек поставок ИИ.

Проблема доверия при развертывании ИИ

Быстрая интеграция искусственного интеллекта в корпоративные среды создала новые риски для цепочек поставок. Поскольку организации все чаще полагаются на предварительно обученные модели, доработанные варианты и сторонние сервисы ИИ, они сталкиваются с критической уязвимостью: цепочка поставок моделей ИИ стала основным вектором атак.

В отличие от традиционных уязвимостей программного обеспечения, скомпрометированные модели ИИ могут:

  • Распространять скрытые предубеждения, ведущие к дискриминационным решениям в найме, кредитовании или обслуживании клиентов
  • Создавать бэкдоры, которые активируются при определенных условиях, обходя средства контроля безопасности
  • Раскрывать обучающие данные или интеллектуальную собственность через атаки инверсии моделей

Эти сбои и атаки часто проявляются незаметно. Предприятиям нужен надежный механизм для проверки того, что развертываемые ими модели являются подлинными, неизмененными и получены из проверенных источников.

Цифровая подпись моделей: основа доверия

Система цифровой подписи моделей использует криптографические методы для создания защищенной от несанкционированного доступа цифровой подписи для артефактов ИИ. Эта подпись проверяет три критических аспекта:

  • Целостность — гарантирует, что модель не была изменена с момента создания.
  • Происхождение — Обеспечивает отслеживаемую запись жизненного цикла разработки модели и зависимостей.
  • Свойства — Подтверждает заявления о производительности, соответствии требованиям и других характеристиках.

Внедряя цифровую подпись моделей, организации могут автоматизировать политики безопасности, упростить соблюдение нормативных требований и ускорить развертывание, сохраняя при этом доверие.

При всей важности этой инициативы, возникает вопрос: не является ли цифровая подпись моделей запоздалой мерой в индустрии, где безопасность долгое время оставалась на втором плане после скорости разработки. Интересно, сколько компаний уже столкнулись с проблемами компрометации моделей, прежде чем индустрия очнулась. Криптографические подписи — это хорошо, но настоящая безопасность начинается с процессов разработки, а не с финального этапа подписания.

Лидерство Cohere в области безопасного ИИ

В рамках своего обязательства по обеспечению безопасности ИИ Cohere публикует артефакты подписи для всех моделей Command. Пользователи теперь могут проверять аутентичность и целостность моделей, развернутых непосредственно на Hugging Face. Эта инициатива устанавливает новый стандарт прозрачности и дает разработчикам и предприятиям возможность создавать системы ИИ с уверенностью.

Вот как проверить подпись модели с помощью библиотеки model-signing:

1. Установите пакет model-signing:
 pip install model-signing

2. Установите huggingface_hub и скачайте модель:
 pip install huggingface_hub
 huggingface-cli download CohereLabs/c4ai-command-r7b-arabic-02-2025 --revision main --local-dir ./model

3. Проверьте подпись:
 model_signing verify ./model \
 --signature /model/signatures/c4ai-command-r7b-arabic-02-2025.sig \
 --identity "https://github.com/cohere-ai/model-signing/.github/workflows/sign-model.yml@refs/heads/main" \
 --identity_provider "https://token.actions.githubusercontent.com" \
 --ignore_unsigned_files

Загрузка подписанных моделей

Исследуйте наши подписанные модели Command и Cohere Labs Aya Vision на Hugging Face. Перейдите в каталог `signature` для каждой модели, где будет содержаться подпись модели (например, `command-a-reasoning-08-2025.sig`) и файл `verification-instructions.txt` с пошаговым руководством по локальной проверке.

По мере того как ИИ становится неотъемлемой частью критической инфраструктуры, цифровая подпись моделей станет такой же важной, как SSL-сертификаты для веб-безопасности сегодня.

По сообщению Cohere.