Opacus добавил обучение со смешанной точностью: как это ускоряет дифференциально приватное обучение
Opacus добавил поддержку mixed precision для DP-SGD, ускоряя обучение в 2-6 раз и вдвое сокращая потребление памяти. Технология особенно эффективна при использовании LoRA.