ИТ уже отвечает примерно за 2–4% мировых выбросов, а рост спроса на ИИ увеличивает потребление электричества в дата-центрах. На конференции GOTO Copenhagen Чарльз Хамбл предложил считать экологичность одним из основных требований к архитектуре цифровых систем. Среди его рекомендаций — выбирать небольшие готовые модели, переносить вычисления туда и на время, когда электричество чище, и обучать модели на возобновляемой энергии. Об этом сообщает InfoQ.
По оценке Международного энергетического агентства (IEA), потребление электричества Amazon, Microsoft, Google и Meta в сумме более чем удвоилось с 2017 по 2021 год и достигло примерно 72 тераватт-часов. Microsoft сообщала, что её совокупные выбросы выросли на 30% с 2020 года, главным образом из-за строительства дата-центров для обслуживания спроса на ИИ. Выбросы Google увеличились примерно на 50% с 2019 года и на 13% только за 2023 год; компания связывала рост прежде всего с искусственным интеллектом.
Речь в основном идёт о выбросах углекислого газа — парникового газа, который удерживает тепло в атмосфере. По словам Хамбла, цель ограничить потепление 1,5 градуса к 2100 году всё дальше от реальности: прогнозы допускают рост температуры примерно на 2,5–3 градуса. Для сравнения: авиация создаёт около 3% мировых выбросов, а ИТ — 2–4%. При этом авиационная отрасль пытается сокращать выбросы, тогда как технологический сектор движется в противоположную сторону.
Меньше вычислений — меньше выбросов
По оценке IEA, дата-центры в 2022 году потребляли 240–340 тераватт-часов электричества, или 1–1,3% мирового спроса. На сети приходилось ещё 260–360 тераватт-часов. В сумме это около 700 тераватт-часов — почти столько же, сколько потребила Бразилия за тот же период: 726 тераватт-часов.
Перед внедрением ИИ Хамбл предлагает выяснить, действительно ли он нужен, можно ли взять готовую модель вместо обучения с нуля и позволит ли более гибкое соглашение об уровне обслуживания — SLA — перенести вычисления в регион с более чистой электроэнергией. Ещё один вопрос — можно ли управлять спросом: например, выполнять необязательную работу тогда, когда энергии больше и её углеродная интенсивность ниже.
При обучении собственной модели стоит собирать только необходимый объём данных; иногда меньшая модель оказывается эффективнее. Хамбл также рекомендует использовать открытые наборы данных и по возможности переносить обучение или сбор данных на время и в места, где доступна «зелёная» энергия. Если обучение постоянно обеспечивается на 100% возобновляемой энергией, выбросы, по приведённой им оценке, могут сократиться на 45–99%.
Однако значительная часть энергозатрат может возникать уже после обучения — при постоянном использовании и обслуживании модели. Поэтому для любых вычислений Хамбл предлагает брать минимальную конфигурацию оборудования, которая безопасно справится с задачей; выбирать регионы с большим объёмом низкоуглеродной электроэнергии и убедительными планами очистки энергосистемы; пользоваться облачными сервисами с дата-центрами в таких регионах и инструментами контроля выбросов; сокращать время выполнения задач.
Экологичность ИИ — не декоративная метрика, а вопрос масштаба эксплуатации: даже экономичное обучение не спасёт систему, если её используют миллионы раз в день. Оптимизировать нужно весь жизненный цикл модели — иначе эффективность на этапе разработки останется красивой цифрой на фоне растущих счетов за электричество.
Углеродная интенсивность электричества зависит от места и времени. Одна и та же вычислительная задача может быть заметно чище в энергосистемах, где велика доля гидро-, солнечной, атомной и ветровой генерации, например в Норвегии, Швеции и Франции, чем в регионах, зависящих от угля и газа. Доля источников меняется в течение дня и года вместе с выработкой ветра и солнца и уровнем спроса.
Перенос вычислений в более чистый регион или на подходящее время называют углеродно-ориентированным управлением нагрузкой. Для задач, не требующих мгновенного ответа, таких как обучение ИИ, подходит перенос по времени. Более сложный вариант — сезонно перемещать вычисления между полушариями, чтобы лучше использовать солнечную генерацию.
Управление спросом означает, что программа меняет объём или тип выполняемой работы в зависимости от чистоты и доступности электричества. Например, сервис может предложить пользователю обратиться к человеку вместо ИИ. При высокой углеродной интенсивности можно снизить качество видео или изображений, отключить автоматическое воспроизведение и необязательную анимацию, уменьшить частоту обновления или использовать модель поменьше. Компромисс — усложнение системы; важно, чтобы ухудшенный режим всё ещё оставался приемлемым.
Обучать и обслуживать модели разумнее
Хамбл советует по возможности не обучать модели с нуля: взять предварительно обученную и дообучить её, либо ограничиться запросами к ней или использовать RAG — генерацию с дополнением поиском, при которой модель опирается на найденные документы. Уменьшить модель и ускорить обучение помогают дистилляция, квантование и прореживание — методы сжатия. Обучение на устройствах пользователей с помощью федеративного обучения в некоторых случаях тоже может быть экологичнее.
При этом модель, которой широко пользуются, может за весь срок службы создать больше выбросов на этапе ответов, чем при обучении. Поэтому важна эффективность не только создания, но и обслуживания ИИ. Хамбл также указывает на книгу Рагхавендры Селвана Sustainable AI, посвящённую этим подходам.
В итоге Хамбл предлагает поставить экологическую устойчивость в один ряд со стоимостью, производительностью, безопасностью, регулированием и надёжностью. Для вычислительных систем это не отдельное украшение, а архитектурное решение, которое определяет, сколько энергии понадобится модели и где именно она будет расходоваться.
Оставить комментарий