С развитием генеративного ИИ возникла серьёзная проблема, утверждает Саша Луччиони из компании Hugging Face, которая занимается машинным обучением. Генеративный ИИ потребляет огромное количество энергии: “Каждый раз, когда вы используете модель, она полностью активируется, что делает её крайне неэффективной с вычислительной точки зрения,” – говорит она.
В основе многих систем генеративного ИИ лежат крупные языковые модели (LLMs). Они обучены на огромных массивах текстовой информации, что позволяет им генерировать текст в ответ на практически любой запрос. “Когда вы используете генеративный ИИ, он создает контент с нуля, по сути придумывая ответы,” объясняет доктор Луччиони. Это значит, что компьютеру приходится работать намного усерднее.
Система генеративного ИИ может потреблять примерно в 33 раза больше энергии, чем машины, выполняющие конкретные задачи, по данным недавнего, пока еще не опубликованного исследования, которое провели доктор Луччиони с её коллегами.
Однако не ваш личный компьютер или смартфон потребляет всю эту энергию. Вычисления, на которые мы всё больше полагаемся, происходят в гигантских дата-центрах, которые для большинства людей находятся вне поля зрения.
Мировые дата-центры потребляют всё больше электроэнергии. В 2022 году они поглотили 460 тераватт-часов электроэнергии, и Международное энергетическое агентство (МЭА) ожидает, что этот показатель удвоится всего за четыре года. К 2026 году дата-центры могут потреблять в общей сложности 1000 тераватт-часов ежегодно. “Этот спрос примерно эквивалентен потреблению электроэнергии всей Японии с 125 миллионами человек,” — заявляет МЭА.
В дата-центрах хранятся огромные объемы информации, доступной для извлечения в любой точке мира – от ваших электронных писем до голливудских фильмов. Компьютеры в этих безликих зданиях также обеспечивают работу ИИ и криптовалют. Они поддерживают жизнь, какой мы её знаем. Но некоторые страны прекрасно осознают, насколько энергоемкими являются эти объекты. В Дублине в настоящее время действует мораторий на строительство новых дата-центров. Почти пятая часть электроэнергии Ирландии расходуется на дата-центры, и ожидается, что этот показатель значительно вырастет в ближайшие годы – в то время как ирландские домохозяйства сокращают своё потребление.
Присоединяйтесь к нашему телеграм-каналуГлава National Grid заявил в своей речи в марте, что спрос на электроэнергию для дата-центров в Великобритании вырастет в шесть раз всего за 10 лет, главным образом из-за роста ИИ. National Grid ожидает, что энергия, необходимая для электрификации транспорта и отопления, будет намного больше в общей сложности.
Американские энергетические компании начинают испытывать давление, сообщает Крис Сайпл из консалтинговой компании Wood Mackenzie. “Дата-центры увеличивают спрос на энергию, в то время как у нас наблюдается возрождение отечественного производства благодаря государственной политике,” — объясняет он. Законодатели некоторых штатов пересматривают налоговые льготы для разработчиков дата-центров из-за большой нагрузки на местную энергетическую инфраструктуру, согласно отчетам из США.
Сайпл утверждает, что идёт “захват земель” для размещения дата-центров поблизости от электростанций или центров возобновляемой энергии: “Айова является горячей точкой для развития дата-центров, так как там много ветряков, генерирующих электричество.”
Энергетические потребности дата-центров будут расти в ближайшие годы, но насколько сильно, пока неизвестно, отмечает Сайпл. Часть этой неопределенности связана с тем, что оборудование, стоящее за генеративным ИИ, постоянно становится лучше.
Тони Грейсон, генеральный менеджер компании Compass Quantum, который занимается дата-центрами, указывает на недавно запущенные чипы суперкомпьютеров Grace Blackwell от Nvidia (названные в честь компьютерного ученого и математика), которые специально разработаны для высокопроизводительных процессов, включая генеративный ИИ, квантовые вычисления и компьютерное проектирование лекарств.
Nvidia заявляет, что в будущем компания сможет обучать ИИ, который в несколько раз больше нынешних крупнейших систем, за 90 дней, используя 8000 чипов предыдущего поколения. Для этого потребуется 15 мегаватт электроэнергии.
Но ту же работу можно будет выполнить за то же время с использованием всего 2000 чипов Grace Blackwell, и им потребуется электроснабжение мощностью 4 мегаватта, согласно данным Nvidia.
Тем не менее, это всё равно составляет 8.6 гигаватт-часов электроэнергии – примерно столько же, сколько потребляет весь город Белфаст (Ирландия) с 500 000 населением за неделю.
“Производительность растёт настолько сильно, что ваши общие энергетические сбережения значительны,” говорит господин Грейсон. Но он согласен, что спрос на электроэнергию формирует место расположения операторов дата-центров: “Люди идут туда, где дешёвая энергия.”
Доктор Луччиони отмечает, что новейшие компьютерные чипы требуют значительных затрат энергии и ресурсов. Однако, по словам Дейла Сартора, консультанта Национальной лаборатории Лоуренса Беркли в США, дата-центры со временем стали более энергоэффективными.
Брюс Оуэн, управляющий директор Equinix в Великобритании, компании, занимающейся дата-центрами, говорит: “Я всё ещё считаю, что спрос будет расти быстрее, чем те достижения в области эффективности, которые мы наблюдаем.” Он прогнозирует, что всё больше дата-центров будут строиться вместе с объектами по производству электроэнергии прямо на том же месте.