Колико воде користи вештачка интелигенција?

Кладим се да сте чули све, од „вештачка интелигенција попије флашу воде на сваких неколико питања“ до „то је у основи неколико капи“. Истина је нијансиранија. Водени отисак вештачке интелигенције значајно варира у зависности од тога где се покреће, колико је дугачак ваш упит и како центар података хлади своје сервере. Дакле, да, главна бројка постоји, али се крије унутар мноштва упозорења.

У наставку анализирам јасне бројке спремне за доношење одлука, објашњавам зашто се процене не слажу и показујем како градитељи и свакодневни корисници могу смањити потрошњу воде, а да се не претворе у монахе одрживости.

Чланци које бисте можда желели да прочитате након овог:

🔗 Шта је скуп података о вештачкој интелигенцији
Објашњава како скупови података омогућавају обуку машинског учења и развој модела.

🔗 Како вештачка интелигенција предвиђа трендове
Показује како вештачка интелигенција анализира обрасце како би предвидела промене и будуће исходе.

🔗 Како мерити перформансе вештачке интелигенције
Рашчлањује основне метрике за процену тачности, брзине и поузданости.

🔗 Како разговарати са вештачком интелигенцијом
Води ефикасне стратегије подстицања ради побољшања јасноће, резултата и доследности.

Колико воде користи вештачка интелигенција? Брзи бројеви које заправо можете користити 📏

• Типичан распон по упиту данас: од мање од милилитра за средњи текстуални упит на једном мејнстрим систему, до десетина милилитара за дужи одговор који захтева више рачунарских ресурса на другом. На пример, Гуглово рачуноводство за производњу извештава да је средњи текстуални упит ~0,26 мл (са укљученим пуним трошковима сервирања) [1]. Мистралова процена животног циклуса процењује да је одговор помоћника од 400 токена ~45 мл (маргинална инференција) [2]. Контекст и модел су веома важни.

• Обука модела на граничној скали: може се мерити у милионима литара , углавном од хлађења и воде уграђене у производњу електричне енергије. Широко цитирана академска анализа проценила је ~5,4 милиона литара за обуку модела GPT класе, укључујући ~700.000 литара потрошених на лицу места за хлађење - и залагала се за паметно заказивање како би се смањио интензитет воде [3].

• Центри података уопште: велики објекти покривају стотине хиљада галона дневно у просеку код главних оператера, са већим врхунцима на неким кампусима у зависности од климе и дизајна [5].

Будимо искрени: те бројке на први поглед делују недоследно. Јесу. И постоје добри разлози за то.

Метрике потрошње воде помоћу вештачке интелигенције ✅

Добар одговор на питање Колико воде користи вештачка интелигенција? требало би да означи неколико поља:

1. Јасноћа граница
   Да ли укључује само за хлађење на лицу места или и воду ван локације електране за производњу електричне енергије? Најбоља пракса разликује повлачење воде од потрошње воде и обухвата 1-2-3, слично обрачуну угљеника [3].

2. Осетљивост локације
   Вода по kWh варира у зависности од региона и мешавине мреже, тако да исти захтев може имати различите утицаје на воду у зависности од тога где се служи - кључни разлог зашто литература препоручује заказивање које је свесно времена и места [3].

3. Реализам радног оптерећења
   Да ли број одражава средње захтеве за производњу , укључујући капацитет у стању мировања и оптерећење дата центра, или само акцелератор у вршном стању? Гугл наглашава рачуноводство целог система (мировање, CPU/DRAM и оптерећење дата центра) за закључивање, а не само математику TPU-а [1].

4. Технологија хлађења
   Испаравајуће хлађење, хлађење течношћу у затвореном кругу, хлађење ваздухом и нови директног хлађења чипом драматично мењају интензитет воде. Мајкрософт уводи дизајне који имају за циљ да елиминишу употребу воде за хлађење за одређене локације следеће генерације [4].

5. Доба дана и годишње доба
   Топлота, влажност и услови мреже мењају ефикасност коришћења воде у стварном животу; једна утицајна студија сугерише да се главни послови заказују када и где је интензитет воде мањи [3].

Повлачење воде наспрам потрошње воде, објашњено 💡

• Повлачење = вода узета из река, језера или водоносних слојева (нека враћена).

• Потрошња = вода која се не враћа јер испарава или је уграђена у процесе/производе.

Расхладни торњеви првенствено троше воду испаравањем. Производња електричне енергије може да повуче велике количине (понекад потроши и део ње), у зависности од постројења и методе хлађења. Веродостојне ознаке вештачке интелигенције - број воде које приказује [3].

Где вода иде у вештачкој интелигенцији: три канте 🪣

1. Обхват 1 - хлађење на лицу места
   Видљиви део: вода је испарила у самом дата центру. Избори дизајна попут испаривања у односу на ваздух или затворену петљу течности постављају основне вредности [5].

2. Област 2 - производња електричне енергије
   Сваки kWh може носити скривену ознаку воде; мешавина и локација одређују сигнал литара по kWh који ваше радно оптерећење наслеђује [3].

3. Област 3 - ланац снабдевања
   Производња чипова се ослања на ултрачисту воду у процесу израде. Нећете је видети у метрици „по захтеву“ осим ако граница експлицитно не укључује отелотворене утицаје (нпр. потпуна процена животног циклуса) [2][3].

Пружаоци услуга по бројевима, са нијансама 🧮

• Google Gemini упите
  за методу пружања услуга са пуним стеком (укључујући неактивност и трошкове објекта). Средња вредност текстуалног упита је ~0,26 mL воде уз ~0,24 Wh енергије; бројке одражавају производни саобраћај и свеобухватне границе [1].

• Животни циклус ракете Mistral Large 2.
  Ретка независна LCA анализа (са ADEME/Carbone 4) открива ~281.000 m³ за обуку + рану употребу и маргиналну вредност закључивања од ~45 mL за од 400 токена [2].

• Мајкрософтова амбиција хлађења без употребе воде
  Центри података следеће генерације су дизајнирани да не троше воду за хлађење , ослањајући се на приступе директног хлађења на чип; административна употреба и даље захтева извесну количину воде [4].

• Општи обим центара података
  Велики оператери јавно извештавају о стотинама хиљада галона дневно у просеку на појединачним локацијама; клима и дизајн повећавају или смањују бројке [5].

• Ранија академска основа.
  Кључна анализа „жедне вештачке интелигенције“ проценила је милионе литара за тренирање модела GPT класе и да би 10–50 средњих одговора могло отприлике бити једнако од 500 мл - у великој мери зависно од тога када/где се покрећу [3].

Зашто се процене толико не слажу 🤷

• Различите границе
  Неке бројке рачунају само хлађење на лицу места ; друге додају електричну енергију и воду ; LCA могу додати производњу чипса . Јабуке, поморанџе и воћна салата [2][3].

• Различита радна оптерећења
  Кратак текстуални упит није дуго мултимодално/кодно извршавање; циљеви групирања, конкурентности и латенције мењају искоришћење [1][2].

• Различите климе и мреже
  Испаравајуће хлађење у врућем, сушном региону ≠ ваздушно/течно хлађење у хладном, влажном. Интензитет воде у мрежи значајно варира [3].

• Методологије добављача
  Гугл је објавио системску методу сервирања; Мистрал је објавио формалну процену животног циклуса (LCA). Други нуде тачкасте процене са ретким методама. Истакнута „једној петнаестини кашичице“ по промпту доспела је на насловне стране - али без граничних детаља, није упоредива [1][3].

• Покретна мета
  Хлађење се брзо развија. Мајкрософт пилотира хлађење без воде на одређеним локацијама; увођење ових система ће смањити потрошњу воде на лицу места чак и ако узводна електрична енергија и даље носи сигнал воде [4].

Шта можете учинити данас да смањите водни отисак вештачке интелигенције 🌱

1. Правилно димензионисање модела
   Мањи, модели прилагођени задацима често одговарају тачности уз мање рачунарског напора. Мистралова процена истиче јаке корелације између величине и простора који заузимају - и објављује маргиналне бројеве инференције како бисте могли да расуђујете о компромисима [2].

2. Бирајте регионе који штеде воду.
   Преферирајте регионе са хладнијом климом, ефикасним хлађењем и мрежама са нижим интензитетом воде по kWh; рад „жедне вештачке интелигенције“ показује да временски и просторно свесно заказивање помаже [3].

3. Померање радних оптерећења у времену.
   Закажите обуку/тешке серијске закључке за сате који ефикасно користе воду (хладније ноћи, повољни услови у мрежи) [3].

4. Питајте свог добављача за транспарентне метрике
   потражње за водом по захтеву , дефиниције граница и да ли бројке укључују неактивне капацитете и режијске трошкове објеката. Групе за заступање политике се залажу за обавезно објављивање како би се омогућило поређење праксе са праксом [3].

5. Технологија хлађења је важна.
   Ако користите хардвер, процените хлађење затворене петље/директно хлађење на чип ; ако сте у облаку, преферирајте регионе/провајдере који улажу у дизајне са воденим осветљењем [4][5].

6. Користите сиву воду и опције за поновну употребу.
   Многи кампуси могу заменити изворе воде која није питка или рециклирати унутар петљи; велики оператери описују балансирање извора воде и избора хлађења како би се минимизирао нето утицај [5].

Брз пример да бисмо то учинили стварним (није универзално правило): премештање посла обуке преко ноћи из врућег, сувог региона усред лета у хладнији, влажнији регион у пролеће - и његово обављање током ванвршних, хладнијих сати - може померити и на лицу места и ван локације (електронске мреже). То је врста практичног распореда победа са мало драме који може да откључа [3].

Табела за поређење: брзи избори за смањење потрошње воде коју троши вештачка интелигенција 🧰

(„Цена“ је по дизајну лагана - примене варирају.)

Дубинска анализа: политички бубњеви су све гласнији 🥁

Инжењерска тела позивају на обавезно објављивање података о енергији и води у центрима података како би купци и заједнице могли да процене трошкове и користи. Препоруке укључују дефиниције обима, извештавање на нивоу локације и смернице за избор локације - јер без упоредивих метрика које су свесне локације, расправљамо у мраку [3].

Дубинска анализа: дата центри не користе исти начин за испоруку података 🚰

Постоји стални мит да „хлађење ваздухом не користи воду“. Не баш. Системи који користе много ваздуха често захтевају више електричне енергије , која у многим регионима носи скривену воду из мреже; с друге стране, хлађење водом може смањити снагу и емисије на штету воде на лицу места. Велики оператери експлицитно балансирају ове компромисе од локације до локације [1][5].

Дубински увид: брза провера стварности у вези са виралним тврдњама 🧪

Можда сте видели смеле изјаве да један упит једнак је „флаши воде“ или, с друге стране, „само неколико капи“. Боље држање: скромност са математиком . Данашњи веродостојни завршни кораци су ~0,26 мл за средњи производни упит са пуним трошковима сервирања [1] и ~45 мл за одговор помоћника од 400 токена (маргинална инференција) [2]. Често дељена „једној петнаестини кашичице“ нема јавну границу/метод; третирајте је као временску прогнозу без града [1][3].

Мини-често постављана питања: Колико воде вештачка интелигенција троши? опет, на једноставном енглеском 🗣️

• Дакле, шта би требало да кажем на састанку?
  „По питању, креће се од капи до неколико гутљаја , у зависности од модела, дужине и места где се одвија. Тренинг захтева базене , а не баре.“ Затим наведите један или два примера изнад.

• Да ли је вештачка интелигенција јединствено лоша?
  Јединствено је концентрисана : чипови велике снаге спаковани заједно стварају велика оптерећења хлађења. Али центри података су такође место где најбоља технологија ефикасности има тенденцију да прва стигне [1][4].

• Шта ако једноставно све пређемо на ваздушно хлађење?
  Можда бисте смањили на лицу места , али повећали ван локације путем струје. Софистицирани оператери разматрају оба фактора [1][5].

• Шта је са будућом технологијом?
  Дизајни који избегавају хлађење воде у великим размерама били би прекретница за Scope 1. Неки оператери се крећу у овом правцу; узводна електрична енергија и даље носи сигнал воде док се мреже не промене [4].

Завршне напомене - Предугачко, нисам прочитао/ла 🌊

• По упиту: размислите о величинама од мање од милилитара до десетина милилитара , у зависности од модела, дужине упита и места где се извршава. Средња вредност упита је ~0,26 мл на једном главном стеку; ~45 мл за одговор од 400 токена на другом [1][2].

• Обука: милиони литара за граничне моделе, што чини заказивање, лоцирање и технологију хлађења критичним [3].

• Шта урадити: моделе праве величине, одабрати регионе са довољно воде, пребацити тешке послове на хладније сате, преферирати добављаче који доказују дизајн са светлом за воду и захтевати транспарентне границе [1][3][4][5].

Мало погрешна метафора за крај: Вештачка интелигенција је жедан оркестар - мелодија је рачунарска, али бубњеви се хладе и заливају водом. Наштимујте бенд и публика ће и даље чути музику без паљења прскалица. 🎻💦

Референце

1. Блог о Google Cloud-у - Колико енергије користи Google-ова вештачка интелигенција? Урадили смо математику (методологија + ~0,26 mL средњи захтев, пуни трошкови сервирања). Линк
   (Технички рад у PDF формату: Мерење утицаја на животну средину испоруке вештачке интелигенције у Google-овим размерама .) Линк

2. Mistral AI - Наш допринос глобалном еколошком стандарду за AI (LCA са ADEME/Carbone 4; ~281.000 m³ обука + рана употреба; ~45 mL по од 400 токена , маргинална инференција). Линк

3. Ли и др. - Како учинити вештачку интелигенцију мање „жедном“: Откривање и решавање тајног водног отиска модела вештачке интелигенције (обука милиона литара , у зависности од времена и места , повлачење у односу на потрошњу). Линк

4. Мајкрософт - Дата центри следеће генерације не троше воду за хлађење (дизајни директно у чип усмерени су на хлађење без воде на одређеним локацијама). Линк

5. Google центри података - Одрживо функционисање (компромиси у хлађењу од локације до локације; извештавање и поновна употреба, укључујући регенерисану/сиву воду; типична дневна употреба на нивоу локације по редовима величине). Линк

Пронађите најновију вештачку интелигенцију у званичној продавници вештачке интелигенције

О нама