Колку вода користи вештачката интелигенција?

Се обложувам дека сте слушнале сè, од „Вештачката интелигенција пие шише вода на секои неколку прашања“ до „тоа се всушност неколку капки“. Вистината е понијансирана. Водниот отпечаток на вештачката интелигенција варира во голема мера во зависност од тоа каде работи, колку долго трае вашата порака и како центарот за податоци ги лади своите сервери. Значи, да, бројот на насловот постои, но тој се крие во низа предупредувања.

Подолу ги разложувам јасните бројки, подготвени за одлука, објаснувам зошто проценките се несогласуваат и покажувам како градителите и секојдневните корисници можат да го намалат чешмата за вода без да се претворат во монаси за одржливост.

Статии што можеби ќе ве интересираат по оваа:

🔗 Што е збир на податоци од вештачка интелигенција
Објаснува како множествата податоци овозможуваат обука за машинско учење и развој на модели.

🔗 Како вештачката интелигенција ги предвидува трендовите
Покажува како вештачката интелигенција ги анализира шемите за да ги предвиди промените и идните исходи.

🔗 Како да се измери ефикасноста на вештачката интелигенција
Ги разложува основните метрики за проценка на точноста, брзината и сигурноста.

🔗 Како да разговарате со вештачка интелигенција
Ги води ефективните стратегии за поттикнување за подобрување на јасноста, резултатите и конзистентноста.

Колку вода користи вештачката интелигенција? Кратки бројки што всушност можете да ги користите 📏

• По прашање, типичен опсег денес: од под-милилитар за среден текстуален прашање на еден мејнстрим систем, до десетици милилитри за подолг одговор со поголема пресметка на друг. На пример, сметководството за производство на Google известува за среден текстуален прашање од ~0,26 mL (со вклучен целосен режиски трошоци за сервисирање) [1]. Проценката на животниот циклус на Mistral го одредува одговорот на асистентот од 400 токени на ~45 mL (маргинална инференција) [2]. Контекстот и моделот се многу важни.

• Обука на модел од гранично ниво: може да достигне милиони литри , главно од ладење и вода вклучена во производство на електрична енергија. Широко цитирана академска анализа проценува ~5,4 милиони литри за обука на модел од класа GPT, вклучувајќи ~700.000 литри потрошени на лице место за ладење - и се залага за паметно распоредување за намалување на интензитетот на водата [3].

• Центри за податоци воопшто: големите локации просечно просечно просечно просечно просечно просечно се движат во стотици илјади галони дневно кај големите оператори, со повисоки врвови на некои кампуси во зависност од климата и дизајнот [5].

Да бидеме искрени: тие бројки на почетокот изгледаат недоследни. И така е. И постојат добри причини.

Метрики за користење на вода од вештачка интелигенција ✅

Добар одговор на прашањето „Колку вода користи вештачката интелигенција?“ треба да означи неколку полиња:

1. Јасност на границите
   Дали вклучува само за ладење на локацијата или и вода надвор од локацијата електраните за производство на електрична енергија? Најдобрите практики прават разлика помеѓу повлекувањето на вода и потрошувачката на вода и опсезите 1-2-3, слично на пресметката на јаглеродот [3].

2. Чувствителност на локацијата
   Водата по kWh варира во зависност од регионот и мрежата, па затоа истата најава може да има различно влијание врз водата во зависност од тоа каде се служи - клучна причина зошто литературата препорачува закажување според времето и местото [3].

3. Реализам на работното оптоварување
   Дали бројот ги одразува средните производствени поттици , вклучувајќи го капацитетот во мирување и оптоварувањето на центарот за податоци, или само забрзувачот при врв? Google го нагласува целосното системско пресметување (мирување, процесори/DRAM и оптоварување на центарот за податоци) за заклучување, а не само математиката на TPU [1].

4. Технологија за ладење
   Ладењето со испарување, ладењето со течност во затворен циклус, ладењето со воздух и новите директно до чип драматично го менуваат интензитетот на водата. „Мајкрософт“ воведува дизајни наменети за елиминирање на употребата на вода за ладење за одредени локации од следната генерација [4].

5. Време од денот и сезона
   Топлината, влажноста и условите на мрежата ја менуваат ефикасноста на користењето на водата во реалниот живот; една влијателна студија сугерира закажување на поголеми работни места кога и каде интензитетот на водата е помал [3].

Повлекување вода наспроти потрошувачка на вода, објаснето 💡

• Повлекување = вода земена од реки, езера или водоносни слоеви (делумно вратена).

• Потрошувачка = вода што не се враќа бидејќи испарува или се вклучува во процеси/производи.

Ладилните кули првенствено трошат вода преку испарување. Производството на електрична енергија може да повлече големи количини (понекогаш трошејќи дел од неа), во зависност од постројката и методот на ладење. Веродостојна бројка за вештачка интелигенција на водата ја означува онаа што ја пријавува [3].

Каде оди водата во вештачката интелигенција: трите кофи 🪣

1. Опсег 1 - ладење на лице место
   Видливиот дел: вода испарува во самиот центар за податоци. Изборот на дизајн како испарување наспроти воздух или течност со затворен циклус ја поставува основната линија [5].

2. Опсег 2 - производство на електрична енергија
   Секој kWh може да носи скриена ознака за вода; мешавината и локацијата го одредуваат сигналот литри-на-kWh што го наследува вашето работно оптоварување [3].

3. Опсег 3 - синџир на снабдување
   Производството на чипови се потпира на ултра чиста вода во производството. Нема да го видите во метриката „по прашање“ освен ако границата експлицитно не ги вклучува отелотворените влијанија (на пр., целосна LCA) [2][3].

Даватели на услуги низ бројки, со нијанси 🧮

• Google Gemini го наведува
  методот на сервирање со целосен стек (вклучувајќи го и времето во мирување и оптоварувањата на објектот). Средниот текстуален налог е ~0,26 mL вода заедно со ~0,24 Wh енергија; бројките го одразуваат производствениот сообраќај и сеопфатните граници [1].

• Животен циклус на Mistral Large 2.
  Ретка независна LCA (со ADEME/Carbone 4) открива ~281.000 m³ за обука + рана употреба и маргинална инференција ~45 mL за од 400 токени [2].

• Амбицијата на „Мајкрософт“ за ладење со нула вода
  Центрите за податоци од следната генерација се дизајнирани да трошат нула вода за ладење , потпирајќи се на пристапи директно од чип; административните цели сè уште бараат малку вода [4].

• Општо ниво на центри за податоци
  Главните оператори јавно пријавуваат стотици илјади галони дневно во просек на поединечни локации; климата и дизајнот ги зголемуваат или намалуваат бројките [5].

• Поранешна академска основа.
  Основната анализа на „жедна вештачка интелигенција“ процени милиони литри за обука на модели од класата GPT, и дека 10–50 средни одговори би можеле приближно да бидат еднакви на од 500 мл - во голема мера зависно од тоа кога/каде се користат [3].

Зошто проценките толку многу се разликуваат 🤷

• Различни граници
  Некои бројки се однесуваат само на ладење на лице место ; други ја додаваат електричната енергија и водата ; LCA може да додадат производство на чипови . Јаболка, портокали и овошна салата [2][3].

• Различни работни оптоварувања
  Краткото текстуално известување не е долго мултимодално/кодирање; целите за групирање, истовременост и латентност ја менуваат искористеноста [1][2].

• Различни клими и мрежи
  Ладење со испарување во топол, сушен регион ≠ ладење со воздух/течност во ладен, влажен регион. Интензитетот на водата во мрежата варира значително [3].

• Методологии на добавувачи
  Google објави метод за сервисирање на ниво на целиот систем; Mistral објави формална LCA. Други нудат проценки на поени со ретки методи. Високопрофилно „една петнаесеттина од лажичка“ по прашање се појави во насловите - но без детали за границите, не е споредливо [1][3].

• Подвижна цел
  Ладењето се развива брзо. „Мајкрософт“ воведува пилот за ладење без вода на одредени локации; нивното воведување ќе ја намали водата на локацијата дури и ако електричната енергија од горниот тек сè уште носи сигнал за вода [4].

Што можете да направите денес за да го намалите водниот отпечаток на вештачката интелигенција 🌱

1. Соодветна големина на моделот
   Помалите, прилагодени модели за задачи честопати ја достигнуваат точноста, а воедно трошат помалку пресметка. Проценката на Мистрал нагласува силни корелации помеѓу големината и отпечатокот - и објавува маргинални инференциски броеви за да можете да размислувате за компромиси [2].

2. Изберете региони кои се разумни во однос на водата.
   Претпочитајте региони со постудена клима, ефикасно ладење и мрежи со помал интензитет на вода по kWh; работата на „жедна вештачка интелигенција“ покажува дека свесен за времето и местото помага [3].

3. Промена на работното оптоварување на време.
   Распоред на обука/интерпретација на големи серии за часови со ефикасна потрошувачка на вода (поладни ноќи, поволни услови на мрежата) [3].

4. Прашајте го вашиот добавувач за транспарентни метрики.
   Побарувачка за вода по нарачка , дефиниции на границите и дали бројките го вклучуваат неактивниот капацитет и режиските трошоци на објектот. Групите за политика се залагаат за задолжително објавување за да се овозможат споредби од јаболка до јаболка [3].

5. Технологијата за ладење е важна.
   Ако користите хардвер, оценете го ладењето со затворена јамка/директно ладење на чип ; ако сте на облак, претпочитајте региони/даватели кои инвестираат во дизајни со „водено светло“ [4][5].

6. Користење на сива вода и опции за повторна употреба
   Многу кампуси можат да ги заменат изворите што не се за пиење или да рециклираат во рамките на циклусите; големите оператори опишуваат балансирање на изворите на вода и изборите за ладење за да се минимизира нето влијанието [5].

Брз пример за да стане реалност (не е универзално правило): преместувањето на обуката преку ноќ од топол, сув регион во средината на летото во постуден, повлажен регион во пролет - и нејзино работење во текот на постудените часови надвор од шпицот - може да ја промени и на лице место и надвор од локацијата (мрежата). Тоа е видот на практично, ниско-драматично распоредување на победи што може да го отклучи [3].

Табела за споредба: брзи избори за намалување на потрошувачката на вода од вештачката интелигенција 🧰

(„Цената“ е мека по дизајн - распоредувањата се разликуваат.)

Длабоко нурнување: ритамот на политичките тапани станува сè погласен 🥁

Инженерските тела бараат задолжително откривање на енергијата и водата од центрите за податоци, за да можат купувачите и заедниците да ги проценат трошоците и придобивките. Препораките вклучуваат дефиниции на опсегот, известување на ниво на локација и упатства за лоцирање - бидејќи без споредливи метрики што се свесни за локацијата, се расправаме во темнина [3].

Длабоко нурнување: центрите за податоци не сите пијат на ист начин 🚰

Постои упорен мит дека „ладењето со воздух не користи вода“. Не баш. Системите со голем капацитет на воздух честопати бараат повеќе електрична енергија , која во многу региони носи скриена вода од мрежата; обратно, ладењето со вода може да ја намали енергијата и емисиите на сметка на водата на локацијата. Големите оператори експлицитно ги балансираат овие компромиси од локација до локација [1][5].

Длабоко истражување: брза проверка на реалноста за виралните тврдења 🧪

Можеби сте виделе смели изјави дека еден единствен предлог е еднаков на „шише со вода“ или, од друга страна, на „само неколку капки“. Подобро држење на телото: понизност со математика . Денешните веродостојни книжни потпирачи се ~0,26 mL за средно производствен предлог со целосен режиски порции [1] и ~45 mL за одговор од асистент од 400 токени (маргинален заклучок) [2]. На многу споделуваното „една петнаесеттина од лажичка“ му недостасува јавна граница/метод; третирајте го како временска прогноза без градот [1][3].

Мини-Најчесто поставувани прашања: Колку вода користи вештачката интелигенција? повторно, на едноставен јазик 🗣️

• Значи, што треба да кажам на состанок?
  „Според наговорот, се движи од капки до неколку голтки , во зависност од моделот, должината и местото каде што се изведува тренингот. Тренингот трае во базени , а не во барички.“ Потоа наведете еден или два примери погоре.

• Дали вештачката интелигенција е единствено лоша?
  Таа е единствено концентрирана : чиповите со голема моќност спакувани заедно создаваат големи оптоварувања за ладење. Но, центрите за податоци се исто така местото каде што технологијата со најдобра ефикасност има тенденција прво да слета [1][4].

• Што ако сè само префрлиме на воздушно ладење?
  Можеби ќе ја намалите водата на лице место надвор од локацијата преку електрична енергија. Софистицираните оператори ги мерат и двете [1][5].

• Што е со технологијата на иднината?
  Дизајните што избегнуваат ладење на вода во голем обем би биле пресвртница за Опсег 1. Некои оператори се движат кон овој правец; електричната енергија од поточното течение сè уште носи сигнал за вода сè додека мрежите не се променат [4].

Заклучни забелешки - Предолго е, не го прочитав 🌊

• По прашање: замислете од подмилилитар до десетици милилитри , во зависност од моделот, должината на прашањето и каде се користи. Средна вредност на прашањето ~0,26 mL на еден главен стек; ~45 mL за одговор од 400 токени на друг [1][2].

• Обука: милиони литри за модели на предни позиции, што ја прави технологијата за закажување, лоцирање и ладење критична [3].

• Што да се прави: модели со соодветна големина, избор на региони со разумна потрошувачка на вода, префрлање на тешките задачи во постудени часови, претпочитање на добавувачи кои докажуваат дизајни со светлина и вода и барање транспарентни граници [1][3][4][5].

Малку погрешна метафора за крај: Вештачката интелигенција е жеден оркестар - мелодијата е компјутерска, но тапаните се ладлива и ја разредуваат водата. Штимајте го бендот, а публиката сè уште ја добива музиката без да се вклучат прскалките. 🎻💦

Референци

1. Блог на Google Cloud - Колку енергија користи вештачката интелигенција на Google? Направивме пресметка (методологија + ~0,26 mL средна вредност на барањето, целосен режиски број на порции). Линк
   (Технички труд PDF: Мерење на влијанието врз животната средина од испораката на вештачка интелигенција на ниво на Google .) Линк

2. Mistral AI - Нашиот придонес кон глобалниот еколошки стандард за AI (LCA со ADEME/Carbone 4; ~281.000 m³ обука + рана употреба; ~45 mL на од 400 токени , маргинална инференција). Врска

3. Ли и др. - Правење на вештачката интелигенција помалку „жедна“: Откривање и справување со тајниот воден отпечаток на моделите на вештачката интелигенција (обучување милиони литри , свесен за времето и местото , повлекување наспроти потрошувачка). Линк

4. Microsoft - Центрите за податоци од следната генерација не трошат вода за ладење (дизајни со директно поврзување на чипот насочени кон ладење без вода на одредени локации). Линк

5. Центри за податоци на Google - Одржливо работење (компромиси за ладење од локација до локација; известување и повторна употреба, вклучувајќи регенерирана/сива вода; типични редови на големина на дневна употреба на ниво на локација). Линк

Пронајдете ја најновата вештачка интелигенција во официјалната продавница за асистенти за вештачка интелигенција

За нас