AI siv dej ntau npaum li cas?

AI siv dej ntau npaum li cas?

Kuv ntseeg tias koj twb tau hnov ​​txhua yam los ntawm "AI haus ib lub raj mis dej txhua ob peb lo lus nug" mus rau "nws tsuas yog ob peb tee xwb,". Qhov tseeb yog qhov sib txawv ntxiv. AI qhov dej ntws hloov pauv ntau yam raws li qhov chaw nws khiav, koj qhov kev ceeb toom ntev npaum li cas, thiab lub chaw khaws ntaub ntawv txias nws cov servers li cas. Yog li ntawd, tus lej xov xwm tseem ceeb muaj nyob, tab sis nws nyob hauv cov lus ceeb toom ntau yam.

Hauv qab no kuv piav qhia cov lej meej, npaj txhij rau kev txiav txim siab, piav qhia vim li cas kev kwv yees tsis sib haum, thiab qhia tias cov neeg tsim kho thiab cov neeg siv txhua hnub tuaj yeem ua kom lub qhov dej me dua yam tsis tau hloov mus ua cov pov thawj kev ruaj khov.

Cov ntawv uas koj yuav nyiam nyeem tom qab qhov no:

🔗 Cov ntaub ntawv AI yog dab tsi
Piav qhia txog cov ntaub ntawv teeb tsa ua rau kev cob qhia kev kawm tshuab thiab kev tsim qauv li cas.

🔗 Yuav ua li cas AI kwv yees cov qauv
Qhia txog seb AI tshuaj xyuas cov qauv li cas los kwv yees cov kev hloov pauv thiab cov txiaj ntsig yav tom ntej.

🔗 Yuav ua li cas ntsuas kev ua tau zoo ntawm AI
Rhuav cov ntsuas tseem ceeb rau kev ntsuam xyuas qhov tseeb, qhov ceev, thiab kev ntseeg tau.

🔗 Yuav tham nrog AI li cas
Qhia cov tswv yim zoo los txhawb kom meej, cov txiaj ntsig, thiab kev sib xws.


AI siv dej ntau npaum li cas? Cov lej ceev uas koj siv tau tiag tiag 📏

  • Ib qho lus ceeb toom, qhov ntau thiab tsawg niaj hnub no: los ntawm sub-milliliter rau qhov nruab nrab ntawm cov lus ceeb toom ntawm ib lub tshuab loj, txog li kaum milliliters rau qhov teb ntev dua, siab dua ntawm lwm qhov. Piv txwv li, Google cov nyiaj txiag tsim khoom tshaj tawm cov lus ceeb toom nruab nrab ~ 0.26 mL (nrog rau tag nrho cov nqi them tag nrho suav nrog) [1]. Mistral qhov kev ntsuam xyuas lub neej voj voog pegs 400-token tus pabcuam teb ntawm ~ 45 mL (marginal inference) [2]. Cov ntsiab lus thiab qauv tseem ceeb heev.

  • Kev cob qhia tus qauv ntsuas ciam teb: tuaj yeem khiav mus rau ntau lab litres , feem ntau los ntawm kev txias thiab cov dej uas tau muab tso rau hauv kev tsim hluav taws xob. Kev tshuaj xyuas kev kawm dav dav kwv yees li ~ 5.4 lab litres los cob qhia tus qauv GPT-chav kawm, suav nrog ~ 700,000 litres siv rau ntawm qhov chaw rau kev txias - thiab sib cav rau kev teem sijhawm ntse los txo qhov siv dej ntau [3].

  • Feem ntau cov chaw khaws ntaub ntawv: cov chaw loj loj muaj ntau pua txhiab nkas loos roj ib hnub nruab nrab ntawm cov neeg ua haujlwm loj, nrog rau cov siab dua ntawm qee lub tsev kawm ntawv nyob ntawm huab cua thiab kev tsim qauv [5].

Cia peb ua siab ncaj: cov lej ntawd zoo li tsis sib xws thaum xub thawj. Lawv yog. Thiab muaj cov laj thawj zoo.

 

AI nqhis dej

Cov ntsuas kev siv dej AI ✅

Ib lo lus teb zoo rau Cov Txog AI siv dej ntau npaum li cas? yuav tsum kos ob peb lub thawv:

  1. Kev meej meej ntawm ciam teb
    Puas yog nws tsuas yog suav nrog txias hauv qhov chaw , lossis sab nraud cov chaw tsim hluav taws xob siv los tsim hluav taws xob? Kev coj ua zoo tshaj plaws qhia qhov txawv kev rho dej tawm piv rau kev siv dej thiab cov kev ntsuas 1-2-3, zoo ib yam li kev suav cov pa roj carbon [3].

  2. Qhov chaw rhiab heev
    Dej ib kWh sib txawv raws li thaj chaw thiab qhov sib xyaw ntawm lub grid, yog li tib qho kev ceeb toom tuaj yeem nqa cov dej sib txawv nyob ntawm qhov chaw uas nws tau pabcuam - qhov laj thawj tseem ceeb uas cov ntaub ntawv pom zoo kom teem sijhawm thiab qhov chaw paub [3].

  3. Kev ua haujlwm tiag tiag
    Puas yog tus lej qhia txog cov lus qhia nruab nrab ntawm kev tsim khoom , suav nrog lub peev xwm tsis ua haujlwm thiab cov ntaub ntawv hauv chaw khaws ntaub ntawv, lossis tsuas yog lub tshuab ua kom nrawm thaum lub sijhawm siab tshaj plaws? Google hais txog kev suav nyiaj tag nrho (tsis ua haujlwm, CPUs / DRAM, thiab cov ntaub ntawv hauv chaw khaws ntaub ntawv) rau kev xaus, tsis yog TPU lej xwb [1].

  4. Kev siv tshuab ua kom txias
    Kev ua kom txias uas siv dej ua pa, kev ua kom txias uas kaw lub voj voog, kev ua kom txias los ntawm huab cua, thiab ncaj qha mus rau hauv lub chip hloov pauv qhov muaj zog ntawm dej ntau heev. Microsoft tab tom dov tawm cov qauv tsim uas xav kom tshem tawm kev siv dej txias rau qee qhov chaw tom ntej [4].

  5. Lub sijhawm ntawm ib hnub thiab lub caij nyoog
    Kub, av noo, thiab cov xwm txheej ntawm lub network hloov pauv kev siv dej zoo hauv lub neej tiag tiag; ib txoj kev tshawb fawb muaj txiaj ntsig zoo qhia txog kev teem sijhawm ua haujlwm tseem ceeb thaum thiab qhov twg qhov dej siv tsawg dua [3].


Kev rho dej tawm piv rau kev siv dej, piav qhia 💡

  • Kev rho tawm = dej uas tau los ntawm cov dej ntws, pas dej, lossis cov dej hauv av (qee qhov rov qab los).

  • Kev siv = dej tsis rov qab los vim nws ua pa lossis koom nrog rau hauv cov txheej txheem / cov khoom.

Cov chaw txias feem ntau siv dej los ntawm kev ua pa. Kev tsim hluav taws xob tuaj yeem rub tawm ntau qhov (qee zaum siv ib feem ntawm nws), nyob ntawm cov nroj tsuag thiab txoj kev txias. Ib daim ntawv lo AI-dej ntseeg tau uas nws tshaj tawm [3].


Qhov twg dej mus rau hauv AI: peb lub thoob 🪣

  1. Scope 1 - kev txias hauv qhov chaw
    Qhov pom tau: dej tau evaporated ntawm lub chaw khaws ntaub ntawv nws tus kheej. Cov kev xaiv tsim xws li evaporative vs. cua lossis kaw-loop kua teeb tsa lub hauv paus [5].

  2. Scope 2 - kev tsim hluav taws xob
    Txhua kWh tuaj yeem nqa daim ntawv cim dej zais; qhov sib xyaw thiab qhov chaw txiav txim siab qhov litres-ib-kWh teeb liab koj qhov haujlwm tau txais [3].

  3. Scope 3 - cov khoom xa tuaj
    Kev tsim khoom siv cov dej ntshiab heev hauv kev tsim khoom. Koj yuav tsis pom nws hauv qhov ntsuas "ib qho kev ceeb toom" tshwj tsis yog tias ciam teb suav nrog cov teebmeem uas muaj nyob hauv (piv txwv li, LCA tag nrho) [2][3].


Cov neeg muab kev pabcuam los ntawm cov lej, nrog rau qhov sib txawv me ntsis 🧮

  • Google Gemini qhia txog
    txoj kev pabcuam puv ntoob (suav nrog kev tsis ua haujlwm thiab kev siv nyiaj ntawm chaw). Cov ntawv qhia nruab nrab ~ 0.26 mL dej nrog rau ~ 0.24 Wh zog; cov lej qhia txog kev tsim khoom thiab cov ciam teb dav dav [1].

  • Mistral Loj 2 lub neej voj voog
    Ib qho LCA ywj pheej tsawg tsawg (nrog ADEME/Carbone 4) qhia txog ~ 281,000 m³ rau kev cob qhia + kev siv thaum ntxov thiab qhov kev xav tsis thoob ~ 45 mL rau 400-token pab teb [2].

  • Microsoft lub hom phiaj txias tsis siv dej
    Cov chaw khaws ntaub ntawv tiam tom ntej no tau tsim los siv dej tsis siv rau kev txias , siv cov txheej txheem ncaj qha rau-chip; kev siv admin tseem xav tau qee dej [4].

  • Cov ntaub ntawv dav dav-chaw khaws ntaub ntawv
    Cov neeg ua haujlwm loj tshaj tawm pej xeem ntau pua txhiab nkas loos dej ib hnub ntawm qhov nruab nrab ntawm cov chaw; huab cua thiab tsim qauv thawb cov lej nce lossis nqis [5].

  • Lub hauv paus kev kawm ua ntej
    Qhov kev tshuaj xyuas "AI nqhis dej" kwv yees tias muaj ntau lab litres los cob qhia cov qauv GPT-chav kawm, thiab tias 10-50 cov lus teb nruab nrab tuaj yeem sib npaug li 500 mL - nyob ntawm seb lawv khiav thaum twg / qhov twg [3].


Vim li cas kev kwv yees tsis sib haum xeeb heev 🤷

  • Cov ciam teb sib txawv
    Qee cov lej suav tsuas yog qhov txias hauv qhov chaw ; lwm tus ntxiv hluav taws xob dej ; LCAs yuav ntxiv kev tsim cov chips . Kua txiv apple, txiv kab ntxwv, thiab txiv hmab txiv ntoo zaub xam lav [2][3].

  • Cov haujlwm sib txawv
    Ib tsab ntawv luv luv tsis yog kev khiav multimodal/code ntev; batching, concurrency, thiab latency lub hom phiaj hloov kev siv [1][2].

  • Cov huab cua sib txawv thiab cov kab sib txawv
    Kev txias ua pa hauv thaj chaw kub, qhuav ≠ cua/kua txias hauv thaj chaw txias, ntub. Lub zog dej ntawm cov kab sib txawv sib txawv [3].

  • Cov txheej txheem muag khoom
    Google tau tshaj tawm txoj kev pabcuam thoob plaws lub cev; Mistral tau tshaj tawm LCA raug cai. Lwm tus muab cov ntsiab lus kwv yees nrog cov txheej txheem tsis tshua muaj. Ib qho kev thov siab "ib feem kaum tsib ntawm ib diav me me" ib zaug tau ua rau muaj xov xwm tseem ceeb - tab sis tsis muaj cov ntsiab lus ciam teb, nws tsis sib piv [1][3].

  • Lub hom phiaj txav mus los
    Kev txias tab tom hloov pauv sai. Microsoft tab tom sim ua kom txias tsis muaj dej ntawm qee qhov chaw; dov cov no tawm yuav txo cov dej hauv qhov chaw txawm tias hluav taws xob sab saud tseem nqa cov teeb liab dej [4].


Koj ua tau dab tsi hnub no los txo AI txoj kev siv dej ntau dhau 🌱

  1. Kho kom raug qhov loj ntawm tus qauv
    Cov qauv me dua, uas tau kho raws li txoj haujlwm feem ntau phim qhov tseeb thaum hlawv tsawg dua kev suav. Mistral qhov kev ntsuam xyuas qhia txog kev sib raug zoo ntawm qhov loj thiab qhov chaw - thiab tshaj tawm cov lej xaus marginal kom koj tuaj yeem xav txog kev pauv pauv [2].

  2. Xaiv cov cheeb tsam uas muaj dej zoo dua
    Nyiam cov cheeb tsam uas muaj huab cua txias dua, txias zoo, thiab cov grids uas muaj dej tsawg dua ib kWh; txoj haujlwm "AI nqhis dej" qhia tau hais tias sijhawm thiab qhov chaw pab tau [3].

  3. Hloov cov haujlwm ua haujlwm raws sijhawm
    Teem sijhawm cob qhia/kev xam ntau yam rau cov sijhawm siv dej tau zoo (hmo txias dua, cov xwm txheej zoo ntawm lub network) [3].

  4. Nug koj tus neeg muag khoom kom paub meej txog
    qhov dej uas xav tau ib zaug , cov lus txhais ciam teb, thiab seb cov lej puas suav nrog lub peev xwm tsis ua haujlwm thiab cov nqi siv hauv chaw ua haujlwm. Cov pab pawg txoj cai tab tom thawb kom muaj kev tshaj tawm kom ua tau qhov kev sib piv ntawm cov kua txiv rau cov kua txiv [3].

  5. Kev siv tshuab txias tseem ceeb
    Yog tias koj siv kho vajtse, soj ntsuam qhov kaw-lub voj voog / ncaj qha-rau-chip txias ; yog tias koj nyob ntawm huab, nyiam cov cheeb tsam / cov neeg muab kev pabcuam nqis peev rau hauv kev tsim dej-teeb [4][5].

  6. Siv cov kev xaiv dej greywater thiab rov siv dua
    Ntau lub tsev kawm ntawv tuaj yeem hloov cov chaw tsis haus tau lossis rov ua dua hauv cov voj voog; cov neeg ua haujlwm loj piav qhia txog kev sib npaug ntawm cov chaw dej thiab cov kev xaiv txias kom txo qis qhov cuam tshuam ntawm cov khoom siv [5].

Piv txwv sai sai kom ua rau nws muaj tseeb (tsis yog txoj cai thoob ntiaj teb): tsiv txoj haujlwm cob qhia thaum hmo ntuj los ntawm thaj chaw kub thiab qhuav thaum lub caij ntuj sov mus rau thaj chaw txias dua, noo dua thaum lub caij nplooj ntoo hlav - thiab khiav nws thaum lub sijhawm tsis yog lub sijhawm siab tshaj plaws, txias dua - tuaj yeem hloov pauv ob qho tib si hauv qhov chaw thiab sab nraud (grid). Qhov ntawd yog hom kev npaj ua tau zoo, kev ua yeeb yam tsawg tuaj yeem qhib [3].


Cov lus sib piv: cov kev xaiv sai sai los txo AI tus nqi dej 🧰

cuab yeej cov neeg tuaj saib tus nqi vim li cas nws ua haujlwm
Cov qauv me dua, ua haujlwm raws li qhov xav tau Cov pab pawg ML, cov thawj coj khoom lag luam Qis-nruab nrab Tsawg dua kev suav ib lub cim = tsawg dua kev txias + hluav taws xob dej; tau ua pov thawj hauv LCA-style kev tshaj tawm [2].
Kev xaiv cheeb tsam los ntawm dej / kWh Cov kws kes duab vajtse huab, kev yuav khoom Nruab Nrab Hloov mus rau huab cua txias dua thiab cov grids uas muaj zog dej tsawg dua; ua ke nrog kev xa xov raws li qhov xav tau [3].
Cov qhov rai qhia sijhawm ntawm hnub MLOps, cov neeg teem sijhawm Qis Hmo txias dua + cov xwm txheej zoo dua ntawm lub network txo qhov muaj zog ntawm dej [3].
Kev txias ncaj qha-rau-chip/closed-loop Kev ua haujlwm ntawm chaw khaws ntaub ntawv Nruab nrab-siab Tsis txhob siv cov chaw ua kom cov pa roj av qhuav yog tias ua tau, txo kev siv roj ntawm qhov chaw [4].
Kev tswj qhov ntev thiab pawg sai Cov neeg tsim khoom siv app Qis Kaw cov cim qhia uas khiav tawm, ua pawg ntse, cov txiaj ntsig cache; tsawg dua milliseconds, tsawg dua milliliters [1][2].
Daim ntawv teev cov ntaub ntawv pov thawj ntawm cov neeg muag khoom Cov CTOs, cov thawj coj kev ruaj khov Dawb Yuam kom meej txog ciam teb (nyob rau ntawm qhov chaw vs sab nraud ntawm qhov chaw) thiab kev tshaj tawm txog cov txiv apples-to-apples [3].
Cov dej grey los yog cov chaw rov qab siv dua Cov chaw, cov nroog Nruab Nrab Kev hloov cov dej uas tsis haus tau txo qhov kev ntxhov siab ntawm cov khoom siv haus tau [5].
Kev koom tes siv cua sov dua Cov neeg ua haujlwm, cov pawg sab laj hauv zos Nruab Nrab Kev ua haujlwm zoo dua ntawm kev ua kom sov tsis ncaj qha txo qhov xav tau txias thiab tsim kom muaj kev zoo siab hauv zos [5].

(“Tus nqi” tsis ruaj khov los ntawm kev tsim - kev xa tawm sib txawv.)


Kev tshawb nrhiav tob: lub suab nrov ntawm txoj cai tau nrov zuj zus 🥁

Cov koom haum engineering hu kom yuav tsum tshaj tawm cov ntaub ntawv lub zog thiab dej kom cov neeg yuav khoom thiab cov zej zog tuaj yeem txiav txim siab tus nqi thiab cov txiaj ntsig. Cov lus pom zoo suav nrog cov lus txhais ntawm qhov chaw, kev tshaj tawm qib chaw, thiab kev taw qhia qhov chaw - vim tias tsis muaj cov ntsuas sib piv, paub qhov chaw, peb tab tom sib cav hauv qhov tsaus ntuj [3].


Kev tshawb nrhiav tob: cov chaw khaws ntaub ntawv tsis haus dej ib yam li 🚰

Muaj ib zaj dab neeg hais tias "kev txias cua tsis siv dej." Tsis yog li ntawd. Cov tshuab cua hnyav feem ntau xav tau hluav taws xob ntau dua , uas nyob rau hauv ntau thaj chaw nqa dej zais los ntawm lub grid; ntawm qhov tod tes, kev txias dej tuaj yeem txiav lub zog thiab cov pa phem ntawm tus nqi ntawm cov dej hauv tsev. Cov neeg ua haujlwm loj pom tseeb sib npaug cov kev pauv pauv no ntawm qhov chaw mus rau qhov chaw [1][5].


Kev tshawb nrhiav tob tob: kev kuaj xyuas qhov tseeb sai ntawm cov lus hais txog tus kab mob 🧪

Tej zaum koj yuav tau pom cov lus hais tias ib qho lus qhia sib npaug rau "lub raj mis dej," lossis, ntawm qhov tod tes, "tsuas yog ob peb tee xwb." Kev sawv cev zoo dua: kev txo hwj chim nrog lej . Cov ntawv sau niaj hnub no yog ~ 0.26 mL rau qhov kev qhia nruab nrab nrog kev pabcuam tag nrho [1] thiab ~ 45 mL rau 400-token tus pabcuam teb (marginal inference) [2]. Qhov "ib feem kaum tsib ntawm ib diav me me" tsis muaj ciam teb / txoj kev rau pej xeem; kho nws zoo li kev kwv yees huab cua yam tsis muaj lub nroog [1][3].


Cov Lus Nug Me Me: AI siv dej ntau npaum li cas? dua, ua lus Askiv yooj yim 🗣️

  • Yog li ntawd, kuv yuav tsum hais li cas hauv kev sib ntsib?
    "Ib qho lus qhia, nws yog txij li ib tee mus rau ob peb lub sips , nyob ntawm tus qauv, ntev, thiab qhov chaw nws khiav. Kev cob qhia siv pas dej , tsis yog pas dej." Tom qab ntawd hais ib lossis ob qho piv txwv saum toj no.

  • Puas yog AI phem tshwj xeeb?
    Nws muaj qhov sib xyaw ua ke : cov chips muaj zog siab uas ntim ua ke tsim cov khoom siv txias loj. Tab sis cov chaw khaws ntaub ntawv kuj yog qhov chaw uas cov thev naus laus zis zoo tshaj plaws feem ntau tsaws ua ntej [1][4].

  • Yog tias peb tsuas yog tsiv txhua yam mus rau qhov cua txias xwb?
    Tej zaum koj yuav txiav hauv qhov chaw tab sis nce sab nraud ntawm qhov chaw los ntawm hluav taws xob. Cov neeg ua haujlwm txawj ntse ntsuas ob qho tib si [1][5].

  • Ua li cas txog cov thev naus laus zis yav tom ntej?
    Cov qauv tsim uas zam kev txias dej ntawm qhov ntsuas yuav yog qhov hloov pauv rau Scope 1. Qee tus neeg ua haujlwm tab tom txav mus rau txoj kev no; hluav taws xob sab saud tseem nqa lub teeb liab dej kom txog thaum cov kab sib txuas hloov pauv [4].


Cov Lus Kawg - Ntev Dhau Lawm, Kuv Tsis Tau Nyeem Nws 🌊

  • Ib qho lus nug: xav txog sub-milliliter mus rau kaum milliliters , nyob ntawm tus qauv, qhov ntev ntawm cov lus nug, thiab qhov chaw uas nws khiav. Cov lus nug nruab nrab ~ 0.26 mL ntawm ib pawg loj; ~ 45 mL rau 400-token teb rau lwm qhov [1][2].

  • Kev cob qhia: ntau lab litres rau cov qauv frontier, ua rau kev teem sijhawm, qhov chaw, thiab kev siv tshuab txias tseem ceeb heev [3].

  • Yuav ua li cas: cov qauv loj me uas tsim nyog, xaiv cov cheeb tsam uas muaj dej, hloov cov haujlwm hnyav mus rau cov sijhawm txias dua, nyiam cov neeg muag khoom uas ua pov thawj cov qauv tsim dej-teeb, thiab xav kom muaj ciam teb pom tseeb [1][3][4][5].

Qhov piv txwv tsis zoo me ntsis kom xaus: AI yog ib pab pawg neeg hu nkauj uas nqhis dej heev - zaj nkauj yog suav, tab sis cov nruas txias thiab dej ntws zoo. Kho cov suab paj nruag, thiab cov neeg tuaj saib tseem tau txais cov suab paj nruag yam tsis muaj cov dej txau tawm. 🎻💦


Cov ntaub ntawv siv los ua piv txwv

  1. Google Cloud Blog - Google lub AI siv zog npaum li cas? Peb tau ua lej (txheej txheem + ~0.26 mL nruab nrab cov lus qhia, tag nrho cov nyiaj siv ua haujlwm). Txuas
    (Daim ntawv PDF: Ntsuas qhov cuam tshuam rau ib puag ncig ntawm kev xa AI ntawm Google nplai .) Txuas

  2. Mistral AI - Peb txoj kev koom tes rau tus qauv ib puag ncig thoob ntiaj teb rau AI (LCA nrog ADEME/Carbone 4; ~281,000 m³ kev cob qhia + kev siv thaum ntxov; ~45 mL ib qho 400-token , kev xaus lus ntxiv). Txuas

  3. Li et al. - Ua kom AI tsawg dua "Nqhis dej": Tshawb pom thiab daws qhov teeb meem ntawm cov dej zais cia ntawm cov qauv AI (kev cob qhia ntau lab litres , sijhawm paub txog lub sijhawm thiab qhov chaw , kev rho tawm piv rau kev siv). Txuas

  4. Microsoft - Cov chaw khaws ntaub ntawv tiam tom ntej tsis siv dej los ua kom txias (cov qauv tsim ncaj qha mus rau hauv lub chip uas tsom mus rau kev ua kom txias tsis muaj dej ntawm qee qhov chaw). Qhov txuas

  5. Google Cov Chaw Khaws Cov Ntaub Ntawv - Ua haujlwm kom ruaj khov (kev sib pauv txias ntawm qhov chaw mus rau qhov chaw; kev tshaj tawm thiab kev siv dua, suav nrog cov dej rov qab siv dua/greywater; kev siv txhua hnub ntawm qhov chaw). Qhov txuas

Nrhiav cov AI tshiab kawg ntawm lub khw muag khoom AI Assistant Official

Txog Peb

Rov qab mus rau blog