Lus teb luv luv: AI cuam tshuam rau ib puag ncig feem ntau los ntawm kev siv hluav taws xob hauv cov chaw khaws ntaub ntawv (ob qho tib si kev cob qhia thiab kev xam txhua hnub), nrog rau dej rau kev txias, ntxiv rau cov teebmeem ntawm kev tsim khoom siv kho vajtse thiab e-pov tseg. Yog tias kev siv nce mus txog ntau txhiab lab lo lus nug, kev xam pom tuaj yeem ntau dua li kev cob qhia; yog tias cov grids huv dua thiab cov txheej txheem ua haujlwm tau zoo, cov teebmeem poob qis thaum cov txiaj ntsig tuaj yeem loj hlob.
Cov ntsiab lus tseem ceeb:
Hluav Taws Xob : Taug qab kev siv computer; cov pa phem txo qis thaum cov haujlwm khiav ntawm cov grid huv dua.
Dej : Cov kev xaiv txias hloov pauv cov kev cuam tshuam; cov txheej txheem raws li dej tseem ceeb tshaj plaws hauv cov cheeb tsam tsis muaj.
Kho Vajtse : Cov chips thiab cov servers muaj cov teebmeem loj heev; ua kom lub neej ntev dua thiab muab qhov tseem ceeb rau kev kho dua tshiab.
Rov Qab Zoo : Kev ua haujlwm tau zoo tuaj yeem ua rau tag nrho cov kev xav tau nce ntxiv; ntsuas cov txiaj ntsig, tsis yog tsuas yog cov txiaj ntsig ib txoj haujlwm xwb.
Cov kauj ruam ua haujlwm : Tsim cov qauv loj kom raug, ua kom zoo dua qhov kev xaus, thiab tshaj tawm cov ntsuas ib qho kev thov kom pom tseeb.
Cov ntawv uas koj yuav nyiam nyeem tom qab qhov no:
🔗 Puas yog AI phem rau ib puag ncig?
Tshawb nrhiav AI cov pa roj carbon dioxide, kev siv hluav taws xob, thiab kev xav tau ntawm cov chaw khaws ntaub ntawv.
🔗 Vim li cas AI thiaj tsis zoo rau zej zog?
Saib seb puas muaj kev ntxub ntxaug, kev cuam tshuam txoj haujlwm, kev qhia tsis tseeb, thiab kev tsis sib luag hauv zej zog uas nthuav dav zuj zus.
🔗 Vim li cas AI thiaj phem? Sab tsaus ntuj ntawm AI
To taub txog kev pheej hmoo xws li kev saib xyuas, kev dag ntxias, thiab kev poob kev tswj hwm ntawm tib neeg.
🔗 Puas yog AI tau mus deb dhau lawm?
Kev sib cav txog kev coj ncaj ncees, kev tswj hwm, thiab qhov twg kev tsim kho tshiab yuav tsum kos kab.
AI cuam tshuam li cas rau Ib puag ncig: daim duab ceev ceev ⚡🌱
Yog tias koj tsuas nco qab ob peb lub ntsiab lus xwb, ua cov no:
-
AI siv lub zog - feem ntau nyob rau hauv cov chaw khaws ntaub ntawv khiav GPUs / CPUs rau kev cob qhia thiab rau txhua hnub "kev xaus" (siv tus qauv). IEA: Zog thiab AI
-
Lub zog txhais tau tias cov pa phem - nyob ntawm qhov sib xyaw ua ke ntawm lub zog hauv zos thiab cov ntawv cog lus fais fab. IEA: Lub zog thiab AI
-
AI siv tau dej ntau heev - feem ntau yog rau kev txias hauv qee qhov chaw teeb tsa cov ntaub ntawv. Li et al. (2023): Ua rau AI tsawg dua "Nqhis dej" (PDF) US DOE FEMP: Cov Caij Nyoog Ua Haujlwm Zoo ntawm Dej Txias rau Cov Chaw Khaws Cov Ntaub Ntawv Hauv Tebchaws
-
AI nyob ntawm cov khoom siv lub cev - cov chips, cov servers, cov khoom siv networking, roj teeb, cov tsev ... uas txhais tau tias kev khawb av, kev tsim khoom, kev xa khoom, thiab thaum kawg e-pov tseg. US EPA: Kev Lag Luam Semiconductor ITU: Kev Saib Xyuas E-pov tseg thoob ntiaj teb 2024
-
AI tuaj yeem txo qhov cuam tshuam rau ib puag ncig nyob rau lwm qhov - los ntawm kev ua kom zoo dua ntawm kev xa khoom, nrhiav pom qhov xau, txhim kho kev ua haujlwm zoo, ua kom kev tshawb fawb sai dua, thiab ua kom cov txheej txheem tsis txhob siv pov tseg ntau. IEA: AI rau kev ua kom lub zog zoo dua thiab kev tsim kho tshiab
Thiab ces muaj qhov uas tib neeg tsis nco qab: qhov ntsuas . Ib qho lus nug AI tej zaum yuav me me, tab sis ntau txhiab tus ntawm lawv yog ib tug tsiaj txawv kiag li ... zoo li lub pob daus me me uas ua rau muaj av qeeg loj li lub rooj zaum. (Qhov piv txwv ntawd tsis meej me ntsis, tab sis koj nkag siab.) IEA: Zog thiab AI
Qhov cuam tshuam ntawm AI rau ib puag ncig tsis yog ib yam - nws yog ib pawg 🧱🌎
Thaum tib neeg sib cav txog AI thiab kev ruaj khov, lawv feem ntau tham dhau ib leeg vim lawv taw tes rau ntau txheej sib txawv:
1) Xam hluav taws xob
-
Kev cob qhia cov qauv loj tuaj yeem xav tau cov pawg loj khiav ceev ceev rau lub sijhawm ntev. IEA: Zog thiab AI
-
Kev xam pom (kev siv txhua hnub) tuaj yeem dhau los ua qhov loj dua dhau sijhawm vim nws tshwm sim tas li, txhua qhov chaw. IEA: Zog thiab AI
2) Kev siv nyiaj ntawm chaw khaws ntaub ntawv
-
Kev txias, kev poob hluav taws xob faib tawm, cov txheej txheem thaub qab, cov khoom siv network. LBNL (2024): Daim Ntawv Qhia Txog Kev Siv Hluav Taws Xob ntawm Chaw Khaws Cov Ntaub Ntawv hauv Tebchaws Meskas (PDF)
-
Tib lub xam zauv tuaj yeem muaj qhov cuam tshuam sib txawv ntawm thaj chaw nyob ntawm seb ua haujlwm tau zoo npaum li cas. Lub Green Grid: PUE—Kev Tshuaj Xyuas Kom Paub Txog Qhov Metric
3) Dej thiab cua sov
-
Ntau lub chaw siv dej ncaj qha lossis tsis ncaj qha los tswj cua sov. US DOE FEMP: Cov Caij Nyoog Siv Dej Txias Rau Cov Chaw Khaws Ntaub Ntawv Hauv Tebchaws Li et al. (2023): Ua Kom AI Tsawg Dua "Nqhis Dej" (PDF)
-
Cov cua sov pov tseg tuaj yeem rov siv dua, lossis nws tuaj yeem ... tawm ua cua kub. (Tsis zoo tagnrho.)
4) Cov khoom siv kho vajtse
-
Cov khoom siv mining thiab refining.
-
Kev tsim cov chips thiab cov servers (siv zog ntau). US EPA: Kev Lag Luam Semiconductor imec: Txo qhov cuam tshuam rau ib puag ncig hauv kev tsim cov chips
-
Kev xa khoom, ntim khoom, hloov kho dua tshiab, hloov pauv.
5) Kev coj cwj pwm thiab kev rov qab los
-
AI ua rau cov haujlwm pheej yig dua thiab yooj yim dua, yog li tib neeg ua ntau yam ntawm lawv. OECD (2012): Cov txiaj ntsig ntau ntawm kev txhim kho kev siv hluav taws xob zoo (PDF)
-
Kev nce qib ntawm kev siv hluav taws xob zoo tuaj yeem raug noj los ntawm kev thov ntau ntxiv. Qhov no yog qhov ua rau kuv nqus pa me ntsis. OECD (2012): Cov txiaj ntsig ntau ntawm kev txhim kho kev siv hluav taws xob zoo (PDF)
Yog li thaum ib tug neeg nug tias AI cuam tshuam li cas rau Ib puag ncig, cov lus teb ncaj qha yog: nws nyob ntawm seb koj ntsuas txheej twg, thiab "AI" txhais li cas hauv qhov xwm txheej ntawd.
Kev cob qhia vs kev xav: qhov sib txawv uas hloov txhua yam 🧠⚙️
Cov neeg nyiam tham txog kev cob qhia vim nws zoo li ua yeeb yam - "ib qho qauv siv lub zog X." Tab sis kev xaus lus yog tus neeg loj heev uas ntsiag to. IEA: Zog thiab AI
Kev cob qhia (kev tsim kho loj)
Kev cob qhia zoo li kev tsim lub Hoobkas. Koj them tus nqi ua ntej: kev suav lej ntau, lub sijhawm khiav ntev, ntau qhov kev sim thiab qhov yuam kev khiav (thiab yog, ntau qhov "oops uas tsis ua haujlwm, sim dua" iterations). Kev cob qhia tuaj yeem ua kom zoo dua, tab sis nws tseem tuaj yeem ua tau ntau. IEA: Zog thiab AI
Kev xaus (kev siv txhua hnub)
Kev xam pom zoo li lub Hoobkas khiav txhua hnub, rau txhua tus, ntawm qhov loj me:
-
Cov Chatbots teb cov lus nug
-
Kev tsim duab
-
Kev tshawb nrhiav qeb duas
-
Cov Lus Qhia
-
Kev hais lus rau ntawv nyeem
-
Kev kuaj pom kev dag ntxias
-
Cov neeg koom tes hauv cov ntaub ntawv thiab cov cuab yeej code
Txawm tias txhua qhov kev thov me me xwb los, qhov ntim ntawm kev siv tuaj yeem ua rau kev cob qhia tsis zoo. Nws yog qhov xwm txheej qub "ib lub straw tsis muaj dab tsi, ib lab lub straw yog ib qho teeb meem". IEA: Zog thiab AI
Ib qho lus qhia me me - qee yam haujlwm AI hnyav dua li lwm yam. Kev tsim cov duab lossis cov yeeb yaj kiab ntev feem ntau siv zog ntau dua li kev faib tawm cov ntawv luv luv. Yog li kev muab "AI" tso rau hauv ib lub thoob zoo li piv lub tsheb kauj vab rau lub nkoj thauj khoom thiab hu lawv ob qho tib si "kev thauj mus los." IEA: Zog thiab AI
Cov chaw khaws ntaub ntawv: lub zog, kev txias, thiab zaj dab neeg dej ntsiag to 💧🏢
Cov chaw khaws ntaub ntawv tsis yog qhov tshiab, tab sis AI hloov qhov muaj zog. Cov khoom siv ua kom nrawm nrawm tuaj yeem rub tau ntau lub zog hauv qhov chaw nqaim, uas hloov mus ua cua sov, uas yuav tsum tau tswj hwm. LBNL (2024): Daim Ntawv Qhia Txog Kev Siv Zog ntawm Chaw Khaws Ntaub Ntawv hauv Tebchaws Meskas (PDF) IEA: Zog thiab AI
Cov hauv paus txias (yooj yim, tab sis siv tau)
-
Cua txias : kiv cua, cua txias, txoj kev kub/txoj kev txias. US DOE FEMP: Kev Siv Hluav Taws Xob Zoo Hauv Cov Chaw Khaws Cov Ntaub Ntawv
-
Kev txias ua kua : ua haujlwm tau zoo dua hauv cov chaw teeb tsa tuab, tab sis tuaj yeem cuam tshuam nrog cov khoom siv sib txawv. ASHRAE (TC 9.9): Kev tshwm sim thiab kev nthuav dav ntawm Kev Txias Ua Kua hauv Cov Chaw Khaws Cov Ntaub Ntawv Tseem Ceeb (PDF)
-
Kev ua kom txias : tuaj yeem txo qhov kev siv hluav taws xob hauv qee qhov huab cua tab sis feem ntau ua rau kev siv dej ntau ntxiv. US DOE FEMP: Cov Kev Ua Haujlwm Zoo ntawm Dej Txias rau Cov Chaw Khaws Ntaub Ntawv Hauv Tebchaws
Qhov ntawd yog qhov kev pauv pauv: koj qee zaum tuaj yeem txo qis kev siv hluav taws xob los ntawm kev siv dej txias. Nyob ntawm seb qhov tsis muaj dej hauv zos, qhov ntawd yuav zoo ... lossis nws yuav yog teeb meem tiag tiag. Li et al. (2023): Ua rau AI tsawg dua "Nqhis dej" (PDF)
Tsis tas li ntawd xwb, qhov cuam tshuam ntawm ib puag ncig nyob ntawm ntau yam:
-
Qhov chaw khaws cov ntaub ntawv nyob qhov twg (cov pa phem ntawm lub grid txawv) Carbon Intensity API (GB) IEA: Zog thiab AI
-
Nws khiav tau zoo npaum li cas (kev siv tseem ceeb heev) Lub Green Grid: PUE—Kev Tshuaj Xyuas Txog Qhov Metric
-
Seb cov cua sov pov tseg puas rov siv dua
-
Cov kev xaiv yuav khoom siv hluav taws xob (cov khoom siv rov ua dua tshiab, cov ntawv cog lus ntev, thiab lwm yam)
Yog hais qhov tseeb: cov kev sib tham rau pej xeem feem ntau siv "chaw khaws ntaub ntawv" zoo li lub thawv dub. Nws tsis yog qhov phem, nws tsis yog khawv koob. Nws yog cov khoom siv hauv paus. Nws ua zoo li cov khoom siv hauv paus.
Cov chips thiab kho vajtse: qhov uas tib neeg hla vim nws tsis zoo nkauj 🪨🔧
AI nyob ntawm cov khoom siv kho vajtse. Cov khoom siv kho vajtse muaj lub voj voog ntawm lub neej, thiab qhov cuam tshuam ntawm lub voj voog ntawm lub neej tuaj yeem loj heev. US EPA: Kev Lag Luam Semiconductor ITU: Kev Saib Xyuas Kev Pov Tseg Hluav Taws Xob Thoob Ntiaj Teb 2024
Qhov twg qhov cuam tshuam rau ib puag ncig tshwm sim
-
Kev rho tawm cov khoom siv : kev khawb thiab kev ua kom cov hlau thiab cov ntaub ntawv tsis tshua muaj.
-
Kev Tsim Khoom : kev tsim cov khoom siv semiconductor nyuaj thiab siv zog ntau. US EPA: Kev Lag Luam Semiconductor imec: Txo qhov cuam tshuam rau ib puag ncig hauv kev tsim cov chips
-
Kev Thauj Mus Los : cov saw hlau thoob ntiaj teb txav cov khoom seem mus rau txhua qhov chaw.
-
Lub voj voog hloov pauv luv luv : kev hloov kho sai sai tuaj yeem ua rau e-pov tseg thiab cov pa phem hauv lub cev ntau ntxiv. ITU: Lub Chaw Saib Xyuas E-pov tseg thoob ntiaj teb xyoo 2024
Cov khib nyiab hluav taws xob thiab cov servers "zoo meej"
Muaj ntau yam kev puas tsuaj rau ib puag ncig tsis yog los ntawm ib lub cuab yeej uas twb muaj lawm - nws yog los ntawm kev hloov nws thaum ntxov vim tias nws tsis tsim nyog lawm. AI ua rau qhov no ua kom nrawm dua vim tias kev ua tau zoo tuaj yeem loj heev. Qhov kev ntxias kom hloov kho cov khoom siv kho vajtse yog qhov tseeb. ITU: Lub Koom Haum Saib Xyuas Kev Pov Tseg Hluav Taws Xob Thoob Ntiaj Teb Xyoo 2024
Ib qho tseem ceeb uas siv tau: kev ua kom lub neej kho vajtse ntev dua, kev siv tau zoo dua, thiab kev kho dua tshiab kuj tseem ceeb npaum li kev kho dua tshiab ntawm cov qauv zoo nkauj. Qee zaum GPU ntsuab tshaj plaws yog qhov koj tsis yuav. (Qhov ntawd zoo li yog ib lo lus hais, tab sis nws kuj yog ... qhov tseeb.)
AI cuam tshuam li cas rau Ib puag ncig: lub voj voog "tib neeg tsis nco qab qhov no" tus cwj pwm 🔁😬
Nov yog qhov tsis yooj yim ntawm kev sib raug zoo: AI ua rau tej yam yooj yim dua, yog li tib neeg ua ntau yam ntxiv. Qhov ntawd tuaj yeem zoo kawg nkaus - muaj txiaj ntsig ntau dua, muaj tswv yim ntau dua, nkag mus tau ntau dua. Tab sis nws kuj tseem tuaj yeem txhais tau tias siv cov peev txheej ntau dua. OECD (2012): Cov txiaj ntsig ntau ntawm kev txhim kho kev siv hluav taws xob (PDF)
Piv txwv li:
-
Yog tias AI ua rau kev tsim cov yeeb yaj kiab pheej yig, tib neeg tsim cov yeeb yaj kiab ntau dua.
-
Yog tias AI ua rau kev tshaj tawm zoo dua, ntau cov tshaj tawm tau txais kev pabcuam, ntau qhov kev koom tes tig.
-
Yog tias AI ua rau kev xa khoom xa tuaj zoo dua, kev lag luam e-commerce tuaj yeem loj hlob dua.
Qhov no tsis yog ib qho laj thawj rau kev ntshai. Nws yog ib qho laj thawj los ntsuas cov txiaj ntsig, tsis yog tsuas yog kev ua haujlwm zoo xwb.
Ib qho piv txwv tsis zoo tag nrho tab sis lom zem: Kev ua haujlwm ntawm AI zoo li muab lub tub yees loj dua rau ib tug tub hluas - yog, kev khaws cia zaub mov zoo dua, tab sis qee yam lub tub yees khoob dua hauv ib hnub. Tsis yog ib qho piv txwv zoo tag nrho, tab sis ... koj tau pom nws tshwm sim 😅
Qhov zoo: AI tuaj yeem pab tau ib puag ncig tiag tiag (thaum tsom mus rau qhov yog) 🌿✨
Tam sim no rau qhov uas raug kwv yees tsis tau: AI tuaj yeem txo cov pa phem thiab cov khib nyiab hauv cov kab ke uas twb muaj lawm uas yog ... qhov tseeb, tsis zoo nkauj. IEA: AI rau kev ua kom lub zog zoo dua thiab kev tsim kho tshiab
Cov cheeb tsam uas AI tuaj yeem pab tau
-
Cov phiaj xwm hluav taws xob : kev kwv yees qhov hnyav, kev teb rau qhov xav tau, kev koom ua ke ntawm cov khoom siv hluav taws xob rov ua dua tshiab. IEA: AI rau kev ua kom zoo dua qub thiab kev tsim kho tshiab
-
Cov Tsev : kev tswj hwm HVAC ntse dua, kev saib xyuas ua ntej, kev siv hluav taws xob raws li kev nyob hauv. IEA: Kev siv digital
-
Kev Thauj Mus Los : kev txhim kho txoj kev, kev tswj hwm cov tsheb thauj khoom, txo cov mais khoob. IEA: AI rau kev txhim kho lub zog thiab kev tsim kho tshiab
-
Kev Tsim Khoom : nrhiav pom qhov tsis zoo, kho cov txheej txheem, txo cov khoom pov tseg.
-
Kev Ua Liaj Ua Teb : kev ywg dej kom raug, kev kuaj pom kab tsuag, kev ua kom zoo dua ntawm chiv.
-
Kev soj ntsuam ib puag ncig : nrhiav pom cov pa roj methane, taug qab cov cim qhia txog kev rhuav tshem hav zoov, kos duab cov qauv ntawm ntau haiv neeg. UNEP: MARS ua haujlwm li cas Global Forest Watch: GLAD deforestation alerts Lub koom haum Alan Turing: AI thiab cov kab ke ywj pheej rau kev soj ntsuam ntau haiv neeg
-
Kev lag luam ncig : kev cais thiab kev txheeb xyuas zoo dua hauv cov kwj deg rov ua dua tshiab.
Qhov tseem ceeb tseem ceeb: AI "pab" tsis tau them rov qab rau AI qhov teeb meem. Nws nyob ntawm seb AI puas tau siv, siv tiag tiag, thiab seb nws puas ua rau muaj kev txo qis tiag tiag es tsis yog tsuas yog cov dashboard zoo dua xwb. Tab sis yog, lub peev xwm yog qhov tseeb. IEA: AI rau kev ua kom lub zog zoo dua thiab kev tsim kho tshiab
Dab tsi ua rau muaj ib qho version zoo ntawm eco-friendly AI? ✅🌍
Qhov no yog ntu "okay yog li peb yuav tsum ua li cas". Ib qho kev teeb tsa AI zoo uas lav ris rau ib puag ncig feem ntau muaj:
-
Tus nqi siv kom meej : Yog tias tus qauv tsis hloov pauv kev txiav txim siab lossis cov txiaj ntsig, nws tsuas yog kev suav zoo nkauj xwb.
-
Kev ntsuas suav nrog : Lub zog, kev kwv yees carbon, kev siv, thiab kev ntsuas kev ua haujlwm zoo ib yam li lwm yam KPI. CodeCarbon: Txoj Kev Tshawb Fawb
-
Cov qauv loj uas haum : Siv cov qauv me dua thaum cov qauv me dua ua haujlwm. Kev ua haujlwm tau zoo tsis yog ib qho kev ua tsis tiav ntawm kev coj ncaj ncees.
-
Kev tsim qauv kev xaus lus zoo : caching, batching, quantization, retrieval, thiab cov qauv zoo prompting. Gholami et al. (2021): Kev Tshawb Fawb Txog Cov Txheej Txheem Quantization (PDF) Lewis et al. (2020): Retrieval-Augmented Generation
-
Kev paub txog cov khoom siv kho vajtse thiab qhov chaw : khiav cov haujlwm uas lub grid huv dua thiab cov khoom siv hauv paus ua haujlwm tau zoo (thaum ua tau). Carbon Intensity API (GB)
-
Siv cov khoom siv kho vajtse ntev dua : siv kom zoo tshaj plaws, siv dua, thiab kho dua tshiab. ITU: Lub Koom Haum Saib Xyuas Kev Pov Tseg Hluav Taws Xob Thoob Ntiaj Teb Xyoo 2024
-
Kev tshaj tawm ncaj qha : zam cov lus tsis tseeb thiab cov lus tsis meej xws li "AI zoo rau ib puag ncig" tsis muaj cov lej.
Yog tias koj tseem tab tom taug qab seb AI cuam tshuam li cas rau Ib puag ncig, qhov no yog qhov uas cov lus teb tsis yog kev xav thiab ua haujlwm tau zoo: nws cuam tshuam rau nws raws li koj xaiv.
Rooj Sib Piv: cov cuab yeej thiab cov hau kev uas txo qhov cuam tshuam tiag tiag 🧰⚡
Hauv qab no yog ib daim ntawv qhia ua haujlwm sai thiab siv tau yooj yim. Nws tsis zoo tag nrho, thiab yog lawm, muaj ob peb lub cell uas muaj kev xav me ntsis ... vim tias qhov ntawd yog li cas kev xaiv cov cuab yeej ua haujlwm tiag tiag.
| Cov Cuab Yeej / Txoj Kev | Cov neeg tuaj saib | Nqe | Vim li cas nws thiaj ua haujlwm | |
|---|---|---|---|---|
| Cov tsev qiv ntawv taug qab cov pa roj carbon/zog (cov cuab yeej kwv yees lub sijhawm khiav) | Cov pab pawg ML | Dawb-ish | Muab kev pom tseeb - uas yog ib nrab ntawm kev sib ntaus sib tua, txawm tias kev kwv yees me ntsis tsis meej .. | CodeCarbon |
| Kev soj ntsuam lub zog kho vajtse (GPU / CPU telemetry) | Infra + ML | Dawb | Ntsuas kev siv tiag tiag; zoo rau kev ntsuas kev khiav (tsis ci ntsa iab tab sis kub) | |
| Kev rho tawm qauv | Cov kws ua haujlwm ML | Dawb (lub sijhawm-nqi 😵) | Cov qauv tub ntxhais kawm me dua feem ntau phim kev ua tau zoo nrog tus nqi kwv yees tsawg dua | Hinton et al. (2015): Kev Tshawb Fawb Txog Kev Paub Hauv Ib Lub Neural Network |
| Kev suav lej (kev xaus lus qis dua) | ML + khoom | Dawb | Txo qhov latency thiab kev siv hluav taws xob; qee zaum nrog kev pauv pauv me me, qee zaum tsis muaj | Gholami et al. (2021): Kev Tshawb Fawb Txog Cov Txheej Txheem Kev Ntsuas (PDF) |
| Caching + batching inference | Khoom + platform | Dawb | Txo cov kev suav uas tsis tseem ceeb; tshwj xeeb tshaj yog yooj yim rau cov lus nug rov ua dua lossis cov lus thov zoo sib xws | |
| Kev Tshawb Nrhiav Dua Tshiab (RAG) | Cov pab pawg neeg siv app | Sib xyaw | Txo cov "nco" kom rov qab tau; tuaj yeem txo qhov xav tau rau cov qhov rai loj loj | Lewis et al. (2020): Kev Tshawb Nrhiav Tshiab-Augmented Generation |
| Teem sijhawm ua haujlwm los ntawm kev siv zog ntawm cov pa roj carbon | Kev tsim kho vaj tse/kev ua haujlwm | Sib xyaw | Hloov cov haujlwm yooj ywm mus rau qhov rais fais fab huv dua - xav tau kev sib koom tes txawm li cas los xij | API Kev Siv Carbon Intensity (GB) |
| Kev tsom mus rau kev ua haujlwm zoo ntawm cov chaw khaws ntaub ntawv (kev siv, kev sib sau ua ke) | Kev coj noj coj ua ntawm IT | Them (feem ntau) | Tus lever uas tsis zoo nkauj tshaj plaws, tab sis feem ntau yog qhov loj tshaj plaws - tsum tsis txhob khiav cov kab ke ib nrab uas khoob | Lub Grid Ntsuab: PUE |
| Cov haujlwm siv cua sov dua | Cov chaw | Nws nyob ntawm seb | Hloov cov cua sov pov tseg mus ua nqi; tsis yog ib txwm ua tau, tab sis thaum nws ua tau, nws zoo nkauj heev | |
| "Peb puas xav tau AI ntawm no?" xyuas | Txhua tus neeg | Dawb | Tiv thaiv kev suav tsis muaj txiaj ntsig. Qhov kev ua kom zoo tshaj plaws yog hais tias tsis yog (qee zaum) |
Koj puas pom dab tsi ploj lawm? "Yuav daim ntawv nplaum ntsuab khawv koob." Daim ntawd tsis muaj 😬
Phau ntawv qhia ua si: txo qhov cuam tshuam ntawm AI yam tsis tas tua cov khoom 🛠️🌱
Yog tias koj tab tom tsim lossis yuav cov kab ke AI, ntawm no yog cov kab ke uas ua haujlwm tau tiag tiag:
Kauj Ruam 1: Pib nrog kev ntsuas
-
Taug qab kev siv hluav taws xob lossis kwv yees nws tas li. CodeCarbon: Txoj Kev Tshawb Fawb
-
Ntsuas ib qho kev cob qhia thiab ib qho kev thov kom xaus lus.
-
Saib xyuas kev siv - cov peev txheej tsis siv neeg muaj ib txoj hauv kev zais cia rau hauv qhov pom tseeb. Lub Grid Ntsuab: PUE
Kauj Ruam 2: Kho qhov loj ntawm tus qauv kom haum rau txoj haujlwm
-
Siv cov qauv me dua rau kev faib tawm, kev rho tawm, thiab kev taw qhia.
-
Txuag tus qauv hnyav rau cov rooj plaub nyuaj.
-
Xav txog "qauv sib dhos": qauv me ua ntej, qauv loj dua tsuas yog tias xav tau.
Kauj Ruam 3: Optimize inference (qhov no yog qhov scale bites)
-
Caching : khaws cov lus teb rau cov lus nug rov ua dua (nrog kev tswj hwm kev ceev ntiag tug zoo).
-
Kev sib sau ua ke : cov lus thov ua pab pawg los txhim kho kev ua haujlwm ntawm cov khoom siv.
-
Cov zis luv dua : cov zis ntev dua raug nqi ntau dua - qee zaum koj tsis xav tau tsab ntawv.
-
Kev qhuab ntuas sai : cov lus qhia tsis huv ua rau muaj kev suav ntev dua ... thiab yog, ntau cov cim.
Kauj Ruam 4: Txhim kho kev huv ntawm cov ntaub ntawv
Qhov no zoo li tsis muaj feem cuam tshuam, tab sis nws tsis yog:
-
Cov ntaub ntawv huv dua tuaj yeem txo qhov kev cob qhia dua.
-
Suab nrov tsawg dua txhais tau tias muaj kev sim tsawg dua thiab kev khiav tsis siv nyiaj tsawg dua.
Kauj Ruam 5: Kho cov khoom siv kho vajtse zoo li khoom muaj nqis, tsis yog khoom pov tseg
-
Txuas ntxiv cov voj voog rov ua dua tshiab qhov twg ua tau. ITU: Lub Koom Haum Saib Xyuas Kev Pov Tseg Hluav Taws Xob Thoob Ntiaj Teb Xyoo 2024
-
Siv cov khoom siv qub dua rau cov haujlwm me dua.
-
Tsis txhob muab kev npaj "ib txwm muaj qhov siab tshaj plaws".
Kauj Ruam 6: Xaiv qhov kev xa tawm kom zoo
-
Khiav cov haujlwm yooj ywm uas muaj zog dua yog tias koj ua tau. Carbon Intensity API (GB)
-
Txo cov kev rov ua dua tsis tsim nyog.
-
Ua kom cov hom phiaj latency muaj tseeb (latency qis heev tuaj yeem ua rau tsis muaj txiaj ntsig zoo rau kev teeb tsa tas li).
Thiab yog lawm... qee zaum qhov zoo tshaj plaws yog: tsis txhob khiav tus qauv loj tshaj plaws rau txhua tus neeg siv ua. Tus cwj pwm ntawd zoo ib yam li tso txhua lub teeb rau vim tias kev taug kev mus rau qhov hloov pauv yog qhov ntxhov siab.
Cov lus dab neeg feem ntau (thiab qhov ze rau qhov tseeb) 🧠🧯
Cuav: "AI yeej ib txwm phem dua li software ib txwm muaj"
Qhov Tseeb: AI tuaj yeem siv ntau dua los xam, tab sis nws kuj tseem tuaj yeem hloov cov txheej txheem ua haujlwm tsis zoo, txo cov khib nyiab, thiab ua kom cov txheej txheem zoo dua. Nws yog nyob ntawm qhov xwm txheej. IEA: AI rau kev ua kom lub zog zoo dua thiab kev tsim kho tshiab
Cuav: "Kev cob qhia yog tib qho teeb meem xwb"
Qhov Tseeb: Kev xam pom ntawm qhov ntsuas loj tuaj yeem tswj tau raws sijhawm. Yog tias koj cov khoom siv tawg ua ntau hauv kev siv, qhov no yuav dhau los ua zaj dab neeg tseem ceeb. IEA: Zog thiab AI
Cuav: "Cov khoom siv rov ua dua tshiab daws tau qhov teeb meem tam sim ntawd"
Qhov Tseeb: Hluav taws xob huv dua pab tau ntau yam, tab sis tsis tshem tawm cov khoom siv kho vajtse, kev siv dej, lossis cov teebmeem rov qab los. Tseem ceeb heev. IEA: Zog thiab AI
Cuav: "Yog tias nws ua haujlwm tau zoo, nws yuav ruaj khov"
Qhov Tseeb: Kev ua haujlwm tau zoo yam tsis muaj kev tswj hwm kev thov tseem tuaj yeem ua rau muaj kev cuam tshuam tag nrho. Qhov ntawd yog qhov rov qab los. OECD (2012): Cov txiaj ntsig ntau yam ntawm kev txhim kho kev siv hluav taws xob zoo (PDF)
Kev tswj hwm, kev pob tshab, thiab tsis ua yeeb yam txog nws 🧾🌍
Yog tias koj yog ib lub tuam txhab, qhov no yog qhov uas kev ntseeg siab tau tsim los yog poob.
-
Tshaj tawm cov ntsuas tseem ceeb : ib qho kev thov, ib tus neeg siv, ib txoj haujlwm - tsis yog tsuas yog qhov loj txaus ntshai tag nrho. LBNL (2024): Tebchaws Meskas Cov Ntaub Ntawv Chaw Siv Hluav Taws Xob Daim Ntawv Qhia (PDF)
-
Tsis txhob hais lus tsis meej : "AI ntsuab" txhais tau tias tsis muaj lej thiab ciam teb.
-
Xav txog dej thiab qhov cuam tshuam hauv zos : cov pa roj carbon tsis yog tib qho kev hloov pauv ib puag ncig. Li et al. (2023): Ua rau AI tsawg dua "Nqhis dej" (PDF)
-
Tsim rau kev txwv : cov lus teb luv dua, cov hom pheej yig dua, cov chaw "eco" uas ua tau qee yam tiag tiag.
-
Xav txog kev ncaj ncees : kev siv cov peev txheej ntau rau hauv cov chaw uas muaj dej tsawg lossis cov grid tsis ruaj khov muaj cov txiaj ntsig dhau ntawm koj daim ntawv nthuav qhia. US DOE FEMP: Cov Caij Nyoog Siv Dej Txias Rau Cov Chaw Khaws Cov Ntaub Ntawv Hauv Tebchaws
Qhov no yog qhov uas tib neeg dov lawv lub qhov muag, tab sis nws tseem ceeb. Kev siv tshuab uas muaj lub luag haujlwm tsis yog hais txog kev tsim kho ntse xwb. Nws kuj yog hais txog kev tsis ua txuj tias kev pauv pauv tsis muaj nyob.
Cov ntsiab lus xaus: kev rov hais dua me ntsis txog seb AI cuam tshuam li cas rau Ib puag ncig 🌎✅
Yuav ua li cas AI cuam tshuam rau Ib puag ncig los ntawm kev ntxiv cov khoom siv: hluav taws xob, dej (qee zaum), thiab kev xav tau kho vajtse. IEA: Zog thiab AI Li et al. (2023): Ua rau AI tsawg dua "Nqhis dej" (PDF) Nws kuj muaj cov cuab yeej muaj zog los txo cov pa phem thiab pov tseg hauv lwm cov haujlwm. IEA: AI rau kev ua kom lub zog zoo dua thiab kev tsim kho tshiab Qhov txiaj ntsig tag nrho nyob ntawm qhov ntsuas, kev huv ntawm lub grid, kev xaiv kev ua haujlwm zoo, thiab seb AI puas daws cov teeb meem tiag tiag lossis tsuas yog tsim cov khoom tshiab rau qhov tshiab. IEA: Zog thiab AI
Yog tias koj xav tau cov lus qhia yooj yim tshaj plaws:
-
Ntsuas.
-
Qhov loj me.
-
Optimize qhov kev xaus.
-
Ntev lub neej kho vajtse.
-
Ua siab ncaj txog kev pauv pauv.
Thiab yog tias koj xav tias koj ntxhov siab, ntawm no yog qhov tseeb uas ua rau koj so siab: cov kev txiav txim siab me me, rov ua dua ib txhiab zaus, feem ntau yeej ib qho lus hais loj txog kev ruaj khov. Zoo li txhuam koj cov hniav. Tsis zoo nkauj, tab sis nws ua haujlwm ... 😄🪥
Cov Lus Nug Feem Ntau
AI cuam tshuam li cas rau ib puag ncig hauv kev siv txhua hnub, tsis yog tsuas yog cov chaw tshawb fawb loj xwb?
Feem ntau ntawm AI cov peev txheej los ntawm hluav taws xob uas muab zog rau cov chaw khaws ntaub ntawv uas khiav GPUs thiab CPUs thaum lub sijhawm kawm thiab "kev xav" txhua hnub. Ib qho kev thov yuav tsis hnyav heev, tab sis thaum ntsuas qhov loj me, cov kev thov ntawd yuav sib sau ua ke sai heev. Qhov cuam tshuam kuj nyob ntawm qhov chaw uas lub chaw khaws ntaub ntawv nyob, lub network hauv zos huv npaum li cas, thiab qhov chaw ua haujlwm tau zoo npaum li cas.
Puas yog kev cob qhia tus qauv AI phem dua rau ib puag ncig dua li siv nws (kev xaus lus)?
Kev cob qhia tuaj yeem yog qhov loj, ua ntej ntawm kev suav, tab sis kev xaus lus tuaj yeem dhau los ua qhov loj dua dhau sijhawm vim tias nws khiav tas li thiab ntawm qhov loj heev. Yog tias ib lub cuab yeej siv los ntawm ntau lab tus tib neeg txhua hnub, cov lus thov rov ua dua tuaj yeem ntau dua li tus nqi cob qhia ib zaug. Yog vim li cas kev ua kom zoo dua feem ntau tsom mus rau kev ua haujlwm ntawm kev xaus lus.
Vim li cas AI thiaj siv dej, thiab nws puas yog ib qho teeb meem tas li?
AI siv tau dej vim qee lub chaw khaws ntaub ntawv siv dej txias, lossis vim dej siv tsis ncaj qha los ntawm kev tsim hluav taws xob. Hauv qee qhov huab cua, kev ua kom txias sai sai tuaj yeem txo qis kev siv hluav taws xob thaum nce kev siv dej, tsim kom muaj kev sib pauv tiag tiag. Seb nws puas "phem" nyob ntawm qhov tsis muaj dej hauv zos, kev tsim kom txias, thiab seb kev siv dej puas raug ntsuas thiab tswj hwm.
Cov feem twg ntawm AI qhov teeb meem ib puag ncig los ntawm kho vajtse thiab e-pov tseg?
AI nyob ntawm cov chips, servers, networking gear, tsev, thiab cov saw hlau - uas txhais tau tias kev khawb av, kev tsim khoom, kev xa khoom, thiab kev pov tseg thaum kawg. Kev tsim khoom semiconductor siv zog ntau, thiab kev hloov kho sai sai tuaj yeem ua rau muaj kev tso pa tawm thiab e-pov tseg ntau ntxiv. Kev ncua lub neej kho vajtse, kev kho dua tshiab, thiab kev txhim kho kev siv tuaj yeem txo qhov cuam tshuam, qee zaum sib tw nrog kev hloov pauv ntawm cov qauv.
Puas yog kev siv lub zog rov ua dua tshiab daws tau qhov cuam tshuam ntawm AI rau ib puag ncig?
Hluav taws xob huv dua tuaj yeem txo cov pa phem los ntawm kev suav, tab sis nws tsis tshem tawm lwm yam kev cuam tshuam xws li kev siv dej, kev tsim khoom siv kho vajtse, thiab kev pov tseg hluav taws xob. Nws kuj tsis tau hais txog "cov teebmeem rov qab los," qhov twg kev suav pheej yig dua ua rau muaj kev siv ntau dua. Cov khoom siv rov ua dua tshiab yog ib qho tseem ceeb, tab sis lawv tsuas yog ib feem ntawm cov khoom siv xwb.
Qhov cuam tshuam rov qab los yog dab tsi, thiab vim li cas nws thiaj tseem ceeb rau AI thiab kev ruaj khov?
Qhov cuam tshuam rov qab los yog thaum kev ua haujlwm tau zoo ua rau qee yam pheej yig dua lossis yooj yim dua, yog li tib neeg ua ntau dua - qee zaum tshem tawm cov nyiaj txuag. Nrog AI, kev tsim khoom pheej yig dua lossis kev ua haujlwm tsis siv neeg tuaj yeem ua rau muaj kev thov ntau ntxiv rau cov ntsiab lus, kev suav, thiab cov kev pabcuam. Yog vim li cas kev ntsuas cov txiaj ntsig hauv kev xyaum tseem ceeb dua li kev ua koob tsheej rau kev ua haujlwm tau zoo hauv kev cais tawm.
Cov hau kev siv tau zoo li cas los txo qhov cuam tshuam ntawm AI yam tsis ua rau cov khoom puas tsuaj?
Ib txoj hauv kev uas feem ntau siv yog pib nrog kev ntsuas (kev kwv yees lub zog thiab cov pa roj carbon, kev siv), tom qab ntawd ua cov qauv loj rau txoj haujlwm thiab ua kom zoo dua qhov kev xav nrog caching, batching, thiab cov zis luv dua. Cov txheej txheem xws li quantization, distillation, thiab retrieval-augmented generation tuaj yeem txiav cov kev xav tau xam. Cov kev xaiv ua haujlwm - zoo li kev teem sijhawm ua haujlwm los ntawm cov pa roj carbon thiab lub neej kho vajtse ntev dua - feem ntau xa cov yeej loj.
AI yuav pab tau ib puag ncig li cas es tsis txhob ua rau nws puas tsuaj?
AI tuaj yeem txo cov pa phem thiab cov khib nyiab thaum siv los ua kom zoo dua cov txheej txheem tiag tiag: kev kwv yees lub grid, kev teb rau qhov xav tau, kev tswj hwm HVAC hauv tsev, kev xa khoom, kev saib xyuas ua ntej, thiab kev kuaj pom qhov xau. Nws kuj tseem tuaj yeem txhawb nqa kev saib xyuas ib puag ncig xws li kev ceeb toom txog kev rhuav tshem hav zoov thiab kev kuaj pom methane. Qhov tseem ceeb yog seb lub kaw lus puas hloov pauv kev txiav txim siab thiab tsim cov kev txo qis uas ntsuas tau, tsis yog tsuas yog cov dashboard zoo dua xwb.
Cov tuam txhab yuav tsum tshaj tawm cov ntsuas twg kom tsis txhob muaj cov lus thov "greenwashing" AI?
Nws muaj lub ntsiab lus ntau dua los qhia txog cov ntsuas ib txoj haujlwm lossis ib qho kev thov dua li tsuas yog cov lej loj xwb, vim nws qhia txog kev ua haujlwm zoo ntawm theem chav tsev. Kev taug qab kev siv hluav taws xob, kev kwv yees carbon, kev siv, thiab - qhov twg tsim nyog - kev cuam tshuam dej ua rau muaj kev lav phib xaub meej dua. Tseem ceeb heev: txhais cov ciam teb (dab tsi suav nrog) thiab zam cov ntawv tsis meej xws li "AI zoo rau ib puag ncig" yam tsis muaj pov thawj ntsuas.
Cov ntaub ntawv siv los ua piv txwv
-
Lub Koom Haum Zog Thoob Ntiaj Teb (IEA) - Zog thiab AI - iea.org
-
Lub Koom Haum Zog Thoob Ntiaj Teb (IEA) - AI rau kev ua kom lub zog zoo tshaj plaws thiab kev tsim kho tshiab - iea.org
-
Lub Koom Haum Zog Thoob Ntiaj Teb (IEA) - Kev Siv Digital - iea.org
-
Chaw Kuaj Xyuas Hauv Tebchaws Lawrence Berkeley (LBNL) - Daim Ntawv Qhia Txog Kev Siv Hluav Taws Xob ntawm Chaw Khaws Cov Ntaub Ntawv hauv Tebchaws Meskas (2024) (PDF) - lbl.gov
-
Li et al. - Ua kom AI tsawg dua "Nqhis dej" (2023) (PDF) - arxiv.org
-
ASHRAE (TC 9.9) - Kev Tshwm Sim thiab Kev Nthuav Dav ntawm Cov Kua Txias Hauv Cov Chaw Khaws Cov Ntaub Ntawv Tseem Ceeb (PDF) - ashrae.org
-
Daim Ntawv Qhia Txog Kev Ntsuas Ntsuab - PUE-A Kev Tshuaj Xyuas Txog Kev Ntsuas - thegreengrid.org
-
Lub Chaw Haujlwm Saib Xyuas Zog ntawm Tebchaws Meskas (DOE) - FEMP - Cov Kev Siv Dej Txias Kom Zoo Rau Cov Chaw Khaws Cov Ntaub Ntawv Hauv Tebchaws - energy.gov
-
Lub Tsev Haujlwm Saib Xyuas Zog ntawm Tebchaws Meskas (DOE) - FEMP - Kev Siv Hluav Taws Xob Zoo hauv Cov Chaw Khaws Cov Ntaub Ntawv - energy.gov
-
Lub Chaw Tiv Thaiv Ib Puag Ncig ntawm Tebchaws Meskas (EPA) - Kev Lag Luam Semiconductor - epa.gov
-
Lub Koom Haum Sib Txuas Lus Thoob Ntiaj Teb (ITU) - Kev Saib Xyuas Kev Pov Tseg Hluav Taws Xob Thoob Ntiaj Teb Xyoo 2024 - itu.int
-
OECD - Cov Txiaj Ntsig Ntau Yam ntawm Kev Txhim Kho Kev Siv Hluav Taws Xob Zoo (2012) (PDF) - oecd.org
-
Carbon Intensity API (GB) - carbonintensity.org.uk
-
imec - Txo qhov cuam tshuam rau ib puag ncig hauv kev tsim cov chips - imec-int.com
-
UNEP - MARS ua haujlwm li cas - unep.org
-
Kev Saib Xyuas Hav Zoov Thoob Ntiaj Teb - Cov lus ceeb toom txog kev rhuav tshem hav zoov zoo siab - globalforestwatch.org
-
Lub Koom Haum Alan Turing - AI thiab cov txheej txheem ywj pheej rau kev ntsuam xyuas kev muaj ntau haiv neeg thiab kev noj qab haus huv ntawm ecosystem - turing.ac.uk
-
CodeCarbon - Txoj Kev Tshawb Fawb - mlco2.github.io
-
Gholami et al. - Kev Tshawb Fawb Txog Cov Txheej Txheem Quantization (2021) (PDF) - arxiv.org
-
Lewis thiab lwm tus - Kev Tshawb Nrhiav-Tsim Ntxiv (2020) - arxiv.org
-
Hinton et al. - Kev Tshawb Fawb Txog Kev Paub Hauv Lub Neural Network (2015) - arxiv.org
-
CodeCarbon - codecarbon.io