Tus thawj coj ntawm Anthropic tau piav qhia txog txoj kev npaj kom qeeb txoj kev loj hlob ntawm AI
Dario Amodei nyuam qhuav hais kom kev lag luam ... qeeb qeeb. Tsis yog nres. Ceev. Tsab ntawv ntev, peb kauj ruam, thiab ceeb toom tias kev txhim kho tus kheej rov ua dua twb ua tiav sai dua li cov neeg laus tuaj yeem tshuaj xyuas nws.
Anthropic caw cov neeg soj ntsuam uas nyob hauv lub tsev - cov cim, cov rooj, cov laptops, thiab txoj cai tshaj tawm cov ntaub ntawv yam tsis muaj PR filter. Tom qab ntawd nws xav kom cov chaw soj ntsuam kev ywj pheej sib koom tes cov qauv kev nyab xeeb. Tom qab ntawd, qee yam, kev pom zoo nrog tsoomfwv authoritarian. Yooj yim rau ntawm daim ntawv. Nyuaj txhua qhov chaw.
Nws tseem hais tias AI yuav yog ib qho txuj ci tseem ceeb. Nws kuj hais tias ib pab pawg neeg uas tsis sib haum xeeb uas muaj peev xwm ntau dua yuav siv internet nrog lub botnet uas ruaj khov thiab ua rau muaj kev puas tsuaj ntau pua billions. Ob kab lus ntawd nyob ib sab thiab lawv tsis sib haum.
Auj - thiab nws xav tau kev zam txim me me rau kev tiv thaiv kev lag luam kom cov kev sib tham txog kev nyab xeeb tsis yog teeb meem kev cai lij choj. Cov kev nres tsheb tuaj nrog cov ntaub ntawv. Tau kawg lawv ua li ntawd.
Sam Altman lees paub tias OpenAI yuav tsis mus rau pej xeem xyoo no, hais tias IPO tam sim no yuav los rau lub sijhawm 'tsis zoo' vim muaj kev txhawj xeeb txog kev nyab xeeb ntawm AI
Altman zaum rau kev xam phaj tshwj xeeb thiab tua daim ntawv teev npe. Kev IPO tam sim no, nws hais tias, yuav yog "lub sijhawm tsis zoo." Kev ua haujlwm kev nyab xeeb tsis tau ua tiav. Kev sib haum xeeb tsis tau ua tiav. Lub zej zog tsis tau npaj txhij. Thaum lawv nias nws - tsis yog xyoo no.
Cov neeg ua haujlwm hauv tsev txhab nyiaj twb tau ncig mus ncig los lawm. Cov ntaub ntawv zais cia twb muaj lawm. Tam sim no tus CEO hais tias lawv muaj ntau yam ua ua ntej, suav nrog kev xam seb kev lag luam thiab tsoomfwv ua haujlwm ua ke li cas. Nws zoo li yuav luag zoo siab tos.
Nws kuj tau hais tias kev tsim AI uas tsis yog tib neeg tswj tau yog "ua tau tiag tiag" - ces cog lus tias nws yuav ncua kev cob qhia yog tias qhov ntawd yog txoj kev. Ua siab loj. Tej zaum kuj yooj yim thiab. Tej zaum ob qho tib si. Kev sib cav sib ceg txog kev lag luam tsis muaj txiaj ntsig / kev lag luam uas nrhiav kev lag luam, nws tau sib cav, muaj nyob rau hauv kom lawv tuaj yeem hu xov tooj uas tsis yog qhov pom tseeb ntawm cov tswv cuab. Peb yuav pom tias kab lus ntawd puas tseem muaj sia nyob nrog kev sib cuag nrog daim ntawv qhia tseeb.
Sam Altman ntawm OpenAI qhia txog kev sib cog lus nrog lwm lub tuam txhab AI los daws cov kev pheej hmoo kev nyab xeeb
Kev xam phaj tib yam, lub npe sib txawv, thiab qhov no yog lub suab ntxhi. Zaum nrog Amodei, Musk, thiab Demis Hassabis yog qhov kev txav mus tom ntej. Altman: nws xav tias qhov ntawd yuav tshwm sim. Nws yuav tsis tshaj tawm ua ntej kev sib tham ntiag tug. Tom qab ntawd nws yeej tshaj tawm ua ntej lawv.
Nws hais tias, qhov kev pheej hmoo loj heev uas muaj ob tus lej tsis yog qhov lees txais. Cov qauv uas tseem tsis tau tso tawm twb muaj peev xwm ua tau zoo heev uas kev thawb mus ntxiv yam tsis muaj kev saib xyuas zoo dua zoo li tsis saib xyuas. Kev sib cog lus tiag tiag thiab huab cua uas tau xau tawm zoo tuaj yeem zoo ib yam los ntawm sab nraud.
Cov neeg ua haujlwm twb tau hnov ib qho version ntawm qhov no sab hauv. Rau pej xeem nws tseem pos huab. Yog tias chav tsev tshwm sim, zoo heev. Yog tias nws tsis tshwm sim, cov lus hais tseem ua haujlwm.
Sam Altman txhawb nqa Dario Amodei qhov kev hu kom qeeb, thiab hais tias OpenAI yuav ua tib yam
Ob peb teev tom qab tsab ntawv sau, Altman tau tshaj tawm tias OpenAI yuav phim cov lus cog tseg ntawm tus neeg soj ntsuam. Kev nkag mus zoo li cov neeg ua haujlwm. Yuav muaj ntau yam los qhia sai sai no. Musk sau peb lo lus: "Dario hais yog lawm." Peb tus thawj coj sib tw. Ib lo lus hais. Lub zog hnub so tsis xis nyob.
Kev sib koom tes thiab kev ua yeeb yam tuaj yeem mus ua ke. Thawj theem ntawm Amodei txoj kev npaj tam sim no muaj ob lub chaw soj nstuam loj tshaj plaws tau tsa taub hau rau pej xeem. Hugging Face - yog, Hugging Face ntawd - tau thov koom nrog qhov kev pab cuam soj ntsuam thiab tau tshaj tawm qee yam hu ua Open Alignment Initiative. Kev pom tseeb los ntawm cov neeg uas tau raug hacked. Poetry, lossis taw qhia.
Teb chaws Europe, txawm nws tsim nyog npaum li cas los xij, tsis muaj leej twg thov kom muaj kev zam zoo li Asmeskas. Brussels tsis tau muab kev zam rau ib tus neeg ntev dhau los lawm. Yog li kev sib tuav tes yog Asmeskas. Tus so ntawm daim ntawv qhia yog ... shrugging.
OpenAI tsuas xav yeej xwb
Cov kws lej tsis nyob hauv lub siab zoo siab tom qab hnub so ntawm kev xam phaj. OpenAI's Navier-Stokes sprint - kwv yees li kaum txhiab tus neeg sawv cev, kaum lab daus las ntawm kev suav, yim caum yim teev - zoo li kev yos hav zoov los ntawm sab hauv thaj teb. Cov kws lej xav tau kev nkag siab. Lub chaw kuaj mob, lawv hais tias, xav yeej.
Tristan Buckmaster hais rau lawv tias OpenAI muab kev suav tsis txwv thiab kev sau ntawv ib leeg yog tias nws tso nws tus neeg koom tes Anthropic. Nws hu nws ua kev nyiaj xiab. Nws hais tias tsis yog. OpenAI hais tias, categorically, nws cov lus qhia Codex tsis tuaj yeem cuam tshuam rau lub kaw lus. Nws tsis ntseeg. Andreas Thom tseem xav paub seb ChatGPT sib tham txog nws tus kheej txoj haujlwm puas pub tus qauv uas tom qab ntawd tau tsim rau nws. Tsuas yog lub tuam txhab thiaj li paub. Nws xav tias lawv tsis paub txawm tias.
Thiab ces qhov kicker: OpenAI hais tias nws twb tau ua tiav ntau yam ntawm lwm qhov teeb meem Millennium Prize. Qhov twg tseem tsis tau muab npe. Clay tseem xav tau lub sijhawm ntev los ntawm zej zog. Yog li tsis muaj leej twg "yeej" tseem. Lawv nyuam qhuav sib tw rau qhov tom ntej. Zoo nkauj heev.
Cov Lus Nug Feem Ntau
Dario Amodei, CEO ntawm Anthropic, npaj siab li cas los pab txhawb kev txhim kho AI?
Amodei tau luam tawm ib tsab ntawv ntev thov kom kev lag luam qeeb qeeb - tsis yog nres - vim tias kev txhim kho tus kheej rov ua dua sai dua li cov neeg tshuaj xyuas tuaj yeem ua raws. Kauj ruam ib yog caw cov neeg soj ntsuam uas tau koom nrog rau hauv Anthropic nrog cov cim, cov rooj, cov laptops, thiab txoj cai tshaj tawm cov ntsiab lus yam tsis muaj PR lim. Tom qab ntawd nws xav kom cov chaw soj ntsuam kev ywj pheej los sib koom tes cov qauv kev nyab xeeb thiab, thaum kawg, qee hom kev sib tham nrog tsoomfwv authoritarian. Nws kuj xav kom muaj kev zam txim rau kev tiv thaiv kev sib tw kom cov lus sib tham txog kev nyab xeeb tsis yog teeb meem kev cai lij choj.
Vim li cas Sam Altman thiaj hais tias OpenAI yuav tsis IPO xyoo no?
Hauv kev xam phaj tshwj xeeb, Altman tau hais tias IPO tam sim no yuav yog lub sijhawm tsis zoo vim tias kev ua haujlwm kev nyab xeeb, kev sib haum xeeb, thiab kev npaj txhij rau zej zog tseem tsis tau ua tiav. Thaum raug nias, nws tau lees tias nws yuav tsis yog xyoo no txawm tias cov neeg ua haujlwm hauv tsev txhab nyiaj tau ncig thiab muaj cov ntaub ntawv zais cia. Nws tau sib cav tias cov qauv tsis muaj txiaj ntsig / rau kev ua lag luam muaj nyob rau hauv OpenAI tuaj yeem ua cov lus hu uas tsis pom tseeb hauv cov tswv cuab. Nws kuj tau hais tias kev tsim AI dhau ntawm tib neeg tswj hwm yog qhov ua tau thiab cog lus tias nws yuav ncua kev cob qhia yog tias qhov ntawd yog txoj hauv kev.
Puas yog Altman tau hais txog kev sib cog lus kev nyab xeeb nrog lwm lub chaw soj nstuam AI?
Hauv kev xam phaj tib yam, Altman tau hais tias nws xav tias yuav muaj kev sib tham nrog cov phooj ywg xws li Amodei, Musk, thiab Demis Hassabis, thaum tsis kam tshaj tawm ua ntej kev sib tham ntiag tug. Nws tau sib cav tias kev pheej hmoo loj heev ob npaug tsis yog qhov lees txais thiab cov qauv uas tseem tsis tau tso tawm twb muaj peev xwm ua rau kev thawb mus ntxiv yam tsis muaj kev saib xyuas zoo dua zoo li tsis saib xyuas. Cov neeg ua haujlwm twb tau hnov ib qho version ntawm qhov no sab hauv, yog li cov lus pom pej xeem yuav saib ua ntej kev sib koom tes es tsis yog lees paub qhov kev pom zoo tiav.
Puas yog OpenAI yuav phim Anthropic cov lus cog tseg embedded-evaluator?
Ob peb teev tom qab Amodei tsab ntawv sau, Altman tau tshaj tawm tias OpenAI yuav phim cov lus cog tseg ntawm tus neeg soj ntsuam nrog kev nkag mus zoo li cov neeg ua haujlwm thiab cov ntsiab lus ntxiv sai sai no. Elon Musk tau sau tias Dario hais yog lawm, muab peb tus thawj coj sib tw rau ntawm cov lus hais zoo sib xws. Hugging Face tau thov koom nrog qhov kev pab cuam soj ntsuam thiab tau tshaj tawm Open Alignment Initiative. Tebchaws Europe tsis tuaj yeem muab tib yam kev zam kev tiv thaiv kev lag luam zoo li Asmeskas uas Amodei tau hais, yog li kev sib tuav tes feem ntau yog Asmeskas rau tam sim no.
Vim li cas cov kws lej thiaj thuam OpenAI's Navier-Stokes sprint?
Cov kws lej piav qhia txog OpenAI tus neeg sawv cev kwv yees li kaum txhiab tus, yim caum yim teev Navier-Stokes khiav ua kev nrhiav khoom plig uas muab qhov tseem ceeb rau kev yeej dua li kev nkag siab. Tristan Buckmaster tau hais tias OpenAI muab kev suav tsis txwv thiab kev sau ntawv ib leeg yog tias nws tso tus neeg koom tes Anthropic; nws hu nws ua kev nyiaj txiag thiab tsis kam. OpenAI hais tias nws cov lus qhia Codex tsis tuaj yeem cuam tshuam rau lub kaw lus, tab sis nws tseem tsis ntseeg. Andreas Thom tseem tab tom nias seb ChatGPT sib tham txog nws tus kheej txoj haujlwm puas pub rau kev nce qib ntawm tus qauv tom qab.
Puas yog OpenAI tau thov kev vam meej ntawm lwm qhov teeb meem Millennium Prize?
OpenAI hais tias nws twb tau ua tiav ntau yam hauv lwm qhov teeb meem Millennium Prize, tab sis nws yuav tsis qhia lub npe twg. Lub koom haum Clay Mathematics tseem xav tau lub sijhawm ntev los ntawm zej zog, yog li tsis muaj leej twg yeej tau. Hauv thaj teb, qhov kev zais cia ntawd ntxiv rau qhov kev sib tw Navier-Stokes ua ntej nyeem raws li cov chaw kuaj mob twb khiav lub khob tom ntej. The Verge xam phaj qhia txog kev ntxhov siab thaum cov kws lej xav tau kev nkag siab thaum OpenAI xav yeej.