💰 Sequoia maj mam dhia mus rau hauv Anthropic lub mega-round ↗
Sequoia - twb koom nrog ntau lub chaw soj nstuam AI loj - tau tshaj tawm tias koom nrog kev nce nyiaj hli loj heev. Nws yog hom kev txav uas tig tag nrho "kev tsis sib haum xeeb, tsis muaj kev tsis sib haum xeeb" mus rau qib siab dua, txawm tias leej twg lees txais nws lossis tsis lees txais.
Qhov kev sib tw no tau hais tias yuav suav nrog lwm cov kev kuaj hnyav, thawb Anthropic mus rau hauv txoj kab saum toj kawg nkaus, txoj kab ntsuas loj heev. Cov suab nrov nrov nyob ntev. Qhov no kuj tseem yuav yog qhov qub tshiab, ua rau chim siab.
📢 ChatGPT pib flirting nrog cov tshaj tawm - rau qhov tseeb lub sijhawm no ↗
Lawv hais tias OpenAI tab tom sim cov tshaj tawm rau qee tus neeg siv hauv Tebchaws Meskas ntawm cov theem qis dua, nrog rau cov theem them nyiaj siab dua yuav tsis muaj kev tshaj tawm. Cov lus cog tseg yog tias cov tshaj tawm yuav tsis cuam tshuam rau cov lus teb - ua rau muaj kev ntseeg siab hauv kev xav, txawm tias qhov kev ntseeg siab ua rau muaj kev cuam tshuam me ntsis.
Lub ntsiab lus loj dua yog yooj yim: kev xav yog kim heev, thiab kev them nqi ib leeg yuav tsis them txhua yam mus ib txhis ... lossis zoo li nws zoo li. Txawm li cas los xij, thawj zaug koj pom "txhawb nqa" nyob ze ntawm chatbot, qee yam hloov pauv hauv koj lub taub hau. Qhov chaw hloov pauv.
📚 Cov neeg luam tawm sim ua kom Google cov kev foob txog kev cob qhia AI ↗
Ib pawg neeg tshaj tawm xov xwm tab tom sim koom nrog kev foob uas liam tias Google siv cov haujlwm muaj cai los cob qhia nws cov txheej txheem AI. Qhov kev sib ntaus sib tua raws li txoj cai no txuas ntxiv mus, zoo li qhov tawg hauv dej khov uas koj pheej hnov tab sis tsis tuaj yeem nrhiav tau.
Yog tias lub tsev hais plaub tso cai rau lawv nkag mus, rooj plaub yuav ua rau muaj kev sib cav txog "kev tso cai" thiab "kev them nyiaj" txhais li cas rau cov ntaub ntawv kev cob qhia. Txhua tus neeg xav tau ib qho piv txwv - qhov zoo tshaj plaws yog ib qho uas nyiam lawv, pom tseeb.
🕳️ Ib qho kev dag ntxias "txhaj tshuaj sai sai" tau tshaj tawm tias ua rau Gemini ntxhov siab los ntawm cov ntaub ntawv sib ntsib ↗
Cov kws tshawb nrhiav tau piav qhia txog kev tawm tsam "indirect prompt injection" uas cov lus qhia phem zais rau hauv cov ntsiab lus zoo li qub, tom qab ntawd tus pabcuam ua raws li lawv tom qab thaum tus neeg siv nug qee yam tsis muaj txim. Tsis muaj malware, tsis muaj khawv koob - tsuas yog cov ntawv sau ua riam phom, zoo nkauj heev thiab kuj zoo li qias neeg.
Nws yog ib qho kev ceeb toom tias "LLM nyeem cov ntawv tsis ntseeg siab" tsis yog ib qho feature zoo nkauj - nws yog ib qho kev hem thawj tag nrho. Zoo li cia cov neeg txawv teb chaws muab cov ntawv sau rau hauv koj lub hnab ris txhua hnub, tom qab ntawd ua txuj xav tsis thoob thaum ib tug ntawm lawv yog lub ntxiab.
🎮 Razer tus CEO hais tias cov neeg ua si "twb nyiam AI lawm" - lawv tsuas yog ntxub lub npe ↗
Razer cov lus tham hauv CES tau hais txog AI ua ib qho cuab yeej siv tau rau kev ua si dev workflows - QA, iteration, yam ntawd - ntxiv rau qee cov tswv yim pabcuam uas xav tias ib nrab pab tau, ib nrab sci-fi prop.
Lawv kuj lees paub qhov teeb meem ntawm kev tsim hom lag luam: cov neeg ua si tsis xav tau "AI slop," tab sis lawv xav tau cov cuab yeej ntse dua thiab kev paub zoo dua. Hu nws "pab" thiab tib neeg luag ntsej muag. Hu nws "AI" thiab tib neeg ncav cuag rau lub pitchforks ... qee zaum.
⚖️ Lub tsev hais plaub tso cai rau cov kws lij choj siv cov AI tsim tawm ↗
Ib daim ntawv qhia los ntawm lub tsev hais plaub uas hais tias: siv genAI - tab sis koj tseem yog tus tswv ntawm txoj haujlwm. Koj tsis tuaj yeem xa koj qhov kev txiav txim siab mus rau lub tshuab tsim ntawv thiab tom qab ntawd ua txuj xav tsis thoob thaum nws tsim ib yam dab tsi.
Qhov nthuav yog tias, kev tshaj tawm tsis tas yuav tsum muaj tsuas yog tus kws txiav txim hais kom ua xwb - tab sis cov lus qhia txog kev lav ris yog lub hauv paus tseem ceeb ntawm nws. AI tuaj yeem sau ntawv thiab kho kom zoo nkauj ... thiab tseem ua rau neeg xav tsis thoob zoo li tus neeg kawm ua haujlwm uas ntseeg siab dhau thiab nyiam nyeem ntawv.
Cov Lus Nug Feem Ntau
Sequoia koom nrog Anthropic lub mega-round txhais li cas rau kev nqis peev AI thiab kev tsis sib haum xeeb?
Nws qhia tias cov tub ua lag luam loj yuav txuas ntxiv txhawb nqa ntau lub chaw soj nstuam AI saum toj kawg nkaus ib zaug, uas kwv yees tau tias yuav ua rau muaj kev sib cav "kev tsis sib haum xeeb, tsis muaj kev tsis sib haum xeeb". Thaum tib lub peev nyiaj sib koom ua ke thoob plaws ntau lub chaw soj nstuam, tib neeg pib tshuaj xyuas cov nyiaj txhawb siab, kev nkag mus, thiab kev sib tw. Daim ntawv tshaj tawm mega-round kuj qhia txog kev hloov mus rau kev kuaj xyuas loj heev thiab kev ntsuas tus nqi siab, txawm tias "kev vibes npuas" tseem dai hauv huab cua.
Puas yog ChatGPT tau txais cov tshaj tawm ntawm cov theem pub dawb lossis qis dua, thiab lawv puas yuav cuam tshuam rau cov lus teb?
Daim ntawv tshaj tawm hais tias OpenAI tab tom sim cov tshaj tawm rau qee tus neeg siv hauv Tebchaws Meskas ntawm cov theem qis dua, thaum cov theem them nyiaj siab dua tseem tsis muaj kev tshaj tawm. Nws kuj hais tias cov tshaj tawm yuav tsis cuam tshuam rau cov lus teb, uas zoo li ua rau muaj kev ntseeg siab ntawm daim ntawv tab sis tseem tuaj yeem hloov pauv qhov uas tib neeg pom kev ntseeg siab. Lub ntsiab lus tseem ceeb yog kev lag luam: kev xaus lus kim heev, thiab kev them nqi yuav tsis them txhua yam mus ib txhis.
Vim li cas cov tshaj tawm thiaj sim koom nrog Google txoj kev foob kev cob qhia AI?
Ib pawg neeg tshaj tawm xov xwm tab tom nrhiav kev koom nrog kev foob uas liam tias Google siv cov haujlwm muaj cai los cob qhia AI. Yog tias lub tsev hais plaub tso cai rau lawv nkag mus, rooj plaub yuav ua kom meej dua txog qhov "kev tso cai" thiab "kev them nyiaj" yuav tsum zoo li cas rau cov ntaub ntawv cob qhia. Ntau tog neeg feem ntau txhais tau tias muaj kev nyuaj siab ntau dua rau qhov ua piv txwv meej - tshwj xeeb tshaj yog txog leej twg tau txais nyiaj, thiab nyob rau hauv cov xwm txheej twg.
Kev tawm tsam "indirect prompt injection" yog dab tsi, thiab vim li cas nws thiaj li yog ib qho tseem ceeb hauv xov xwm thev naus laus zis AI?
Nws yog ib qho kev tawm tsam uas cov lus qhia phem raug zais rau hauv cov ntsiab lus zoo li qub, thiab tus pabcuam ua raws li lawv tom qab thaum tus neeg siv ua qhov kev thov tsis muaj kev txhaum. Qhov teeb meem tseem ceeb yog tias tus qauv nyeem cov ntawv tsis ntseeg siab, tig cov ntaub ntawv niaj hnub thiab cov lus mus rau hauv qhov chaw hem thawj. Nws yog qhov txaus nyiam vim tias nws tuaj yeem ua haujlwm yam tsis muaj malware ib txwm muaj - tsuas yog cov lus riam phom uas muab tso rau hauv cov ntsiab lus.
Vim li cas cov neeg ua si tsis nyiam lub npe "AI" tab sis tseem xav tau cov cuab yeej AI?
Tus Thawj Coj ntawm Razer sib cav tias cov neeg ua si twb nyiam cov txiaj ntsig zoo - QA sai dua, kev ua haujlwm du dua, thiab cov neeg pab ua haujlwm - tab sis tsis zoo rau lub npe. Qhov kev txhawj xeeb feem ntau yog "AI slop," lossis cov ntsiab lus uas xav tias tsis muaj zog thiab tsis muaj tseeb. Kev hloov kho nws ua "kev pab" lossis cov yam ntxwv siv tau tuaj yeem ua rau nws zoo li lub cuab yeej uas txhim kho qhov kev paub dua li hloov kev muaj tswv yim.
Cov cai ntawm lub tsev hais plaub txhais li cas rau cov kws lij choj siv cov cuab yeej AI, thiab lawv puas yuav tsum qhia nws?
Cov lus qhia piav qhia yog qhov yooj yim: cov kws lij choj tuaj yeem siv cov cuab yeej AI tsim tau, tab sis lawv tseem yog tus saib xyuas txoj haujlwm thiab tsis tuaj yeem xa cov kev txiav txim siab tshaj lij mus rau tus tsim ntawv. Qhov kev pheej hmoo yog kev pom tsis tseeb - kev ntseeg siab tsim cov lus tseeb lossis cov lus hais - yog li kev txheeb xyuas thiab kev lav ris tseem nyob hauv nruab nrab. Kev tshaj tawm tsis tas yuav tsum muaj tshwj tsis yog tus kws txiav txim plaub nug, tab sis cov lus tseem yog: koj yog tus tswv ntawm qhov tshwm sim.