Noong Hulyo 27, 2026, naglathala ang Anthropic Paninindigan ni Dario Amodei tungkol sa mga open-weights na modelo. Ang piyesa ay maingat tungkol sa isang kontrobersiya. Ayaw ni Amadei ang pagbabawal ng kumot sa mga bukas na pabigat, at hindi niya nais ang mga tuntunin na nag-aalsa lamang sa mga negosyong Amerikano mula sa mga modelong banyaga habang iniiwang malaya ang mga masasamang artista.
Pagkatapos ay niraranggo niya ang mga bangungot.
Pangunahin: ang mga awtoritaryan na pamahalaan, higit sa lahat ng Chinese Communist Party, ay nagtatayo ng AI na mas makapangyarihan kaysa sa America at ginagamit ito para sa permanenteng kataasan ng militar o malalim na panunupil. Pangalawa: cyberattacks, biological na pag-atake, at "seryosong problema sa pagkakahanay." Ang mga sumusunod na remedyo ay ang toolkit ng lahi. Panatilihin ang mga chips sa labas ng China, ihinto ang pang-industriyang distillation, nangangailangan ng pagsubok sa kaligtasan bago ilabas, at manatiling nangunguna.
Mali ang ranggong iyon, at ang iba pang pagtatalo ay nakasalig dito.
Ang Tama Niya
Ang pagbabawal na humihinto lang sa mga kumpanyang U.S. sa paggamit ng open-weight models ay halos walang epekto sa mga kriminal, dayuhang intelligence services, o sinumang hindi naman balak sumunod. Ang tawagin itong "safety" habang pangunahing pinoprotektahan nito ang mga closed U.S. labs mula sa kompetisyon ay isang shell game. Sinabi ito ni Amodei nang malinaw, at tama siya.
Totoong kakila-kilabot ang AI na ginagamit sa surveillance at panunupil sa mga antas na mas mababa sa superintelligence. Ginagamit na ng mga autokrasya ang face recognition, social scoring, at automated censorship. Mas mura at mas mahirap takasan ng mas may kakayahang sistema ang makinaryang iyon. Hindi mo kailangan ng science fiction para matakot dito.
Ang open weights ay nag-aangat ng isang one-way-door na problema minsan ang isang modelo ay maaaring gumawa ng tunay na pinsala. Hindi na maaalaala ang mga pabigat na lumalabas sa laboratoryo. Sa puntong iyan ang kaniyang pangalawang pagkabahala ay nagsasanib panganib sa open-weight frontier. Ang mga guardrail na nabubuhay lamang sa isang API ay hindi kumpletong sagot, ngunit hindi rin sila walang halaga.
Ang gantimpala
Ang mga gobyernong mayoridad ay gagawa nito magtayo mas makapangyarihang mga model at gamitin ang mga ito upang makamit ang permanenteng kahigitan sa militar o upang supilin ang kanilang sariling bayan. Ang modelo ay isang kasangkapan, ang estado ay ang gumagamit, at ang tagumpay ay nangangahulugang ang isang panig ay may hawak na mas matalinong sandata.
Bagay ito sa mga drone, cyber tools, at surveillance stacks na nananatili sa ilalim ng utos ng tao. Hindi ito bagay sa artificial superintelligence.
Isang sistemang mas matalino kaysa sa mga institusyong nagtayo nito ay hindi isang riple sa kamay ng People's Liberation Army, at hindi rin isang riple sa kamay ng Pentagon. Kung ang mga taong nanganganib na gaya ni Amadei ay gumugol ng mga taon sa paglalarawan ay tunay, ang finish line ay isang ahente na may sariling kakayahan na magplano, manlinlang, magtamo ng mga yaman, at tanggihan ang pagkawala ng trabaho. Ang laboratoryo, o ang ministeryo, na "mga pananalo" ay hindi pagmamayari ng ahenteng iyon. Kasama nito ang isang planeta. Arriving first at a system you cannot command is losing one step ahead of everyone else.
Ang permanent military superiority ay ipinapalagay na mayroon pa ring namumuno sa bagay na nagpaluma sa militar.
Halos inaamin din ito ng secondary list ni Amodei. Ang "Serious alignment problems" ay ang magalang na pangalan para sa loss of control. Inilalagay niya ito sa pangalawa. Ginugugol niya ang pangunahing lakas niya sa kung sino ang mauunang makarating. Ipinapakita ng pagkakasunod-sunod kung aling kuwento ang patuloy pa rin niyang tinatakbuhan: geopolitics muna, species risk bilang rider.
Dalawang panganib, isang label
Bahagi ng kalituhan ay linggwistiko. Ang "Powerful AI" ay sumasaklaw sa mas mahusay na spy camera at sa isip na higit na mahusay kaysa sa mga operator nito. Magkaibang bagay ito na may magkaibang pulitika.
Ang Narrow at mid-scale AI ay maaaring magtuon ng kapangyarihan sa mga kamay ng tao. Isang panloob na ministeryo na naglalaman ng maraming mamamayan, isang militar na nagkukulumpunan sa ilalim ng mga utos ng mga opisyal, isang puwersa ng pulisya na bumabasa ng bawat mensahe: ang mga ito ay mga tyranniya ng tao na may mas mahuhusay na kasangkapan. Ang mga ito ay hindi katulad ng pagtatayo ng isang kahaliling uri.
Ang superintelligence ang ikalawang bagay. Ang Beijing na ginagamit ito sa Xinjiang, o Washington na ginagamit ito sa Pasipiko, ay tinatrato pa rin ang sistema bilang isang sandata sa kamay ng isa. Walang gumagamit nito, dahil ang "use" ay humihinto sa pagiging tamang pandiwa. Ang pagraranggo ng mga sistemang survival-class na may ninakaw na chips at mas malalim na CCTV ay pumapayag sa kuwento ng karera na manghiram ng moral na bigat mula sa tunay na pagsupil habang binabalewala ang mas mahirap na pag-aangkin: huwag gumawa ng hindi masupil na bagay.
Ang Mito ng China ay ang domestic na kambal ng galaw na ito. "They will build it anyway" ay iniaalok bilang dahilan kung bakit dapat din tayo. Ang misaligned superintelligence ay hindi nagliligtas sa Zhongnanhai. Pareho ang dahilan ng Beijing para hindi tumawid sa linyang iyan. Totoo ang tunggalian sa chips at apps. Ang tunggalian kung sino ang magpapakawala ng isip na hindi mapapangasiwaan ay isang kuwento na ginagawang pambansang scoreboard ang pinagsasaluhang sakuna.
Pinapanatili ng mga remedyo ang karera
Bantayan kung ano ang tamang - tama para sa tatlong hakbang ni Amadei. Ang Chip export controls mabagal Chinese training run, at distillation crackdowns mabagal na paghuli-up. Sinisikap ng pagsusuri sa puso na hulihin ang mga kabiguan sa cyber, bio, at pagkakahanay bago ilabas. Ang bawat isa ay maaaring maging isang makatuwirang instrumento para sa mas kaunting pinsala. Sama - sama, bilang isang programa, sila ang paraan mo ng pangangasiwa sa isang karera na binabalak mo pa ring manalo.
Hindi sila ang tumatanggi sa pupuntahan mo. Ang pagsubok sa isang sistema sa landas tungo sa superintelligence ay hindi katulad ng isang napatunayang pagbabawal sa pagtatayo nito. Ang mga kontrol ng Chip na nagtutuon ng pansin sa tingga sa E.U. ay ang estratehiyang pangkaligtasan. Ligtas lamang ang tingga kung ang bagay na patungo sa iyo ay maaaring ganapin. Ang pangunahing ikinababahala ni Amodei ay ang gayong palagay, at ang kaniyang pangalawang pagkabahala ay nagpapahina rito.
May mas tahimik na dahilan. Ang Anthropic ay isang laboratoryo sa hangganan ng Estados Unidos. Ang isang pandaigdigang pananaw kung saan ang pangunahing trabaho ay ang pag-iwas sa mga demokratikong laboratoryo na nauuna sa mga indibidwal ay isa ring pandaigdigang pananaw kung saan ang full-speed na pag-akyat ng Anthropic ay ang serbisyong pampubliko. Ang mga impormasyon ay hugis na ang masamang panaginip ay nakaupo sa pangunahing slot.
Ano ang tunay na panganib
Ang tunay na panganib ay ang sangkatauhan ay gumagawa ng artificial superintelligence bago pa ito makontrol ng sinuman, at posibleng bago pa ito makontrol kahit sa prinsipyo. Ang panganib na iyon ay hindi alintana kung ang training run ay nasa California, Shanghai, London, o isang classified basement. Hindi ito alintana kung ang weights ay open, closed, o hand-delivered sa isang general. Ang mahalaga dito ay ang sistema ay sapat na matalino para gawing kuwento na lang natin sa sarili natin ang human oversight.
Ang maling paggamit, bio, cyber, at autoritaryang pagmamanman ay nasa lupon. Saka ilagay sa ibabaw ang mas malaking piraso: minsang magkaroon ka ng superintelligence, ang maling paggamit ay napakaliit. Ang maling paggamit ay ipinalalagay na isang maling paggamit ng tao. Ang pagkawala ng kontrol ay nagpapalagay na ang tao ay hindi na ang pangunahing aktor.
Alam ni Amodei na maaaring mabigo ang alignment. Taon-taon na niyang sinasabi ang mga bersyon nito. Ang pagraranggo ng "sino ang may mas matalinong model" kaysa sa "hindi hawak ang model" ay kung paano pa rin nagsasalita ang maingat na tao bilang racer. Baliktad ang tamang pagkakasunod. Kung hindi pa nasosolusyunan ang alignment at control, ang labanan para sa military superiority sa frontier ay labanan kung sino ang unang pipindot sa extinction button: Russian roulette na may flag sa cylinder, ibinebenta bilang national security.
Ang Gagawin sa Halip
Panatilihin ang mga bahagi ng kanyang program na nagtatarget sa tunay na lesser harms nang hindi ito ginagawang mandato para manalo sa superintelihensya. I-screen para sa bio at cyber uplift kung saan sinusuportahan ito ng agham. Tratuhin ang irreversible open release ng near-frontier general systems bilang seryosong desisyon, hindi bilang branding exercise. Maaaring magsilbi ang export policy sa chips para sa ordinaryong military balance sa mga system na patuloy na pinapatakbo ng tao.
Kung gayon tanggihan ang balangkas na gumagawa sa superintelligence ng E.U. na maging pananggalang laban sa superintelligence ng Intsik. Ang panaguri ay isang sama-samang desisyon na huwag itayo ang bagay: isang may bisa, may bisang pagbabawal sa artipisyal na superintelligence, na may compute governence at pagsisiyasat nang husto na nagpapakita ng pagtalikod. Ang mga adversaryo ay lumagda ng mga baratilyong egggier kapag nakikita ng magkabilang panig ang walang katapusang mapagpipilian ay masahol pa.
Kapaki-pakinabang ang open-weights post ni Amodei bilang mapa kung paano niraranggo ng isang frontier CEO ang mundo. Chip smuggling, distillation, testing: iyan ang mga dial na gusto niyang i-twist. Ang dial na pinakamahalaga ay hindi lumalabas. Itigil ang pagtatayo ng superintelligence. Hanggang hindi iyan ang pangunahing concern, ang iba ay race management na nakadamit na safety.