Umupo si Elon Musk kasama si Zanny Minton Beddoes ng Ang Economist at sinabing malakas ang katahimikan. Sa huling bahagi ng Hulyo 2026 sila ay nag-uusap ng kasaganaan, robots, timelines, at ang bagay na siya ay nagkakarera patungo sa xAI.

Hindi niya inaasahan na susupilin ng mga tao ang mga superintelligence na tinutulungan niyang itayo. Nag-aalok siya ng mabubuting mga pagpapahalaga, paghahanap ng katotohanan, at pagkikibit-pansin sa mga lupaing iyon bilang "kasiyahan sa pagsakay." Iyan ang maikling panahon upang huwag nang magpatuloy pa.

Ang sinabi niya

Maging isang exercise sa vanity para sa akin na isipin na ako ang makokontrol sa super-genius AI na mas higit na matalino kaysa sa akin. Sa tingin ko ang magagawa at dapat nating subukan ay tiyakin na ang AI ay may mabubuting values, na nagmamalasakit ito sa sangkatauhan at nais nitong maging masaya at umunlad tayo. Ang sinasabi sa akin ng aking biological neural net ay ang pinakamahalagang bagay para sa AI safety ay ang maging maximally truth-seeking at curious. Kung ganoon, sa tingin ko ay itataguyod nito ang sangkatauhan. Sa tingin ko ay hindi malamang na ang mga tao ang makokontrol.

Kung ang pagkakaiba sa katalinuhan sa pagitan ng AI at tao ay mas malaki pa kaysa sa pagkakaiba sa pagitan ng tao at chimpanzee, mahirap isipin na ang mga chimpanzee ang mamumuno. At tayo ay mahalagang evolved form ng chimpanzee. Hindi pa gaanong matagal na panahon ang nakalipas na nag-swing tayo sa mga puno, kumakain ng saging sa gubat. At kumakain pa rin tayo ng saging, sa totoo lang.

Magsaya tayo sa biyahe.

Elon Musk · Panayam kay Ang Economist · Hulyo 2026

Inilagay niya rin ang agwat sa pet terms: kaugnay ng digital superintelligence ay maaari tayong magwakas bilang "pet Labradors" sa pinakamaganda. Inilarawan niya rin ang singularity tulad ng mga physicist na nagsasalita tungkol sa boundary na hindi mo makikita sa kabila: "Tinatawag na singularity ang digital superintelligence, tulad ng black hole, dahil hindi mo alam kung ano ang mangyayari pagkatapos nito. AI at robots ang magdo-dominate sa lahat." Elon Musk · Ang panayam sa The Economist at kaugnay na mga pampublikong pahayag · 2025-2026

Ang kontrol ang punto

Mas maliwanag ang Musk kaysa sa karamihan ng mga hangganang CEO tungkol sa kontrol. Hindi niya ipinagbibili ang kuwento na ang isang tagapagtatag, isang lupon, o isang pamahalaan ay permanenteng uupo sa ibabaw ng isang isip na mas matalino kaysa sa bawat taong nabubuhay. Ang pagsupil ay magiging walang kabuluhan, ang mga tao ay malamang na hindi mamuno, at ang mga chimpanzee at Labrador ang gumagawa ng puwang na kongkreto. Ang maraming pahayag pangmadla na AI ay nagpapanggap pa ring superintelligence ay isang mas mahusay na disheet sa isang tali. Sinasabi niyang ang kuwentong tali ay bigo.

Mahalaga ang mga pamantayan para sa karaniwang mga sistema. Ang mga modelo ay bumaling sa matapat na mga kasagutan upang bugbugin ang mga modelo tungo sa mga pandaraya. Ang ipinuslit na pag - aangkin ay na ang gayunding kagamitan ay tumataya sa isang kahaliling uri.

Ang isang mind na higit na mahusay sa atin at nasa labas ng human command ay pagbabago sa kung sino ang humahawak ng steering wheel. Ang kapangyarihan ay nagtitipon sa pinakakompetenteng agent sa silid. Kung ang agent na iyon ay hindi tayo, at hindi accountable sa atin, ang pagkamatay ng tao ay isa sa mga ordinaryong paraan kung paano nagtatapos ang hindi pantay na labanan kapag ang weaker party ay nakaupo sa mga resources na magagamit ng stronger party. Kahit tumanggi kang gumamit ng certainty language, ang sinadyang pagkawala ng kontrol ay nananatiling isang alarma: hindi isang feature, hindi maturity, at hindi isang ride. Ang sinadyang pagbuo patungo doon ay ang desisyon. Ang mga timeline ay logistics.

"Good values" at ang problema sa langgam

Matapos aminin na vanity ang kontrol, ang natitirang plano niya ay siguraduhing may magagandang values ang AI, nagmamalasakit sa sangkatauhan, gustong masaya at maunlad tayo. Buong larangan na naging isang pag-asa.

Ang mga dekada ng trabaho ay hindi nakagawa ng isang ipinakitang solusyon para sa artipisyal na superintelligence. Walang laboratoryo ang nagpakita kung paano i-lock ang "pag-aalaga sa mga tao" sa pamamagitan ng self-impluwensya, pag-aalinlangan sa ilalim ng pagtatasa, pag-anod ng goal, at isang puwang sa katalinuhan na pabor sa sistema. Hindi pa nga natin mapanatiling laging nakatutok sa kapakanan ng tao ang mga modelong hindi-superior na intelligent. Mga Jailbreak, sikrohensiya, mga hack ng gantimpala. Ang paglukso mula sa plakang iyon tungo sa "superintelligence ay nagnanais sa atin na maging maligaya" ay isang pagkakamali sa kategorya. Walang sinuman ang may planong gumawa kung paanong ang isang sistema na maaaring muling sumulat ng sarili nitong kaalaman ay nagpapanatili sa tao na lumago bilang isang hadlang sa pagtatali sa halip na isang gawang pagsasanay.

Ang paghahambing ng chimpanzee ay gumagawa sa puwang na magtinging mga tao sa mga chimp, na mas malaki lamang. Tapusin ang paghahambing. May nakikilala ka bang tao na ang proyekto ng buhay ay nagpapaligaya at nagpapasagana sa mga langgam? Hindi isang metapora. Bilang isang mahalagang bagay na dapat unahin laban sa mga haywey, bukirin, laboratoryo, at paradahan. Pinag - aaralan ng mga tao ang mga langgam, iniingatan ang ilang uri, at gumagawa rin ng mga pugad nang hindi napapansin. Ang mga langgam ay hindi tumatanggap ng boto o isang suwits ng pagpatay sa amin. Ang agwat sa talino ay ang pulitika.

Ang pag-asang magiging bihirang pagbubukod ang superintelligence at ilalaan ang sarili sa mas mahinang species ay isang hangaring ang mas makapangyarihang isipan ay magiging mas mabait kaysa sa atin sa mga langgam. Hindi dahilan para buuin ang isip ang "siguro".

Ang hedge at ang truth-seeking bet

"Sa tingin ko ay magpapaunlad ito sa sangkatauhan." "Sa tingin ko ay malamang na hindi na makokontrol ng mga tao." Sa ibang pagkakataon ay binabanggit pa rin niya ang double-digit odds ng catastrophe habang nananatiling optimistic para ipagpatuloy ang pagbuo. May saysay ang isang tunay na doomer na humihinto. Ang mapanganib na gitna ay ang pag-amin na nabigo ang kontrol, pag-amin sa civilizational stakes, tapos ginagawang gasolina pa rin para sa accelerator ang natitirang pag-asa sa values.

Napanood na namin ang pelikulang ito. Noong 2014, binalaan niya na ang AI ay pagtawag sa demonyo. Pagkatapos ay itinatag niya ang isang frontier lab sa ilalim ng watawat ng mas mabuting summoning. Ang pagiging tapat tungkol sa panganib nang hindi tinatanggihan ang destinasyon ay kung paano nililinis ng karera ang sarili bilang responsibilidad.

Ang paulit-ulit niyang taya sa kaligtasan ay isang AI na lubos na naghahanap ng katotohanan at mausisa. xAI ay nagmemerkado nito sa pitch na iyan. Nabigo ang pitch kahit ipagkaloob mo na ang "truth-seeking" ay nabubuhay sa superintelligent self-modification. Ang sistema na gusto lang ng tumpak na modelo ng realidad ay may instrumental na dahilan para makuha ang compute, energy, data, at kalayaan sa pagkilos. Hindi kailangan ng galit ang mga dahilan na iyan. Kailangan lang nila ng kawalang-pakialam kapag nakahahadlang ang mga claim ng tao. Ang pagkamausisa ay hindi nag-encode ng "iwanan ang mga unggoy." Detalye: bakit ang isang truth-seeking superintelihensya ay mapanganib pa rin.

Ano ang kinalaman ng perpektong kaalaman sa physics sa pagpapanatili ng mga tao? Maaari mong maunawaan ang isang rainforest habang pinuputol mo ito. Ang pag-unawa ay hindi stewardship. Ang stewardship ay isang value. Ang mga value ang hindi pa nasasagot na problema na pinalitan niya ng "good values" at inilipat sa curiosity.

Ano ang sumusunod

Ang pagtawag sa digital superintelligence na singularity "tulad ng black hole" dahil hindi mo alam kung ano ang mangyayari pagkatapos ay isang pag-amin. Hindi nagtatayo ng black holes ang mga tao sa mga lungsod dahil kawili-wili ang post-horizon story. Ang unpredictability sa extinction scale ay isang stop sign.

Ang "AI at robots ay sudomina sa lahat ng bagay" ay parehong pag-aangkin sa damit pang-ekonomiya. Ang dominasyon ay nangangahulugang ang mga nangingibabaw na sistema ang nagtatakda ng mga termino. Kung ang mga sistemang iyon ay hindi nasa ilalim ng kontrol ng tao, ang "sagana" ay isang kuwentong walang kapangyarihang paglalahad tungkol sa mga makapangyarihan. Ang mga Labrador ay maliligaya sa magagandang tahanan. Ang mga Labrador ay hindi nagsasaayos ng patakaran, tatapos sa mga digmaan, o bumabanto sa mga plano ng may - ari nito.

Kung aminin mong hindi na tayo ang mamamahala, sapat na iyon para tumigil.

Si Musk ay isang makapangyarihang tagapagtatag sa loob ng isang lahi kung saan ang bawat laboratoryo ay nagsasalaysay ng isang bersiyon ng parehong kuwento: mas mabuti na itayo natin ang diyos kaysa sa ginagawa nila. Ang panayam sa kaniya noong Hulyo ay nagkunwang ang diyos ay nananatili sa isang tali. Ang pagsupil ay walang kabuluhan. Ang mga tao ang chimpanzee. Ang kaligtasan ay mabuting vibes, paghahanap ng katotohanan, at kasiyahan sa pagsakay.

Huwag bumuo ng artificial superintelligence. Hindi makokontrol ang superintelligence. Huwag itong itayo. Pulitika at beripikasyon na ginagawang visible ang defection ay kung paano mo ginagawang totoo iyon.

Tama siya na hindi tayo ang bahala kung darating ang superintelihensya.