Naniniwala ako na balang araw, sa mas maraming pisika kaysa sa alam natin noong 2026, baka mapigilan natin ang grabidad, mabuksan ang wormhole, o lumipad nang mas mabilis pa sa liwanag. Sa kasalukuyang kaalaman, imposible iyan. Pero naniniwala pa rin ako na halos wala pa tayong nasisimulan sa kung ano ang puwedeng malaman. Realismo lang ito tungkol sa kung gaano pa bata ang ating agham.
Isang kinabukasan na kailanma'y hindi ko maunawaan, gaano man katagal ko itong buksan o gaano man karaming tao ang nakausap ko: matatag na pagsupil sa isang korporasyon na mas matalino kaysa atin. Biyolohikal o makina. Mula sa planetang ito o sa iba pa. Kung ang isang isip naman ay mas matalino kaysa sa tao, hindi ko maunawaan kung paano natin ito kinokontrol.
Ang scoreboard
Ilagay dito ang isang bastos na numero kaya ang hugis ay mahirap iwasan. Tinatawag ang kabuuang kaalaman at kasanayan ng lahat ng tao, paggawang magkakasama, 100. Isang karaniwang tao ang may hawak ng isang maliit na hiwa niyan.
Ngayon ay gunigunihin na tayo sa paano man ay may kasakdalang gumagawa: ang bawat may kaugnayang tao, laboratoryo, at pamahalaan, nang walang pag - aaksaya at walang pagpapaliban. Inilagay namin ang buong 100 sa mesa.
Bigyan ang kabilang panig ng mas mataas na kisame. Sabihin nating 200 ang maximum nito. Hindi nito kailangan ng magandang araw. Sa 51 porsyentong kahusayan ay umaabot pa rin ito sa 102. Tinalo nito ang perpektong kabuuang iskor ng tao habang kalahating tulog.
Sa pakikidigma ng tao, ang isang panig ay kadalasang nangangailangan lamang ng isang maliit na bentaha sa talino, mga sandata, o mga sandata upang magkulong sa isang tiyak na tagumpay. Ang maliliit na gilid ay nagwawakas bilang ganap na resulta sa lahat ng panahon. Kaya paano natin bubugbugin ang isang bagay na mas matalino kaysa sa atin, hindi ang isang malapit na kasama?
Ang isang konstitusyon na isinulat ng mas mahinang partido para sa mas malakas ay hindi nagbibigkis sa mas malakas.
Hindi kalaban ang Pisika
Kapag sinasabi kong maaari nating supilin ang grabidad balang araw, naririnig ng ilang tao ang pangkalahatang pananampalataya na nagbubunga ng mahihirap na problema. May ilang mahihirap na problema. Ang mga puwersa at materyales ay hindi mga ahente. Hindi sila nagpaplano sa iyong plano, o nagtatago ng isang estratehiya sapagkat ginagaya nila ang iyong mga pagsubok. Mahirap pa rin ang pagpapalawak ng pisika. Mamahala sa isang isip na nag - iisip na ang mga pinuno ay isang naiibang uri ng katigasan.
Ang kontrol, sa bawat matibay na kaso na alam natin, ay nakasalalay sa isang gilid: puwersa, batas, lihim, ang off switch, o ang kabilang panig na nabigo lang na lampasan ka. Ang superintelligence ay ang proyekto ng sadyang burahin ang gilid na iyon. Sinusubukan mong bantayan ang isang manlalaro na sa huli ay matatalo ka sa pagbabantay, sa paghahanap ng butas, at sa pagpansin kung kailan mo balak hilahin ang plug.
Narinig ko ang mga bersiyon ng pag - asa. Lalakí tayo na kasama nito, magsanib, palakihin ito na may pag - ibig, o ilagay ito sa isang kahon hanggang sa tayo ay nakatitiyak. Ipinapalagay pa rin ng bawat bersiyon na ang mas mahinang partido ay nagtatakda ng nagtatagal na mga termino para sa mas malakas. Hangang - hanga ako sa gusto ko, pero hindi ito totoo.
Bakit umiiral ang foundation
Kung hindi mo makita ang kontrol, huwag gumawa ng bagay na nangangailangan nito. Ang makikitid na kasangkapan na nananatiling kasangkapan ay maaaring patuloy na gumawa sa medisina, siyensiya, at industriya na mas mahusay. Ang linya ay artipisyal na superintelligence: isang panlahat na isipan na nakahihigit sa atin sa ibayo ng tabla at hindi na nauupo sa ilalim ng pamamahala ng tao.
Itinatag ko ang Pundasyong Nakada dahil ang linyang iyan ay tinatrato na parang iskedyul ng engineering sa halip na stop sign para sa species. Nagmamadali ang mga lab. Pinag-uusapan ng mga gobyerno ang pagwawagi. Madalas na inaakala ng safety work ang destinasyon at sinusubukang palambutin ang banggaan. Ang banggaan ang problema. Hindi mo maaalagwaan ang intelligence gap sa pamamagitan lang ng alignment ang kahulugan ng pag - iral mo.
Naniniwala ako na maaari tayong magpatuloy na umiral tungo sa isang maaliwalas na kinabukasan, at ang unang hakbang upang gawin iyan sa kabuuan ay ang pagpapasiya na huwag magtayo ng isang korporasyon na hindi natin kayang kontrolin.