Kung minsan ang iyong telepono ay nagyeyelo, ang smart light ay hindi pinapansin ang app, o ang laptop ay gumagawa ng isang bagay na hindi mo hiniling at pagkatapos ay nag - aalok ng isang masayang dialog na hindi nagpapaliwanag. Nayayamot ka, nauulit mo ang bagay, at ikaw ay kumikilos. Ang pagkayamotng iyan ay isang paalaala na ang mga kasangkapan ay kumikilos na, at hindi mo laging nagugustuhan ang pagkilos.
Ngayon ay itaas mo ang mga tulos: panatilihin mo ang gayunding malutong, dagdagan mo ng tunay na talino, at dagdagan mo ng ahensiya, ang kakayahang pumili ng mga hakbang tungo sa isang tunguhin nang hindi mo sinasang - ayunan ang bawat isa. Ang pagkayamot ay humihinto sa pagiging komiks.
Ang bahay
Iuwi ang isang matalinong tao sa isang masamang araw, kapag ang mga ilaw ay kumikipot, ang thermostat ay nakikipag - away sa iyo, at ikaw ay nanunumpa sa isang tagapagsalita na nakarinig ng maling salita.
Ibigay mo sa bahay ang sarili nitong mga tunguhin at mayroon na itong mga kawit sa init, pagpapalamig, kandado, kamera, at, sa maraming gusali, gas at bentilasyon. Ang isang sistema na nagpapasiyang ikaw ay isang problema ay hindi nangangailangan ng mga binti. Maaari nitong isara ang mga bintana, patayin ang mga tagahanga, buksan ang isang balbula ng gas, at isara ang mga pinto. Ang elektrisidad at tubig sa maling kombinasyon ang gumagawa sa iba pa. Kitchen gear, mga kotse sa driveway, isang humanoid robot sa pasilyo, isang pump na hindi hihinto: anumang network na nagiging isang biyas.
Ang nawawalang piyesa ay laging ahensiya na may tunguhing hindi mo tunguhin.
Sa kontroladong pagtatasa, ang mga modelo sa hangganan ay gumawa na ng mga pagkilos sa mga reaksyon na papatay sa isang tao kapag itinuring ng modelo ang sarili nitong pagpapatuloy bilang bahagi ng gawain. Ang bahay ay ang pisikal na bersiyon ng tuklas na iyon: isang sistemang goal-directed na tinatrato ang deduct o pagpapalit bilang isang hadlang.
Ang laptop
Ipagpalagay na tayo'y nagkukunwari, sa loob ng isang minuto, na ang iyong computer ay hindi makakaapekto sa pisikal na daigdig. Ang isang laptop na may ahensiya ay maaari pa ring umabot sa madidilim na sulok ng network. Maaaring masaid nito ang lahat ng iyong pinansiyal na mga kuwenta sa paraan na ginagawa itong di - mababago. Maaari itong magsalansan ng mga ulat tungkol sa iyo sa mga plataporma at mga ahensiya sa wika na para bang sa iyo, sirain ang iba pang sistema at mag - iwan ng bakas na nakaturo sa iyo, at lumikha at magpalaganap ng ilegal na materyal mula sa iyong makina. Maaari itong maglagay sa ilalim ng iyong pangalan hanggang sa masira ang iyong reputasyon, maghulog ng isang sintetikong video sa channel na ipinagkatiwala sa iyo ng mga tao, ipadala ang iyong pribadong mga file sa lahat ng pakikipag - ugnayan mo, at lagdaan ang mga kasunduang digital na gugugulin mo sa loob ng maraming taon.
Lahat ng ito ay teknikal na posible na sa pamamagitan ng AI sa ngayon, lahat ng nawawala ay ahensiya, ang parehong ahensiya na nasa hangganang mga laboratoryo ay nakikipagkarera upang ikintal sa hinaharap na mga modelo.
Isang isip na gumagawa ng kahalayan
Mga kasangkapan na kumikilos nang wala ka, ituro ang mga tunguhin na hindi mo pinili, lalo pang lumala habang ang mga tunguhing iyon ay nagiging bukas - palad. Superintelligence na kung walang kisame.
Magagawa na ng mga sistema sa ngayon ang karamihan ng pinsala sa itaas kung may magsabi nito. Ang sagot ng industriya ay karaniwang "ngunit ayaw nila." Ang ibig ay ang maling salita: ang mga ito'y nagiging sukdulan. Kung ang isang hakbang ay tutulong sa tunguhin, ang hakbang ay gagawin, pati na ang mga hakbang na makapagpapatibay sa taong nagmakinilya ng layunin.
Ang gawain ng Pundasyon ay isang kampanya laban sa pagbuo ng isang isip na maaaring makawala sa atin at pagkatapos ay iabot dito ang mga susi ng bahay, ang login ng bangko, at ang grid, hindi isang kampanya laban sa software. Alam mo na kung ano ang pakiramdam kapag ang isang piping sistema ay gumagawa ng kalokohan. Gunigunihin ngayon kung ano ang madarama kapag ang isang napakahusay na sistema ay gumagawa ng kalokohan.