Gadījumā, ja neesat saņēmis piezīmi par visu AI, kas pārņems visu pasauli, šeit ir daži fakti, kas jums jāzina.(Foto: Shan Sheehan / Flickr) Šogad pirmo reizi jebkad dators pārspēja pasaules čempionu Go - vienu no vissarežģītākajām spēlēm, kas zināmas cilvēkam. Tas bija vēl viens mākslīgā intelekta progresa ūdensšķirtne.
Lai dotu priekšstatu par Go sarežģītību, ir iespējamas 2.082 × 10 ^ 170 tāfeles konfigurācijas. Tas ir 2 ar 170 nullēm pēc tā. Iespējams, ka jūsu smadzenes pat nespēj iedomāties tik lielu skaitli (bet dators to var). Vai arī sniegt priekšstatu par to, cik liels ir skaitlis to tas ir, Visumā ir tikai 10 ^ 80 atomi - tas ir, vienam seko 79 nulles.
Iemesls, kāpēc tas ir tik liels darījums, ir tas, ka Go ir tik sarežģīts, ka, lai pieveiktu labāko cilvēku, mašīnai būtu jāiemācās domāt radoši, improvizēt un pielāgoties attiecīgajai situācijai, nespējot aprēķināt visu iespējamo. iznākums; i., notiek kaut kāds nopietns mākslīgais intelekts - piemēram, reāls, radošs intelekts.
Gadījumā, ja neesat saņēmis piezīmi par visu AI, kas pārņems visu pasauli, šeit ir daži fakti, kas jums jāzina.
- Datori kļūst gudrāki.
- Datori kļūst arvien gudrāki ar ātrumu - t.i., sasniegumi, kas agrāk prasīja 10 gadus, tagad prasa vienu gadu. Uzlabojumi, kas agrāk prasīja vienu gadu, tagad prasa nedēļas vai pat dienas.
- Ļoti iespējams, ka mūsu dzīves laikā būs datori, kas ir daudz gudrāki un spējīgāki par jebkuru atsevišķu cilvēku.
- Pēc tam šie viedie datori, visticamāk, varēs izstrādāt un uzlabot tehnoloģiju (t.i., paši sevi) un radīt jaunu tehnoloģiju, kuru mēs pat nevaram sākt saprast.
Cilvēkiem, kuri saprot iepriekš minētos punktus, parasti ir viena no divām reakcijām. Arī:
- Viņi domā, ka mēs esam pilnīgi fucked. Datori pārņems visu un nogalinās / paverdzinās mūs visus. Vai arī:
- Tas radīs tehnoloģisku utopiju, kas novērsīs visas mūsu dumjās cilvēciskās ķildas, un mēs visi varēsim dzīvot laimīgi līdz tam, kad būsim orģiju mūsu ultra-VR pasaulē, kas pastāv mākonī.
Tāpat kā lielākajā daļā lietu, patiesība, visticamāk, ir kaut kur pa vidu.
Bet pat tad, ja sūdi tiešām sit ventilatoram, pat ja roboti mūs redz kā utis, kas sabojā šīs planētas neskarto galvas ādu, un vēlas mūs visus noapaļot uz augšu un iemest aktīvā vulkānā, pat ja mēs netīšām izgudrojam paši savus mehānismus izmiršana…
... man vienalga. Tas nav svarīgi. Tas mani neuztrauc. Un tas arī jums nevajadzētu traucēt. Es mazliet paskaidrošu, kāpēc. Bet tagad jums jāzina, ka es, piemēram, atzinīgi vērtēju mūsu jaunos robotu virspavēlniekus.
PAAUGSTINĀT AUGSTUMU TEHNISKAJĀ RŪPNIECĪBĀ
Tehnoloģiskā attīstība ir viena no otras, izraisot likmi attīstības paātrināšanai. Tas nozīmē, ka jo progresīvāku tehnoloģiju mēs izveidojam, jo vieglāk ir izveidot vēl modernāku tehnoloģiju. Rezultātā, aplūkojot skaitļošanas tehnoloģiju attīstību, mēs redzam eksponenciālu līkni - t.i., jo vairāk laika paiet, jo ātrāk lietas attīstās. 
Tehnoloģiskā attīstība ir viena no otras, izraisot pašu attīstības ātruma paātrināšanos.(Foto: Deniss Sklijs / Flickr)
Skaitļošanas jauda vidēji ir dubultojusies ik pēc 18 mēnešiem jau 50 gadus . Runājot par neapstrādātu skaitļošanas jaudu, datori tagad konkurē ar peles smadzeņu spējām, kur tikai pirms dažiem gadiem datori pat nevarēja konkurēt ar kukaiņu smadzenēm.
Lai sniegtu jums ātrāku tehnoloģiju progresa piemēru, tagad ik pēc 2 minūtēm tiek uzņemts vairāk attēlu, nekā tika uzņemts visā 19. gadsimtā. Aptuveni 10% no jebkad uzņemtajiem 3,5 triljoniem fotoattēlu ir uzņemti pēdējo 12 mēnešu laikā.
Ja mēs patiešām atrodamies eksponenciālā līknē, kad runa ir par augsto tehnoloģiju sasniegumiem, tad cilvēkiem tas patīk Džeremijs Hovards visticamāk, ir taisnība, kad viņš saka, ka mēs esam tikai dažus gadus atrauti no mākslīgā mašīnu intelekta, kas konkurē, ja pat nepārspēj mūsu, daudzās jomās, kuras iepriekš uzskatīja par unikāli cilvēkiem.
Un, lai pārliecinātos, AI ir aizvien vairāk un vairāk mūsu dzīves jomās.
Tikai pirms desmit gadiem cilvēki smējās par sliktu pašpiedziņas automašīnu sniegumu. Šodien, tikai desmit gadus vēlāk, pašpiedziņas automašīnas var ne tikai pabeigt slēgta ceļa kursu, bet arī brauc pa noslogotām automaģistrālēm tieši blakus automašīnām, kuras vada cilvēki.
Un, kad datori nepārspēj pasaules čempionu Go spēlētājus, viņi ir aizņemti, piemēram, rakstot rakstus par sportu un aktualitātēm , rakstot to attēlu aprakstus, kurus viņi nekad nav redzējuši, un diagnosticējot vēzi . Veicot daudzus no šiem uzdevumiem, datori ir tikpat labi, ja ne labāki nekā cilvēki, un tiem, kas tie nav, viņi ir mācīšanās kā tos katru dienu darīt arvien labāk bez cilvēku palīdzības.
Pirms dažiem īsiem gadiem sejas atpazīšanas programmatūra bija neticami dārga un nebija tik laba, lai identificētu cilvēkus reālās dzīves apstākļos. To uzskatīja par īpaši progresīvu spiegu līmeņa tehnoloģiju, un to tiešām izmantoja tikai dažas pasaules valdības.
Tagad Facebook var drātēties atzīmēt jūsu draugus no pagājušās nedēļas nogales bārbekjū.
Datoru izaugsmes paātrināšana ir šāda: kādreiz pienāks brīdis, kad mēs uzbūvēsim tādu datoru gudrāks par jebkuru cilvēku uz Zemes . Tajā dienā datori mūs uzurpēs kā galvenos problēmu risinātājus uz planētas, un no turienes mūsu domas, lēmumi un darbības lēnām novecos. Mašīnas būs labākas par mums visā, tāpēc arvien vairāk mēs nedarīsim neko noderīgu.
Tas dažus cilvēkus biedē. Viņi iedomājas kaut kādu nākotni Terminators vai Matrica kur mašīnas mūs paverdzina vai iznīcina.
Citi cilvēki gaida robotu pieaugumu ar sava veida kulta degsmi, jo uzskata, ka viņu problēmu risināšanas iespējas tik daudz apsteigs mūsējās, ka dzīve kļūs neiedomājami patīkama un bez problēmām. Visas slimības tiks izārstētas. Nabadzība, izsalkums pasaulē, karš un klimata pārmaiņas tiks atrisinātas. Mums būs bezgalīgi daudz brīvā laika, un ārkārtējos gadījumos daži cilvēki uzskata, ka mašīnas padarīs mūs nemirstīgus.
DIVI IESPĒJAMIE REZULTĀTI
Tā kā mums vienmēr saka, ka esam jāšanās pozitīvi, sāksim ar tehno-utopiātiem.
Ir tādi cilvēki kā Rejs Kurzveils kuri domā, ka tehnoloģija ne tikai uzlabos mūsu dzīvi, bet arī ietaupīs cilvēci un, iespējams, bezgalīgi garantēs mūsu vietu Visumā. Kurzweil tic nākotnes tehnoloģijām, piemēram, nanobotiem, kas atjaunos mūsu šūnas un mainīs novecošanu vai noņems liekos taukus un cukuru, lai mēs varētu ēst visu, ko vēlamies. Un tikai gadījumā, ja mūsu fiziskais ķermenis nespēj dzīvot mūžīgi, Kurzveils domā, ka mums būs iespēja augšupielādēt savas smadzenes mākonī un mūžīgi dzīvot virtuālajā pasaulē ilgi pēc tam, kad mūsu fiziskais ķermenis būs pazudis.
Citi šajā nometnē domā, ka mākslīgais super intelekts spētu atbildēt uz jautājumiem, kas ir pārāk sarežģīti, lai cilvēki to pat saprastu, un mums tas būs eksponenciāli labāk. Turklāt mašīnas ne tikai izgudrotu labākus sīkrīkus un logrīkus, bet arī eksponenciāli efektīvākus sīkrīku un logrīku veidošanas veidus, kas ļautu praktiski visiem planētas iedzīvotājiem izmantot tos.
Dažas pamatojuma rindas atbalsta šo ideju. Pirmkārt, lai arī tehnoloģija cilvēcei ir radījusi dažas jaunas problēmas, piemēram, kodolieročus un YouTube slavenības, tas līdz šim acīmredzami ir bijis tīrs ieguvums cilvēcei. Neskatoties uz to, kam politiķi un speciālisti vēlas, lai jūs ticētu, vidusmēra cilvēks uz Zemes ir labāk nekā pirms dažiem īsiem gadiem un tas lielā mērā ir saistīts ar to, ka tehnoloģija kļūst labāka, lētāka un izplatītāka. Ja šī tendence turpināsies, mums var nebūt par ko uztraukties.
Otrkārt, Kurzveils un viņa atbalstītāji uzskata, ka tehnoloģijai nebūs iemesla kaitēt cilvēcei, jo tā ir ne tikai mūsu radīta, bet arī kļūstot par daļu no mums . Viņi tic, ka mēs nonāksim pat līdz vietai, kur mūsu bioloģija un tehnoloģija nav atšķiramas. Ja tas tā ir, arguments iet, jebkura tehnoloģija, kas ir kaitīga cilvēkiem, ir kaitīga arī pašai sev, un jebkura veida pašiznīcinoša tehnoloģija nevar pastāvēt. Tas ir, tas ātri nomirtu, tāpat kā kaitīgā gēnu mutācija ātri tiek atsijāta no genofonda. 
Jebkāda veida pašiznīcināšanās tehnoloģija nevar pastāvēt.(Foto: m_hweldon / Flickr)
Bet tehno-utopiāti, visticamāk, ir tendenciozi, jo viņi neatzīst, ka visas tehnoloģijas var izmantot dažādiem mērķiem - gan izdevīgiem, gan postošiem. Viņi, visticamāk, ir arī neobjektīvi, jo ignorē faktu, ka cilvēki lēni pielāgojas jaunajām tehnoloģijām un ka vienmēr ir cilvēku grupas, kas centīsies ļaunprātīgi izmantot šīs tehnoloģijas savtīgu mērķu sasniegšanai.
Otrajā nometnē jums ir tehno-armageddonisti. Es pilnīgi tikko izveidoju šo vārdu, bet acīmredzot tas pastāv, jo pareizrakstības pārbaude man to teica.
Tas, kas tehno-armageddonistiem trūkst pārliecības (lielākā daļa no viņiem vienkārši vēl nav pārliecināti, ko domāt), viņi veido slavenību zvaigžņu spēku. Bils Geitss, Stīvens Hokings un Elons Musks ir tikai daži no vadošajiem domātājiem un zinātniekiem, kuri ir sagrābj bikses cik ātri AI attīstās un cik nepietiekami sagatavoti mēs esam kā suga tā sekām. Kad Muskam jautāja, kādi ir tuvākie draudi cilvēcei tuvākajā nākotnē, viņš ātri teica, ka ir trīs: pirmkārt, plaša mēroga kodolkara; otrkārt, klimata pārmaiņas. Pirms nosauca trešo, viņš apklusa. Kad intervētājs viņam jautāja: Kas ir trešais? Viņš pasmaidīja un teica: Teiksim tikai, ka es ceru, ka datori izlems būt jauki pret mums.
Ceru, ka mēs esam ne tikai bioloģiskais sāknēšanas iekrāvējs digitālajai izlūkošanai. Diemžēl tas ir arvien ticamāk
- Elons Musks (@elonmusk) 2014. gada 3. augusts
Iespējams, ka visspilgtākais un cienītākais no tehnoharmagedonistiem ir zviedru filozofs Niks Bostroms. Viena lieta, no kuras Bostroms un citi baidās, ir bēgoša pašpilnveidošanās tehnoloģija ; tas ir, mašīna, kas ir pietiekami gudra, lai bez cilvēka iejaukšanās padarītu sevi (vai savas jaunās versijas) gudrāku. Ja tas sasniedz punktu, kurā tas pārspēj cilvēka inteliģenci, ir tikai ļoti īss laika jautājums, kad paātrinātas atgriešanās likums ieslīgst pārspēkā un eksponenciālā līkne izšaujas taisni uz augšu, un mēs to nespēsim apturēt. Bostroms šeit ir labs punkts: radot kaut ko gudrāku nekā jūs, tas varētu būt jūsu sugas evolūcijas katastrofa.
Mums ir ļoti reāls risks, ka mēs nespēsim kontrolēt entītiju, kas ir apjoma ziņā prātīgāka par mums. Varbūt, ja datori kļūs pietiekami gudri, viņi izdomās veidu, kā mūs daudz pieradināt, piemēram, cilvēkus, kas pieradināja zirgus, darīt darbu, piemēram, vilkt arklus un bagijus, kā arī kara ratus (vai ko citu elles zirgi toreiz darīja). Baisais ir tas, ka tas varētu būt labākais scenārijs mums - darot darbu mašīnām, kuras viņi nevar vai nevēlas darīt, jo tāpat kā cilvēki radīja jaunu tehnoloģiju, lai aizstātu zirgu, supergudra pašpilnveidošanās mašīna galu galā nāks klajā ar jaunu tehnoloģiju, kas mūs aizstātu. Un, pieņemsim, ka zirgu populācija nav tāda, kāda tā bija agrāk.
Daži apgalvo, ka tas nav ticams, jo cilvēki tehnoloģiju būvē, ņemot vērā drošību. Bet nosauciet pēdējo reizi, kad kāds NAV izmantojis nozīmīgu tehnoloģisko sasniegumu nekrietniem vai postošiem mērķiem? Ak, jā, tas ir pareizi. Nekad.
KĀPĒC MAN NERŪPĒJAS, KAS NOTIEK UN NEKAM NEVARĒT
Pieņemsim, ka tiek radītas supergudras mašīnas un tās padara cilvēci bezspēcīgu. Pieņemsim, ka viņi kaut kā nav integrēti mūsos un mūsu smadzenēs, un pieņemsim, ka tādiem cilvēkiem kā Hokings un Musks ir taisnība: ka cilvēce patiešām ir tikai vairāku gadu tūkstošu sākums digitālā hiperizlūkošanai un mēs esam pārdzīvojuši savu lietderību.
Mani tas joprojām neuztrauc.
Kāpēc? Nu, lai turpinātu virzīties vilciena punkts, ņemsim šo punktu pa punktam:
1. Mašīnu izpratne par labu / ļaunu, iespējams, pārsniegs mūsu pašu. Kad suns vai delfīns pēdējo reizi veica genocīdu? Kad pēdējo reizi dators nolēma iztvaikot veselas pilsētas tādu abstraktu jēdzienu kā “brīvība” un “miers pasaulē” vārdā?
Pareizi, atbilde nekad nav.
Mans viedoklis šeit nav tāds, ka inteliģentas mašīnas nevēlētos iznīcināt visu cilvēku sugu. Mans viedoklis ir tāds, ka kā cilvēki mēs šeit mētājam akmeņus no stikla mājas iekšpuses. Ko mēs zinām par ētiku un humānu izturēšanos pret dzīvniekiem, vidi un viens otru? Uz kājas mums jāstāv?
Pareizi: gandrīz nekas. Runājot par morālajiem jautājumiem, cilvēce vēsturiski izjūt pārbaudījumu. Ļoti inteliģenti aparāti, visticamāk, sapratīs ētiku, dzīvi / nāvi, radīšanu / iznīcināšanu daudz augstākā līmenī, nekā mēs paši jebkad spētu. Un šī ideja, ka viņi mūs iznīcinās par vienkāršu faktu, ka mēs neesam tik produktīvi kā agrāk, vai ka dažreiz mēs varam radīt traucējumus, es domāju, ka mūsu pašu psiholoģijas vissliktākie aspekti tiek projicēti tikai uz kaut ko, ko mēs nezinu un nevaru saprast.
Šobrīd lielākā daļa cilvēku tikumības ir balstīta uz katra mūsu individuālā cilvēka apziņas obsesīvu saglabāšanu un veicināšanu. Ko darīt, ja progresīvas tehnoloģijas padara cilvēka apziņu patvaļīgu? Ko darīt, ja apziņu var atkārtot, paplašināt un sarauties pēc vēlēšanās? Tas pilnībā iznīcinās jebkuru iespējamo ētisko izpratni. Ko darīt, ja visu šo nepatīkamo, neefektīvo bioloģisko cietumu noņemšana, ko mēs saucam par ķermeņiem, patiesībā varētu būt daudz ētiskāks lēmums nekā ļaut mums turpināt slaistīties un šļakstīties cauri 80, nepāra pastāvēšanas gadiem? Kā būtu, ja mašīnas saprastu, ka mēs būtu daudz laimīgāki, ja tiktu atbrīvoti no mūsu intelektuālajiem cietumiem un ja apzināta mūsu pašu identitātes uztvere būtu paplašināta, iekļaujot tajā visu uztveramo realitāti? Ko darīt, ja viņi domā, ka mēs esam tikai ķengājošu idiķu bariņš un nodarbina mūs ar neticami labām picām un video spēlēm, līdz mēs visi nomirstam no savas mirstības? Kas mums ir jāzina? Un kas mums ir jāsaka?
Bet es teikšu tā: viņi būs daudz labāk informēti, nekā mēs jebkad esam bijuši.
2. Pat ja viņi tomēr nolemj mūs nogalināt vai paverdzināt, viņi noteikti būs praktiski par to. Cilvēki mēdz sagādāt visvairāk nepatikšanas, kad mēs esam nav laimīgs . Kad mēs neesam laimīgi, tas ir tad, kad mēs visi esam noskaņoti un žēlabaini, dusmīgi un vardarbīgi. Tieši tad mēs sākam politiskas sacelšanās un reliģiskie kulti un bombardēt attālās valstis un pieprasīt mūsu tiesības ir jāievēro! un sāciet bez izšķirības nogalināt, līdz kāds pievērš mums uzmanību kā mamma nekad nav darījusi .
Ja mašīnas mēģina mūs darīt tāpat kā Skynet iekšā Terminators , tad mūsu rokās būs globāls pilsoņu karš, un tas neder nevienam, it īpaši mašīnām. Pilsoņu kari ir neefektīvi. Mašīnas ir ieprogrammētas efektivitātei.
Kad cilvēki ir laimīgi, mums nav laika šādām lietām - mēs esam pārāk aizņemti ķiķinot un jāšanās, lai rūpētos. Tāpēc daudz praktiskāks veids, kā atbrīvoties no mums, būtu tas, ka mašīnas manipulētu ar mums, lai priecīgi atbrīvotos no sevis. Tas būs kā Džims Džonss globālā mērogā. Neatkarīgi no tā, ko viņi mums gatavos, izrādīsies labākā sasodītā ideja, par kuru jebkad esam dzirdējuši - neviens no mums nespēs tam pretoties, un mēs visi eiforiski piekritīsim viņu plānam - un tad uzplauksim, tas būs beidzies . Ātri un nesāpīgi. Tas būs vislabākās garšas cianīda šņorētais Kool-Aid, kāds jebkad iecerēts. Un mēs visi būsim rindā ar prieku to norijuši.
Tagad, ja padomājat, tas nav tik slikts veids, kā iet. Beats tiek bombardēts ar bezpilota lidaparātiem vai tiek iztvaicēts kodolieroču sprādzienā.
Kas attiecas uz paverdzināšanu, tas pats notiek. Deliriously laimīgs vergs nekad dumpojas. Es iedomājos sava veida Matrix-y veida darījumu, kurā mēs esam pastāvīgi halucinogēnā stāvoklī, kur MDMA laikā ir ļoti daudz 24/7/365. Vai nevar būt tik slikti, vai ne?
3. Mums nav jābaidās no tā, ko mēs nesaprotam. Daudzas reizes vecāki izaudzinās bērnu, kurš ir daudz inteliģents, izglītotāks un veiksmīgāks nekā viņi. Tad vecāki uz šo bērnu reaģē vienā no diviem veidiem: vai nu viņi viņu iebiedē, ir nedroši un izmisīgi vēlas viņu kontrolēt, baidoties zaudēt viņu, vai arī viņi sēž un novērtē un mīl, ka ir radījuši kaut ko tik lielu, ka pat viņi var pilnībā nesaprotu, kāds ir kļuvis viņu bērns.
Tie, kas mēģina kontrolēt savu bērnu ar bailēm un manipulācijām, ir sūdīgi vecāki. Es domāju, ka lielākā daļa cilvēku par to vienotos.
Un tieši tagad, nenovēršami parādoties mašīnām, kuras noliks jūs, mani un visus, kurus pazīstam bez darba , mēs rīkojamies kā sūdīgi vecāki. Kā suga mēs esam uz sliekšņa, lai dzemdētu visproduktīvāk attīstīto un inteliģentāko bērnu mūsu zināmajā Visumā. Tā turpinās darīt lietas, kuras mēs nevaram saprast vai saprast. Tas var palikt mīlošs un uzticīgs mums. Tas var mūs atvest un integrēt savos piedzīvojumos. Vai arī tas var izlemt, ka mēs bijām sūdīgi vecāki, un pārtraukt mums piezvanīt.
Lai kas arī notiktu, tam nevajadzētu mainīt to, kā mēs jūtamies šajā brīdī. Tas ir lielāks par mums. Kas rūpējas par to, vai mēs esam viens liels, garš evolucionārs sāknēšanas disks kaut kam lielākam, nekā mēs varam aptvert? Tas ir lieliski! Tas nozīmē, ka mums bija viens darbs. Un mēs atnācām un jāšanās to izdarīja. Esiet laimīgs, ka bijāt daļa no tās paaudzes, kura redzēja, ka tas paveikts. Un tagad ar asarām pamodieties ardievas, kad mūsu bērns gatavojas pārcelties no mājas un sākt tik pārsteidzošu dzīvi ka tā pastāv ārpus mūsu izpratnes horizonta.
Marks Mensons ir autors, blogeris un uzņēmējs, kurš raksta vietnē markmanson.net .
