Naše cesta k Superinteligenci - část 1

Naše cesta k Superinteligenci
Autor: Tim Urban

originální verze je zde: http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Články na “Wait But Why” vycházejí pravidelně. Nové příspěvky zasíláme na více než 180 000 emailů našich odběratelů. Zadejte svůj email zde a zařadíme Vás do listu také ( posíláme jen několik emailů měsíčně ). Sledovat Wait But Why můžete na Facebooku i  Twitteru.    

Upozornění:

• Toto je fanouškovský překlad článku “The AI Revolution: The Road to Superintelligence” ze stránek Tima Urbana WaitButWhy.com
• Je to amatérský překlad a tak vždy a jak jen to bude možné doporučuji číst originální článek. Překlad jsem vytvořil s tou myšlenkou, že by mohl být užitečný a je bez jakékoliv záruky.
• Je velká pravděpodobnost, že můj překlad není přesný.  Pokud najdete nesrovnalosti nebo chyby, dejte mi vědět na email vojtech.moravek at gmail.com

-----------------------------

Poznámka: Jen sepsáni tohoto článku mi trvalo tři týdny. Před tím jsem se na čas ponořil do zkoumání umělé inteligence a stále ani nemohu uvěřit tomu, co jsem se dočetl.  Dění na poli umělé inteligence mě hodně zasáhlo. Není to obecně důležité téma, ale je to NAPROSTO nejdůležitější věc pro naši budoucnost. V průběhu dní jsem se zkusil naučit co nejvíce. Dělal jsem to pro to, abych se opravdu ujistil, že tento článek osvětlí celkovou situaci na poli umělé inteligence a vysvětlí důvod proč je umělá inteligence tolik zásadní. Je to dlouhé téma a tak není překvapivé rozdělení článku do dvou částí. Toto je první část a zde je druhá (zatím anglicky)

_______________

Jsme na pokraji změn srovnatelnými jen s počátkem výskytu lidského života na Zemi.

Vernor Vinge

Jak byste se asi cítili být zde?

(x: čas, y: pokrok lidstva)

Zdá se, že to bude brzy pěkný hukot. Nicméně nezapomínejme, jaké je to být na časové ose. Nemůžeme vidět co se stane napravo od nás. Takže aktuální pocit máme asi tento:

A to vypadá vcelku normálně.....

_______________

Vzdálená budoucnost? Je za rohem!

Představte si, že vlezete do časostroje a necháte se přenést zpět do roku 1750. Do doby, kdy svět trpěl nepřetržitým výpadkem elektrické energie. Do doby, kde význam úsloví “komunikace na dlouhou vzdálenost” znamená buď opravdu nahlas zařvat nebo vystřelit z děla a veškerý transport se koná na povel “hyjé”. Když jste tam, popadněte prvního borce a přeneste ho zpět do roku 2015 a trochu se s ním projděte. Sledujte jeho reakce na všechno kolem. Pro nás je nemožné pochopit, jaké to pro něj musí být sledovat lesklé kabiny závodící na dálnicích, hovořit s lidmi co ještě před pár hodinami byli na jiném kontinentu, sledovat naživo sportovní utkání, které se hraje tísíce kilometrů daleko, poslouchat hudbu zaznamenanou před padesáti lety, pozorovat nás jak s magickým obdélníkem zachycujeme živé obrázky, sledovat mapu s nadpřirozenou modrou tečkou ukazující kde jsme a dívat se na něčí tvář a hovořit s ní, i když je na druhé straně země. Prostě svět neuvěřitelných kouzel. Následně ho dorazíte tím, ze mu ukážete internet a pokusíte se vysvětlit technologie jako je mezinárodní vesmírná stanice, urychlovač částic, nukleární zbraně a nebo obecnou teorii relativity.

Nebude to pro něj překvapující, šokující nebo třeba ohromující. To nejsou dostatečně velká slova. On pravděpodobně umře.

Zajímavé by však bylo sledovat jeho návrat. Pokud by se přeci jen vrátil zpět do roku 1750 a navíc nám trochu záviděl, že jsme viděli jeho užaslé reakce, tak by se rozhodl vyzkoušet stejnou věc. Vlezl by do časostroje a o stejný časový úsek by se vrátil do minulosti. Popadl prvního borce z roku kolem 1500 a přenesl si ho do 1750. Zde mu vše ukázal. Chlapík z roku 1500 by byl šokován z mnoha věcí, ale pravděpodobně by nezemřel. Svět v roce 1500 a  v roce 1750 je velmi jiný, ale podstatně méně jiný než svět 1750 a 2015. Člověk z roku 1500 by se musel naučit naprosto novým věcem o vesmíru a fyzice. Byl by unešen z toho jak se změnilo sociální uspořádání v Evropě a musel by si zásadně změnit pohled na mapu světa. Nicméně způsob dopravy a komunikace, tedy výjevy z běžného života roku 1750, by ho pravděpodobně o ten jeho nepřipravily.

A teď znova. Chlapík z 1750 nezažil s tím z 1500 dost velkou zábavu. Pokud by chtěl zažít stejnou legraci jakou jsme z něj měli my, tak by musel jít hodně zpět do minulosti. Třeba do roku 12 000 před Kristem. Před tím, než začala zemědělská revoluce, co dala vyrůst prvním městům a konceptům civilizace. Kdokoliv z čistě lovecko-sběratelského prostředí, tedy více-méně podobný ostatním živočišným druhům kde v tom čase lidstvo bylo, by viděl lidskou říší roku 1750 s jejich velkými chrámy, loděmi plujícími po oceánech, s jejich schopností bydlet ve městech, a enormním množstvím společného lidského poznaní a objevů, by pravděpodobně zemřel.

A ještě si představme, co kdyby potom co zemře, chtěl také zažít stejnou legraci jakou si udělali z něj. Jestliže by se vrátil ze své minulosti o 12 000 let př.n l, tedy  do roku 24 000 př.n l a někoho by odchytil a přenesl ho do svého roku 12 000 př.n l a ukázal mu vše okolo. Dopadlo by to asi tak, že by se ho ten někdo zeptal “Ok, a z čeho bych se tady měl jako posadit na zadek?”. Aby chlápek zažil stejnou legraci jako ty dva před ním, tak by musel jít zpět o 100 000 let do minulosti a sehnat tam někoho, kdo by od něj mohl poprvé slyšet řeč a vidět oheň.

Aby někdo, kdo byl přenesen do budoucnosti, umřel z důvodu šoku z množství změn které nepochopí, tak musí být dosaženo kritického množství změn nazývaného “DPU - Die Progress Unit” V našem případě trvalo DPU 100 000 let v časech lovců-sběračů, v období po zemědělské revoluci to bylo okolo 12 000 let, ale  po industriální revoluci se svět mění tak rychle, že člověku z roku 1750 stačí jen několik stovek let pro naplnění DPU.

Stav, kdy lidský vývoj je v čase rychlejší a rychlejší nazývá Ray Kurzweil zákonem zrychlujících se změn ( Law of Accelerating Returns). Základem je schopnost vyvinutějších společností se rozvíjet rychleji, než  těch méně vyvinutých. Lidé v 19. století věděli více a měli lepší technologie než lidé v 15. století. Není tedy překvapující, že lidstvo udělalo výraznější pokrok ve století 19. než v 15. Lidstvo 15. století tak nelze srovnávat s lidmi 19. století.

Funguje to i v kratších časových intervalech. Film Návrat do budoucnosti vyšel v roce 1985 a “minulost” zde znamenala rok 1955. Když se ve filmu Michael J. Fox vrátil zpět do roku 1955 byl zaskočen horkou novinou - televizí, cenou za limonádu, odporem k pronikavému zvuku elektrické kytary a rozdíly v používaném slangu. Ano, byl to jiný svět. Nicméně pokud by film vyšel letos a minulost zde znamenala návrat do roku 1985 tak by byl o mnoho zábavnější s podstatně více rozdíly. Herec by se ocitl v čase před érou osobních počítačů, internetu nebo mobilních telefonů. Dnešní teenager, který se narodil v pozdních devadesátých letech, by byl podstatně více mimo, než filmový Marty McFly v roce 1955.

Přesně z těchto důvodů jsem zmínil zákon zrychlujících se změn. Průměrné tempo pokroku je rychlejší mezi lety 1985 a 2015 než mezi 1955 a 1985. Prvně zmíněný rozsah let je technologicky pokročilejší a tak se více změn událo zde za posledních 30 let, než za těch předcházejících 30.

Naše pokroky se stávají většími a většími a přicházejí více a více rychleji. To ukazuje na docela husté věci v budoucnosti, že?

Kurzweil tvrdí, že pokroku celého 20. století, bude dosaženo za pouhých 20 letech při tempu změn roku 2000. Jinými slovy, od roku 2000 je rychlost změn pětkrát větší než průměrná rychlost ve 20. století. Dále se domnívá, že obdoba pokroku za celé 20. století nastane mezi lety 2000 a 2014 a další stejné nastane do roku 2021, tedy jen za sedm let. A za několik desetiletí ,jak věří, se pokrok 20. století stane několikrát za rok a ještě později i méně než za měsíc.  A nakonec, vzhledem k zákonu zrychlujících změn, Kurzweil věří, že za celé 21. století dosáhneme tisící násobného pokroku oproti 20. století.  

Pokud má Kurzweil a ostatní co sním souhlasí pravdu, pak bychom se mohli ocitnout v kůži chlápka z roku 1750 už v roce 2030. To znamená, že další DPU může trvat jen několik desetiletí a svět roku 2050 může být úplně jiný než ten dnešní. Tak jiný, že bychom ho jen stěží poznali.

Toto není science fiction. Mnoho velmi chytrých vědců, pevně věří v to, že se to stane. A pokud se podíváte do historie, tak to i docela dobře můžeme logicky předvídat.  

Chápu však vaši reakci. Vím, že když mě slyšíte říkat něco jako “svět se za 35 let úplně změní” tak si myslíte, ”Hmm bezva,  to je ale blbost....”.Chápu, nicméně tady jsou tři důvody, proč jsme skeptičtí k prapodivným předpovědím budoucnosti.  

1) Pokud jde o historii, myslíme v přímkách. Když si představujeme pokrok v následujících třiceti letech, vycházíme z vývoje za posledních třicet let, jako ukazatele kolik se toho může stát. Když přemýšlíme o rozsahu změn ve 21. století, tak prostě vezmeme pokrok 20. století a začneme je přidávat od roku 2000. Stejnou chybu udělal chlápek z roku 1750, když přivedl někoho z roku 1500 a předpokládal, že mu praskne hlava tak jako se mu to stalo jemu, když on byl posunutý o stejný čas dopředu.  Je pro nás velmi přirozené přemýšlet lineárně, i když bychom měli spíše myslet exponenciálně. Pokud k tomu někdo přistupuje více chytře, tak může predikovat pokrok, ne na základě rychlosti změn posledních třiceti let, ale na základě aktuálního stavu a tak odhadovat co se stane. Bude v odhadu přesnější, ale stále dost mimo. Pokud chcete myslet o budoucnosti správně, musíte si představovat že věci se udějí rychleji, mnohem rychleji než tomu je teď.

2) Průběh nedávné historie často nabízí velmi zkreslený příběh. Za prvé, i velmi strmá exponenciání křivka se zdá být lineární, pokud se podíváme jen na její malou část. To samé se stane pokud se podíváme zblízka na malý kus obrovské kružnice, také vypadá jako přímka. Zadruhé, exponenciální růst není úplně hladký a rovnoměrný. Kurzweil vysvětluje vývoj pomocí “S-křivek”:

S-křivka je tvořena “vlnou pokroku”, když se objeví nějaký nový nápad na světe. Vlna prochází třemi fázemi.

1. Pomalý růst (raná fáze exponenciálního růstu)
2. Rychlý růstu ( následující  explosivní fáze)
3. Ustálení a vyspění

Místo na kterém na S-křivce aktuálně jsme, může zmást naše vědomí o tom jak rychle se věci ději. Pokud se podíváme do nedávné historie na období mezi roky 1995 a 2007, tak uvidíme explozi internetu. Vstup Microsoftu, Googlu a Facebooku do veřejného vědomí. Vznik sociálních sítí, nástup mobilních a hned poté chytrých telefonů. To byla Fáze 2, rychlý běh. Ale mezi lety 2008 a 2015 se stalo méně zásadních věcí, tedy v technologickém světě. Ano,úplně se nabízí přemýšlet o budoucnosti ze zkoumání posledních několika let, ale to se ztratí větší nadhled. Ve skutečnosti, další obrovský nastup růstu Fáze dvě, už teď může někde kvasit. (poznámka překladatele: Já sázím na Elona Muska)

3) Naše vlastní zkušenost nás uzavírá do změn v myšlení o budoucnosti.

Svět hodnotíme na základě vlastních osobních zkušeností. S tím máme také v hlavě zakořeněné tempo růstu za poslední dobu způsobem: “Takle jsem zvyklý, že se to děje”.  Jsme také omezeni naší představivostí. Bereme naše zkušenosti a používáme je k vykouzlení odhadů budoucnosti, ale často to co známe, nám jednoduše nedává možnost přesně odhadovat to co se stane. Když slyšíme odhad budoucnosti, který je v rozporu s naší zkušeností nebo s tím jak si myslíme, že věci fungují tak naše instinkty nám říkají, ať tomu nedůvěřujeme. Pokud vám dále v tomto článku řeknu, že můžete žít do sto padesáti nebo do dvě stě let nebo neumřít vůbec, vaše mysl řekne. “To je ale blbost. O jedné věci jsem naprosto přesvědčen. Všichni, kdo žili umřeli.”. A ano, všichni, kdo v minulosti žili umřeli. Nikdo také neletěl v letadle do doby, než byla letadla vynalezena.

Může se zdát, že výše uvedený pocit“...to je ale blbost” zní správně, ale je to skutečně špatně. Pravda je ta, že pokud budeme logicky vycházet z historických vzorů co stále pokračují, tak dojdeme k závěru, že se stane mnoho mnoho mnoho změn v následujících desetiletích, více než intuitivně předpokládáme. Logika věcí napovídá, že když nevyspělejší druh na planetě bude pokračovat v čím dál tím větších skocích a v čím dál tím větším tempu svého vývoje, tak jednou se stane něco velkého, co naprosto změní svět jaký známe.  Změní se i vnímání toho, čemu říkáme - být člověkem. Tak trochu jako když evoluce pokračovala jednotlivými kroky k inteligenci, až jeden z nich znamenal příchod člověka, což  kompletně změnilo vše co bylo dosud na Zemi považováno na živočichy. A jestli strávíte nějaký čas čtením o tom co se dnes děje ve světě vědy a technologií, tak začnete vnímat spousty signálů co nám nenápadně napovídají, že život co známe nemůže odolat nadcházejícímu pokroku.

_______________

Cesta k Superinteligenci

Co je  AI? (Artificial Intelligence = Umělá inteligence)

Pokud jste jako já, tak jste byli zvyklí nahlížet na umělou inteligenci jako na přihlouplý scifi koncept. Poslední dobou  o umělé inteligenci slýcháme častěji od důvěryhodných lidí a stále tomu tak trochu nerozumíme o čem hovoří.

Tady jsou tři důvody zmatení  co se týče AI.

1) AI máme spojenou s filmy. Hvězdné Války, Terminátor, 2001: Hvězdná Odyssea. To vše je fikce s roboty jako herci. AI je nám předkládána jako fikce.  

2) AI je široký pojem. Pohybujeme se od kalkulačky v telefonu po samořídící auta, až po něco v budoucnu má moc dramaticky změnit svět. AI se vztahuje na toto všechno. Matoucí že?

3) Každý den využíváme umělou inteligenci, aniž bychom si to uvědomovali.  John McCarthy, který v roce 1956 vymyslel úsloví “Artificial Intelligence”, si stěžoval že “jakmile umělá inteligence začne fungovat, všichni ji tak přestanou nazývat.” Díky tomuto jevu se nám umělá inteligence zdá jako vybájená technologie budoucnosti než aktuální současnost. Stejně tak to může znít jako myšlenka z minulosti, co se nikdy neuskuteční. Ray Kurzweil reaguje na  tvrzení, že myšlenka o rozvinuté umělé inteligenci zamrzla v osmdesátých letech obdobně jako jsme měli názor, že internet skončí s Dot-Com bublinou na začátku tisicíletí.

Pojďme si to vyjasnit. Zaprvé, přestaňme myslet na roboty. Robot je schránka pro AI. Někdy napodobuje člověka, jindy může vypadá jinak. Nicméně AI jako taková, je počítač uvnitř robota. AI je mozek a robot je tělo. Tedy pokud AI nějaké tělo má. Kupříkladu software a data Siri. To je personifikace AI s ženským hlasem, kde vůbec není žádný robot.

Zadruhé, pravděpodobně jste slyšeli o názvu “singularita” nebo “technologická singularita”. Tento pojem byl použit v matematice k popsání asymptotických situací, kde normální pravidla přestávají platit. Také byl použit ve fyzice k popsání zvláštních úkazů jako jsou nekonečně malé, hmotné černé díry nebo jako bod, ve kterém bylo zmáčknuto vše před Velkým Třeskem. Opět situace, kde běžná pravidla nefungují. V roce 1993 napsal Vernor Vinge slavnou esej ve které použil tento termín pro situaci v budoucnu, kdy technolologická inteligence předčí tu naši. Tedy v tu chvíli, jak si myslí, se život, jak ho známe,navždy změní a běžná pravidla přestanou platit.  Ray Kurzweil to trochu zamotává svojí definicí singularity jako bodu, kdy zákon zrychlujících se změn dosáhne takového extrémního tempa, že technologický pokrok se bude dít zdánlivě nekonečnou rychlostí. V tu chvíli budeme žít v úplně jiném světě. Postřehl jsem však, že mnoho dnešních vědců zabývajících se AI, přestává výraz singularita používat, protože ho považují za zmatečný. Rozhodl jsem se, ho zde také moc nepoužívat( ačkoliv se však o této myšlence budeme bavit dále).   

Zatřetí, i když existuje mnoho různých druhů nebo forem AI, od doby co se AI stala pojmem, tak existují základní kategorie o kterých je potřeba vědět. V zásadě jsou založeny podle pokročilosti a schopnosti umělé inteligence.

Existují tři zásadní kategorie umělé inteligence:

AI schopnost 1 - Artificial Narrow (specifická) Intelligence - ANI:  Někdy nazývána také Weak (slabá) AI. Artificial Narrow Intelligence je umělá inteligence specializovaná na jednu oblast. Existuje AI co porazí šachového velmistra, ale pouze  umí jen toto. Zeptejte se jí na to jak efektivněji ukládat data na disk a bude na vás jen hloupě koukat.

AI schopnost 2) Artificial General (úplná)  Intelligence - AGI: Někdy nazývaná Strong (silná) AI nebo AI na úrovni člověka. O AGI se mluví jako o počítači co je chytrý jako člověk. Ve všech směrech, se schopností vykonat jakoukoliv intelektuální úlohu co zvládne člověk. Vyttvoření AGI je PODSTATNĚ těžší úloha, než vytvoření ANI. V současnosti toho nejsme schopni. Profesorka Linda Gottfredson ji popisuje jako “ úplnou duševní vyspělost, která mimo jiné, obnáší schopnost myšlení, plánováni, řešení problémů, abstraktního myšlení, pochopení složitých myšlenek, rychlého učení a učení se ze zkušeností. AGI by toto vše měl umět, stejně tak lehce jako to umíme my.

AI schopnost 3) Artificial Superinteligence - ASI  Oxfordský filozof a jeden z hlavních myslitelů o AI Nick Bostrom definuje superinteligenci jako vědomí, které je o mnoho chytřejší než nejlepší lidský mozek v naprosto všech ohledech, zahrnující vědecký výzkum, úplnou moudrost a sociální schopnosti. Umělá Superinteligence pokrývá vše od počítačového algoritmu o trochu chytřejšího než člověk po vědomí trilionkrát chytřejší ve všech směrech.  ASI je ten důvod proč  je uměla inteligence tak lákavá a proč slova jako nesmrtelnost, a vyhynutí se níže v článku mnohokrát vyskytují.  

Lidstvo zatím dosáhlo nejnižšího stupně umělé inteligence - ANI. ANI je s námi v mnoha podobách a je všude. Revoluce v umělé inteligenci je cesta od ANI skrz AGI k ASI. Tu cestu můžeme nebo také nemusíme přežít. Tak jako tak, vše se změní.  

Podívejme se blíže na to, co o tom myslí přední vědci na poli umělé inteligence a proč se tato revoluce stane dříve než si možná myslíte.

Současnost — Svět plný ANI

Artificial Narrow Intelligence je počítačová inteligence stejně tak dobrá nebo lepší než člověk ve konkrétní činnosti. Několik příkladů:

• Auta jsou plná ANI systémů. Od počítače, který neustále hlídá a spouští ABS systém k počítači co neustále ladí parametry vstřiků paliva. Samořídící vozy, nejen od Googlu co se nyní testují, obsahují složité ANI systémy dovolující vnímat a reagovat na podměty okolního světa.
• Váš telefon je malá ANI líheň. Pro navigaci používáte navigační aplikaci, přijímáte pro vás předem připravenou nabídku muziky a filmů, koukáte se na počasí co bude zítra, hovoříte se Siri a mnoho dalšího. Pravidelně používáte ANI.
• Váš spam filtr v emailu je typickým ANI. Začíná nastavením informací o tom co je to spam a co ne a potom se učí a upravuje svoji schopnost vám dát co nejlepší výsledek na základě vašich preferencí.  Tepelný termostat doma dělá to samé. Upravuje podmínky a řídí se podle typického chovaní.
• Asi znáte tu otravnou věc, když hledáte nějaký produkt na e-shopu (Amazonu) a zobrazují se vám další “doporučené” produkty nebo se Facebook  tváří, že ví kdo je pro vás nejlepší další přítel. Toto jsou příklady spojených ANI systémů. Pracují a informují se navzájem dohromady o tom kdo jste, kde jste a co máte rádi a používají to k zobrazení informací. Stejně tak funguje i sekce v e-shopech: “Lidé jako ty, si koupili ...”. Toto je příklad ANI systémů. Jejich práce je sbírat informace o miliónech zákazníků s spojovat je dohromady tak, aby jste si ve výsledku nakoupili více věcí.
• Google Translator je další typický ANI systém. Působivý v jedné specifické oblasti. Rozeznávání hlasu je další podobný systém ANI. Mnoho aplikací spojuje tyto dva dohromady a umožňuje vám hovořit v jednom jazyce a z telefonu vypadává ta samá věta již přeložená do cizího jazyka.  
• Když přistanete na letišti, tak žádný člověk nevybírá na jaký gate je letadlo navedeno. Stejně tak cena letenek není stanovována lidmi.   
• Nejlepší dnešní hráči dámy, šachů, Scrabblu, Backgammonu a Reversi jsou ANI systémy.
• Google vyhledávání je jeden ANI mozek s neuvěřitelně sofistikovanými metodami a algoritmy pro řazení webových stránek, aby vám poskytl přesně ty, co požadujete.  Totéž platí pro Facebookovský Newsfeed.
• To jsou jen příklady z civilního světa. Pokročilé ANI systémy jsou široce používány ve vojenství, průmyslu a financích(finanční vysokorychlostní algoritmy používané AI obchodníky zobchodují více něž polovinu všech akcií na US trzích). Dále to jsou expertní systémy co pomáhají doktorům stanovovat diagnózy. Dále famózní systém  Watson z laboratoří IBM, který obsahuje dostatek vědomostí a faktů a dokáže porozumět zvláštnímu přízvuku moderátora Trebka, z americké verze soutěže “Kdo chce být miliónařem” (Jeopardy) a drtivě porazit nejvíce úspěšné šampióny v této hře.

ANI systémy dneška nejsou nějak výrazně děsivé. Chybný nebo špatně napsaný ANI může, přinejhorším, způsobit lokální katastrofu jako je výpadek elektrické sítě, smrtící problém v jaderné elektrárně nebo spustit pohromu na finančních trzích (jako v roce 2010 Flash Crash, kdy ANI program chybně  zareagoval na nepředvídanou situaci a způsobil krátkodobý pád burzy. Utrpěné ztráty byly ve výši jednoho triliónu dolarů tržní hodnoty a ne všechna aktiva byla navrácena po tom, co byla chyba opravena.)

Ale zatímco ANI nemá možnost způsobit existenciální problém lidstvu, měli bychom pozorovat vzrůstající velké a propojené ekosystémy relativně neškodných ANI jako  předchůdce hurikánu změn co zasáhnou náš svět. Každá nová ANI inovace potichu přidává další kamínek na cestu k AGI a posléze k ASI.  Aaron Saenz to vidí tak, že naše ANI systémy “Jsou jako amino-kyseliny v pravěkém bahně v počátcích Země. Neživá látka, co se jednoho dne neočekávaně probudí.”

Cesta od ANI do AGI

Proč je to tak těžké

Nic jiného nám neumožní si vážit lidské inteligence, jako poznání o tom jak neuvěřitelně složité je vytvořit počítač tak chytrý jako jsme my. Výstavba mrakodrapů, vysílání lidí do vesmíru, poznávání detailů o průběhu Velkého Třesku, vše z toho je o mnoho jednoduší a pochopitelnější, než porozumění toho jak, funguje náš mozek a jak něco tak úžasného můžeme replikovat. Dodnes je lidský mozek nejvíce komplexní a nejsložitější věc v našem známém vesmíru.

Zajímavé je, že nejtěžší na vytvoření AGI (počítače chytrého jako člověk ve všech směrech, ne jen ve specifické oblasti) není to co si asi intuitivně si myslíme, že by mohlo být. Vytvořit počítač, co dokáže vynásobit dvě desetimístná čísla ve zlomcích vteřiny je naprosto jednoduché, ale vytvořit ho tak, aby když se podívá na psa tak odpověď na otázku, zda je to pes nebo kočka, je výrazně náročnější.  (poznámka překladatele: Tento článek byl zveřejněn počátkem roku 2015. V červenci se objevují první známky o tom, že umělá inteligence nejenom rozezná kočku od psa, ale dokáže velmi přesně rozeznat i nezvyklé lidské činnosti. Neskutečný pokrok za pár měsíců.) Vytvořit AI co dokáže porazit člověka v šachu. Hotovo.  Ale co vytvoření inteligence, která se dokáže podívat na obrázek v knížce šestiletého dítěte a nejen rozeznat co na něm je, ale hlavně pochopit význam celého obrázku? Google za tento výzkum dnes utrácí miliardy dolarů. Pro nás těžké disciplíny jako jsou počty, strategie finančních trhů a překlady jazyků jsou pro algoritmy docela jednoduché, zatímco na první pohled jednoduché činnosti jako představivost, pohyb a předvídavost jsou nepředstavitelně těžké úlohy pro počítač. Jak to glosuje počítačový vědec Donald Knuth, “Uměla inteligence je dnes velmi úspěšná v oblastech, kde člověk potřebuje myslet a je neúspěšná tam, kde člověk a většina zvířat “myslet nepotřebuje”.

Pokud přemýšlíte nad tím co bylo napsáno, tak jste zjistili, že věci co se nám zdají jednoduché tak jsou ve skutečnosti neobyčejně komplikované. Ano, zdají se nám jednoduché, ale jen pro to, že pro tyto činnosti jsou pro nás (a pro mnoho živočichů) optimalizovány stovkami miliónů let živočišného vývoje. Jen zdvihnutí ruky a uchopení předmětu, zaměstná svaly, šlachy a kosti v rameni, lokti a zápěstí při pohybu ve třech rovinách. Nám se to zdá  bez námahy, protože máme vynikající software v naší hlavě co to řídí. Pro to také platí, že je pro nás jednodušší rozeznat “captcha” ochranu, při přihlašováni do webových služeb, než počítačovým programům. Náš mozek je v impozantní v rozeznávání věcí.  

Na druhou stranu, násobení velkých čísel nebo hra v  šachy jsou aktivity hodně nové pro biologické bytosti a tak jsme neměli dostatek času si vyvinout potřebné dovednosti.  Počítač  tak nepotřebuje výraznější úsilí nás v tom pokořit. Přemýšlejte, bylo by lepší vytvořit počítačový program co by násobil velká čísla nebo ten co úplně pochopí znak B tak dobře, že pozná znak B v tisíci nepredikovatelných způsobech včetně ručně psaných podob tak aby inhed pochopil, že se jedná o B?  

Jeden vtipný příklad. Pokud se na tento obrázek podíváte vy a počítač tak oba pochopíte, že to je obdélník tvořený střídavými odlišnými odstíny šedé.

Zatím vše jasné, ale jen do té doby, než se odstraní černé pozadí a odhalí se celý obrázek.

...vy nebudete mít problém popsat přesně jednotlivé překrývající a prosvítající  válce, zvlnění nebo prostorové útvary. Počítač z toho bude nešťastný. Pokud by měl pospat co vidí, tak by popsal různě dvojrozměrné tvary v několika šedivých odstínech. Váš mozek dělá velké množství zajímavých operací k tomu aby rozeznal hloubku, tvar stínů a dopadající světlo na obrázek a tak vykreslil výsledný obraz. Podívejte se na ještě jeden níže. Počítač vidí dvourozměrnou  bílou, černo , šedou koláž, zatímco vy jednoduše vidíte co to ve skutečnosti je. Černobílá fotka kamene.

 

A to vše, co jsme zde zatím zmínili je stále jen o statických informacích a jejich zpracovaní. K dosažení lidské úrovně inteligence, potřebuje počítač pochopit složitější věci. Například jaký je vztah mezi nepatrnými rozdíly ve výrazech tváře, vnímat rozdíl mezi tím být potěšen, uklidněn, spokojen, uspokojen a vesel. Pochopit proč Pelíšky je pěkný film a Kameňák brak.

Jak toho vlastně dosáhnout?

Krok 1 k vytvoření AGI: Zvýšit výkonnost počítačů

Jedna věc co se naprosto jasně musí stát, aby AGI mohla být realitou, je zvětšení výpočetního výkonu hardware. Jestli má být AI systém tak inteligentní jako mozek, tak musí mít i stejný výkon.

Jeden z možných způsobů jak vyjádřit výkon je v “Total Calculations per Second (CPS) - celkové množství operací za vteřinu”, které je schopen mozek zvládnout. Abychom mohli dát vyjádřit celkový výkon mozku, je potřeba najít maximální CPS jednotlivých částí a spočítat je dohromady.

Ray Kurzweil přišel se zkratkou jak na to. Vzal profesionální odhad CPS

jedné ze struktur v hlavě a porovnal váhu této struktury s celým mozkem. Následně proporčně vynásobil ostatní a dostal celkový výsledek. Zdá se to trochu divoké, ale ověřil to mnohokrát oproti odborným odhadům zkoumaných struktur z různých oblastí mozku a výsledek byl vždy obdobný - 10 biliard (1016) CPS.

Dnešní nejvýkonnější superpočítač je čínský Tianhe-2 a jednoznačně překonává hranici výkonu mozku s taktem okolo 34 biliard CPS. Na druhou stranu Tianhe-2 je pěkný otesánek, zabírající 720 čtverečních metrů prostoru, spotřebu má 24 megawatt elektřiny (naproti tomu našemu mozku stačí jen 20 wattů) a pokud byste ho chtěli postavit, je potřeba mít 390 miliónů dolarů. Nelze ho tak využít pro širší použití v komerčním nebo průmyslovém prostředí.

 

Kurzweil ukazuje na známý fakt, že my přemýšlíme o dostupnosti počítačů pohledem na to kolik CPS můžeme dostat za cenu tisíc dolarů. Až nastane doba, kdy za tuto cenu koupíme výkon 10 biliard CPS, potom to znamená, že AGI se může stát realitou našeho života.  

Mooreův zákon je historicky spolehlivé pravidlo které tvrdí, že se celkový výkon všech počítačů na světe se přibližně každé dva roky zdvojnásobí. To znamená, že počítačový pokrok, stejně jako lidský během historie, roste exponenciálně. Podívejte se na obrázek, jak to souvisí s Kurzweilovým poměrem CPS/tisíc dolarů. V současnosti jsme zhruba na hodnotě 10 biliónů CPS na tisíc dolarů. Přesně to souhlasí s předpokládanou trajektorií na grafu:

Za jeden tisíc dolarů dnes, můžete pokořit myší mozek a současně jste na tisícině  potřebného výkonu pro lidský mozek.  To nezní na první pohled nijak moc dobře, ale jen do té doby než si uvědomíte, že v roce 1985 jsme byli na jedné biliontině. V roce 1995 na jedné miliarditině. V roce 2005 na jedné milióntině. Být na jedné tisícině znamená, být na dobré cestě k tomu, aby se počítač roku 2025 mohl stát vyzyvatelem našeho mozku.   

Co se týká hardware, tak čistý výkon potřebný pro AGI je technicky dostupný již dnes v Číně. Do deseti let takový výkon bude rozšířený a cenově dostupný prakticky pro každého. Je potřeba však podotknout, že čistý výkon sám o sobě nedělá počítače obecně  inteligentními. Další otázka tedy zní, jak využít dostupnou výpočetní sílu pro vytvoření umělé inteligence na úrovni člověka?

Krok 2 k vytvoření AGI: Udělat ho chytrým

Teď ta těžší část. Pravdou je, že dnes nikdo opravdu neví, jak to udělat. Stále se vedou diskuze jak udělat počítač chytrým jako je člověk, tedy schopným rozeznat kočku od psa, divným způsobem napsaný znak B nebo jak s ním diskutovat o průměrnost filmu.  Nicméně existuje několik, téměř neuvěřitelných, způsobů jak toho dosáhnout. Jeden z nich bude fungovat. Projděme si tři nejvíce diskutované:

1) Okopírování mozku.

Je to jako by se  vědci trápili nad testem, zatímco dítě sedící vedle nich ve třídě nemělo s tím testem žádný problém. Bylo by úplně jedno jak pilně se připravovali, prostě by na něj neměli. Nakonec by jim nezbylo než říci, ”Kurva, prostě okopírujeme jeho odpovědi.” A bylo by. Stále se zaujatě snažíme postavit super-komplexní počítač a přitom je zde vynikající protototyp v našich hlavách.

Vědci po celém světe se usilovně snaží provést  reverzní engineering  mozku a zjistit jak evoluce dokázala udělat tak unikátní věc. Optimistické předpoklady naznačují, že toho budeme schopni do roku 2030. Jakmile to bude, budeme znát tajemství výkonnosti a efektivity našeho mozku. Současně budeme moci čerpat inspiraci a krást inovace. Jeden příklad počítačové architektury, která napodobuje mozek je umělá neuronová síť. Začala jako síť tranzistorů (neuronů), spojených dohromady se vstupy a výstupy a neznala nic. Jako dětský mozek. Zkoušení jednotlivých úloh byl způsob, jakým probíhalo “učení”. Například rozeznání ručně psaného textu. Ze začátku se se nervová spojení pokouší postupně a naprosto náhodně dešifrovat jednotlivá písmena. Pokud počítač nazná, že odhadl správně tak si zapamatuje celou cestu správného spojení a přiřadí ji větší prioritu. Ostatní spojení, co nevedoucí k cíli dostávají nižší prioritu.  Po mnoha pokusech a vyhodnoceních si neuronová síť, vlastním zkoumáním, chytře formuje neuronové cesty a algoritmus se stává optimalizovaný pro tento daný úkol. Náš mozek se učí podobným, i když výrazně sofistikovaněším, způsobem. Pokračujícím výzkumem mozku objevujeme geniální nové způsoby jak využít neuronové obvody.   

Extrémní plagiátorství zahrnuje strategii nazvanou ”emulace celého mozku - whole brain emulation). Cílem je rozřezat skutečný mozek na malé plátky, každý z nich oscanovat a použít specifický software ke složení přesně zrekonstruovaného 3D modelu a následně implementovat tento model do výkonného počítače. V tu chvíli budeme mít počítač formálně schopný všeho, čeho je schopný lidský mozek. Jestli to inženýři zvládnou dobře, tak bychom měli napodobit mozek s takovou přesností, že po sestavení v počítači, bude jeho osobnost a paměť neporušená. V případě, že mozek patřil k Jimovi, těsně předtím než zemřel, počítač se probudí jako Jim (?). V takovém případě by Jim byl plnohodnotným AGI a mohli bychom pracovat na jeho přeměně v nepředstavitelně chytré ASI, z čehož by Jim jistě hýkal blahem.

Jak jsme tedy daleko s dosažením emulace mozku? Popravdě, ne moc daleko  nedávno jsme emulovali jeden milimetr velký mozek červa obsahující 302 neuronů. Lidský mozek jich má 100 miliard. I když se to zatím zdá jako beznadějné konání, tak nezapomínějte na sílu exponenciálního vývoje. Nyní jsme dobyli mozek malého červa, nedlouho po něm bude následovat mravenec, pak myš a náhle se úspěch tohoto projektu bude zdát více pravděpodobným  

2) Zkusit udělat evoluci stejně tak jak se to již stalo, ale tentokrát pod naší taktovkou.

Pokud dojdeme k poznání, že test od chytrého dítěte je příliš nesrozumitelný pro zkopírovaní, tak vyzkoušíme způsob jakým se dítě na test naučilo.

Toto již známe. Vytvoření počítače tak výkonného jako náš mozek je možné. Evoluce našeho mozku, budiž důkazem. Pokud je náš mozek příliš komplexní, pro to abychom ho emulovali, zkusme namísto toho emulovat evoluci. Faktem je, že i když bychom emulovali mozek, mohlo by to dopadnout jako postavit letadlo zkopírováním pohybu ptačích křídel. Stroje většinou fungují lépe, pokud jsou navrženy od začátku jako stroje a nekopírují přesně biologické předlohy.

Jak tedy můžeme simulovat evoluci a vytvořit AGI? Metoda nazvaná “genetické algoritmy - genetic algorithms) funguje asi takto: vytvořme postup “stvoř a vyhodnoť”, který bude neustále probíhat. ( obdobně byla biologická stvoření “stvořena” k životu a následně “vyhodnocena”, zda jsou schopna reprodukce nebo ne.) Skupina počítačů by se pokoušela vyřešit jednotlivé úlohy. Ti  nejúspěšnější by se rozmnožily s ostatními tak, že by se sloučily do jednoho. Ti méně úspěšní by byly zničeni. Tento přírodní proces, by po mnoho a mnoho iterací, vytvářel lepší a lepší algoritmy. Cílem je vytvořit automatickou evoluci a rozmnožovací cyklus, který sám funguje.  Má to ale háček. Evoluce trvala miliardy let a my to chceme stihnout v několika málo desetiletích.

My ale  máme mnoho výhod narozdíl od evoluce. Zaprvé, evoluce nepředvídá a funguje náhodně a tím vytváří více zbytečných mutací než těch použitelných My můžeme směrovat proces evoluce a kontrolovat ho pomocí prospěšných a cílených změn.  Zadruhé, evoluce nemá vůbec žádný cíl včetně inteligence a někdy jde vývoj i proti inteligenci (protože by to stálo mnoho energie). Na druhou stranu, my můžeme kontrolovat směr této evoluce přímo směrem ke zvýšení inteligence. Zatřetí, pro to aby mohla vzniknout inteligence tak sama evoluce  se musí inovovat v mnoha oblastech aby mohla ulehčit vývoji inteligence, podobně jakým způsobem jsme to udělali s elektrickými články,když měníme jejich vlastnosti a zaměřujeme se jen na produkci energie.  Je nadevší pochybnost, že my budeme o mnoho mnoho rychlejší než přirozený průběh evoluce, nicméně není stále zřejmé zda budeme schopni zlepšit evoluci tak moc aby to mohla být funkční strategie.

3) Udělejme z toho problém počítačů, ne náš

Když jsou vědci zoufalí, tak dělají zoufale činy.  Zkusí třeba navrhnou program, který by se sám otestoval a opravil. Tato cesta se zdá nejslibnější z těch co  zatím máme. Myšlenka je postavit počítač jehož dvě hlavní dovednosti budou výzkum umělé inteligence a integrace změn do sebe sama. Tedy nejen se naučit nové věci, ale na jejich základě vylepšit svoji architekturu. Když naučíme počítače být počítačovými vědci a tak výrazně zrychlíme jejich vlastní vývoj. Najít způsob jak se udělat chytřejšími by byla jejich hlavní náplň práce. Více o tomto tématu v druhé části.

Vše se může stát brzy

Rychlý vývoj hardware a inovativní softwarové experimenty probíhají současně. AGI by se k nám mohlo připlížit rychle a neočekávaně ze dvou hlavních důvodů.

Obrázek:

Jak dlouho bude trvat počítači, než bude mít stejnou výkonnost jako lidský mozek?

Objem jezera Michigan (v objemových uncích) je obdobný jako kapacita našeho mozku ( v počtech operací za sekundu). Výpočetní kapacita se každých osmnáct měsíců dvojnásobí. Po dlouhý čas je tempo přírůstků jen velmi pozvolné - až je znenadání hotovo.   

Source

Pokud se jedná o software, tak se vývoj může zdát pomalý, ale stačí jen jen jedno prozření co změní rychlost vývoje. (Ostatně tak se to ve vědě stává. V té době, kdy lidé věřili že vesmír je geocentrický, bylo jen velmi obtížné vypozorovat jak vlastně vesmír funguje. Potom jsme zjistili, že je heliocentrický a najednou bylo vše lehčí.) Může se nám to zdát velmi vzdálená budoucnost, pokud uvažujeme o něčem jako je počítač co se dokáže sám vylepšovat, ale stejně tak můžeme být pouze jedno vylepšení od tisicínássobného zvýšení efektivity a velmi rychlého dosažení úrovně lidské inteligence.

Cesta od AGI k ASI

Jednoho dne dosáhneme úrovně AGI - počítače s lidskou úrovní inteligence. V tu chvíli si lidé a počítače  budou rovni.

Hmmm.... to ani náhodou!

Celá věc se má tak, že AGI se stejnou mírou vědomí a výpočetním výkonem jako má člověk, bude mít podstatné výhody oproti lidem.

Hardware:

• Rychlost. Maximální frekvence neuronů je 200 Hz, zatímco dnešní mikroprocesory (které jsou výrazně pomalejší, než je nutné pro dosažení AGI) jsou na úrovní kolem 2Ghz neboli deseti milionkrát rychlejší než naše neurony. Dále  je rychlost komunikace v mozku omezena na zhruba 120m/s. Hrůzostrašně pomalé při pomyšlení na rychlost komunikace procesorů téměř rychlostí světla.

• Velikost a paměť. Mozek je omezen velikostí lebky a i kdyby ne, tak by nemohl být o moc větší. Při rychlosti interní komunikace zmíněných 120 m/s by předání informace, z jedné části mozku do druhé trvalo příliš dlouho. Počítače mohou růst do jakékoliv fyzické velikosti přidáváním dalšího hardware. Mohou využít většího množství krátkodobé  (RAM) i dlouhodobé paměti (datová úložiště). To je daleko nad naše kapacity a přesnosti.

• Spolehlivost a trvanlivost. Není to jen o tom, že paměť počítače by byla více výkonnější. Počítačové tranzistory jsou více přesnější něž biologické neurony a méně se opotřebovávají, současně mohou být vyměněny nebo opraveny. Dále se náš mozek unaví podstatně dříve, zatímco počítač může pracovat naplno a bez přestávky 24 hodin.  

Software:

• Opravitelnost, modernizace a široká míra záběru. Narozdíl od lidského mozku může počítač vykonávat opravy či vylepšení. Současně na jiných jeho částech může docházet k paralelnímu vývoji novinek. Vylepšení se samozřejmě samozřejmě týká i oblasti, ve kterých je dnes náš mozek slabý. Lidská představivost je ohromně vyvinutá zatímco smysl pro složitější inženýrství skoro vůbec. Počítače mohou dohnat lidi v představivosti, ale stejně tak výrazně optimalizovat svoje silné stránky nebo v jakékoliv jiné co by potřebovaly.  

• Kolektivní vědomí. Lidé dokázali porazit ostatní druhy vybudováním ohromného společného vědění. Začalo to vývojem jazyka a formováním rozsáhlých komunit díky  vynálezu písma a pak tisku a to vše vystupňováno vynálezy jako je internet. Prostě lidské vědomosti jsou hlavním důvodem proč jsme se byli schopni dostat tak daleko oproti ostatním druhům. Počítače v tom budou lépe než jsme my. Celosvětová síť AI pracující na nějakém problému můžev reálném čase sdílet výsledky s jakýmkoliv dalším počítačovým systémem a umožnit tak další rychlý rozvoj. Všechny počítače také mohou mít jeden cíl, který sledují. Nemusí se potýkat s názory, nesouhlasy nebo rozdílnými motivacemi a vlastními zájmy jako to dělají lidé.  

Umělá inteligence úrovně AGI bude pravděpodobně naprogramována tak, aby se sama zlepšovala. Dosažení úrovně “lidské inteligence” pro ni nebude důležitý milník a nebude mít žádný důvod na této úrovni setrvávat.  Toto je jen jisté měřítko pro nás. A z výše zmíněných výhod, co umělá inteligence bude mít oproti nám, je zcela jasné, že dosažení lidské úrovně bude jen na krátký okamžik, před dalším vývojem směřující k vládě nadřazené nad lidskou inteligencí.

Až se tak stane, tak nás to bude zatraceně šokovat z několika důvodů.

• Inteligence různých zvířat je různá. Co ale naprosto jasně víme, že je zatraceně menší než ta naše.
• Vetšinou vnímáme a zobrazujeme inteligenci na rozsahu od nechytřejšího člověka po nejhloupějšího. Asi takto:

Jak se umělá inteligence blíží nahoru k nám, zdá se nám čím dál tím více chytřejší, podobně vnímáme různá zvířata.  Až jednoho dne dosáhne nejnižší lidské inteligence, (Nick Bostrom používá termín “vesnický idiot”). tak budeme mít nutkání říkat něco takového “ Ó koukej, je to roztomilý hlupáček”. Úskalí je však vtom, že inteligenční rozdíl mezi vesnickým idiotem a Ensteinem je ve skutečnosti velmi malý. Jen co AI dosáhne inteligence vesnického idiota a než my stačíme prohlásit,  že jsme dokázali vytvořit AGI, tak už bude chytřejší než Einstein a my ani nebudeme vědět jak se to vlastně stalo.

A co se stane potom?

Exploze inteligence

Doufám, že si užíváte současnou dobu, protože pak nás čekají abnormální a děsivé věci. Daleko od toho co známe dnes. Zde by se chtěl zastavit a připomenou, že cokoliv zde řeknu je realita. Mějte na paměti, že je to skutečnost založená na vědeckých poznatcích a předpovědích velké skupiny nejrespektovanějších vědců a myslitelů,

Nicméně jak jsem uvedl výše, většina současných modelů vedoucích k AGI staví na samoučících se algoritmech. I kdyby tomu tak nebylo a my dosáhli AGI bez nich,  tak v tuto chvíli bude systém natolik vyspělý, že si bude moci vlastnost sebezlepšovaní vyvinout, pokud bude chtít.

A od této chvíle pocítíme sílu rekurzivního sebezlepšení Bude to fungovat asi takto:

Umělá inteligence na určitém stupni vývoje, řekněme vesnického idiota, je naprogramována s cílem zlepšit svoji inteligenci. Jakmile to vykoná, bude o něco chytřejší, třeba jako Einstein. Nyní opět zvýší svoji inteligenci, bude to mít lehčí než před tím a dokáže udělat větší krok kupředu. To znamená, že bude chytřejší než kdokoliv z nás a bude přípraven na další, větší posun dopředu. Toto se bude opakovat čím dál tím častěji a s větší efektivitou. V tuto chvíli  AGI systém doslova letí vzhůru s inteligencí a brzy dosáhne úrovně ASI. Toto se nazývá inteligenční exploze a je to vrcholný stav Zákona zrychlujících se změn.

Vedou se debaty jak dlouho muže trvat AI než dosáhne lidské úrovně. Z průzkumu, mezi stovkami vědců o tom, kdy oni věří že se to stane nám vychází, že tento stav nastane do roku 2040. Tedy jen za 25 let odedneška. Což opravdu není moc daleko. Současně mnoho z nich si také myslí, že vývoj od AGI k ASI se pak stane podstatně rychleji.

Trvá to desetiletí, než první AI systém dosáhne základní úrovně lidské inteligence. Nakonec se to však stane. Počítač bude schopen porozumět světu okolo tak dobře jako čtyřleté dítě. Najednou, doslova v další hodině, po dosažení tohoto milníku si systém napumpuje velkou teorii fyziky která obsahuje obecnou teorii relativity a kvantové mechaniky. Tedy něco čeho člověk není schopen. Devadesát minut potom, se z umělé inteligence stane ASI. 170 000 krát inteligentnější než člověk.

Superinteligence této velikosti je něco co nemůžeme jen tak pochopit. Stejně tak jako čmelák nepobere teorii keynesiánské ekonomiky. V našem vnímání světa je chytrý člověk ten, kdo má IQ 130 a blbec ten s IQ 85. Nemáme žádné výrazy pro něco, co má IQ 12 952.

Co však naprosto  známe z lidské dominance na planetě Zemi je, že s inteligencí přichází síla. Je tedy jasné, že jakmile stvoříme ASI, tak to bude nejsilnější bytost v celé historii života na Zemi. Všechny živoucí organismy, včetně člověka budou zcela v jeho rozmaru. Toto se stane za několik desetiletí.  

Pokud naše stávající mozky byly schopné vynalézt něco jako WiFi, potom něco stokrát, tisíckrát  nebo miliardkrát chytřejšího než jsme my, nebude mít problém kontrolovat a ovládat pozice všech atomů na zemi. Kdykoliv a jakkoliv se mu zachce. Jakákoliv naše představa o magii a o tom co bychom s ní mohli vše uskutečnit, bude tohoto nejvyššího ASI Boha tak snadné, jako pro nás je zapnutí vypínače. Vynalezení technologie co obrátí proces lidského stárnutí, vyléčení všech nemocí, jídlo a voda pro všechny a nesmrtelnost! Přeprogramování počasí tak, aby chránilo život za zemi? Vše bude najednou možné. Stejně tak jako okamžitý konec všeho živého.

Jestli se ASI stane skutečností, tak budeme mít všemohoucího boha přímo na zemi. Jediná otázka co nás bude zajímat:

BUDE TO HODNÝ BŮH?

-------------------

Related Wait But Why Posts (anglicky)

The Fermi Paradox – Why don’t we see any signs of alien life?

How (and Why) SpaceX Will Colonize Mars – A post I got to work on with Elon Musk and one that reframed my mental picture of the future.

Or for something totally different and yet somehow related, Why Procrastinators Procrastinate

And here’s Year 1 of Wait But Why on an ebook.