2. Druhé stvoření inteligence
Pokoření Turingova testu Vzhledem k tomu, že AI získává překvapující nové schopnosti měsíc co měsíc a že se prudce zlepšuje poměr ceny a výkonu u výpočtů, které ji pohánějí, je trajektorie zřejmá. Jenže jak rozhodneme, že AI konečně dosáhla inteligence lidské úrovně? Turingův test, popsaný v úvodu této kapitoly, nám umožňuje přistupovat k této otázce přísně vědecky. Turing neupřesnil rozličné detaily testu, např. jak dlouho by lidští porotci s AI rozprávěli a jaké schopnosti by měli mít. Devátého dubna 2002 jsme s průkopníkem osobních počítačů Mitchem Kaporem uzavřeli první sázku pod záštitou nadace Long Now, týkající se toho, zda Turingův test padne do roku 2029.155 V této souvislosti jsme zvažovali několik problémů, např. stanovení toho, o kolik může mít člověk (v roli porotce nebo lidského protihráče) vylepšenou kognici, aby mohl být pořád pokládán za člověka. Důvodem, proč je přesně definovaný empirický test nezbytný, je to, že lidé mají – jak zmíněno výše – silný sklon zpětně tvrdit, že to, čeho umělá inteligence fakticky dosáhla, ve skutečnosti zas tak těžké nebylo. Tomu se často říká „AI efekt“.156 Během sedmi desetiletí od doby, kdy Turing navrhl svou imitační hru, nás počítače postupně překonávaly v mnoha úzce vymezených oblastech inteligence. Vždy jim však chyběla šíře a flexibilita lidského intelektu. Když superpočítač Deep Blue společnosti IBM v roce 1998 porazil mistra světa 83
Ray Kurzweil: Na prahu singularity
v šachu Garriho Kasparova, mnoho komentátorů zlehčovalo význam tohoto úspěchu pro kognici uplatňovanou ve skutečném světě.157 Jelikož v šachu máme dokonalé informace o umístění kamenů na šachovnici a v každém kroku existuje poměrně málo možností, jak táhnout, lze hru snadno reprezentovat matematicky. Dalo se proto tvrdit, že vítězství nad Kasparovem bylo jen efektním matematickým fíglem. Někteří pozorovatelé sebejistě předpovídali, že počítače nikdy neovládnou ony nejednoznačné, v přirozeném jazyce prováděné úlohy, jichž je zapotřebí k řešení křížovek nebo k účasti v dlouho uváděné vědomostní soutěži Jeopardy!158 Křížovky však byly zdolány během dvou let159 a o méně než 12 let poté se počítač Watson společnosti IBM zúčastnil soutěže Jeopardy! a s přehledem porazil dva nejlepší lidské hráče Kena Jenningse a Brada Ruttera.160 Tato utkání ukazují něco velmi důležitého o AI a Turingově testu. Díky své schopnosti zpracovávat nápovědy, spouštět bzučák a sebevědomě oznamovat správné odpovědi budil Watson nadmíru přesvědčivé zdání, že přemýšlí ve velmi podobném smyslu jako Ken a Brad. To však nebyly jediné informace, které diváci dostali. Ve spodní třetině obrazovky byly vidět tři hlavní Watsonovy tipy ke každé nápovědě. Přestože ten první byl skoro vždycky správný, druhý a třetí nebyly prostě jen nesprávné, nýbrž často úplně nesmyslné – byly to hloupoučké chyby, jakých by se nikdy nedopustil ani velmi špatný lidský hráč. Například v kategorii „EU, Evropská unie“ nápověda zněla: „Je volen každých 5 let a má 736 členů ze 7 stran.“161 Watson správně uhodl (s 66procentní mírou jistoty), že správná odpověď je Evropský parlament. Jeho druhý tip však byl „členové Evropského parlamentu“ (14 procent) a třetí byl „všeobecné hlasovací právo“ (10 procent).162 I člověk, který o Evropské unii nikdy ani neslyšel, by věděl, že ani jedna z těchto možností nepřipadá v úvahu čistě kvůli syntaxi nápovědy. To ukazuje, že ačkoli se Watsonův způsob 84
2. Druhé stvoření inteligence
hraní zdál lidský, byla jeho „kognice“, podíváme-li se trochu pod kapotu, zcela odlišná od naší vlastní. Zásluhou nedávných pokroků dnes AI umí chápat a používat přirozený jazyk mnohem plynuleji. V roce 2018 uvedl Google do provozu program Duplex, AI asistenta, který po telefonu mluvil tak přirozeně, že jej nicnetušící osoby na druhém konci linky pokládaly za člověka. Project Debater od IBM, představený téhož roku, se zase přesvědčivě účastnil soutěžních debat.163 A nyní, v roce 2023, již LLM dokážou psát celé školní práce na lidské úrovni. Přes tyto pokroky je nicméně i GPT-4 náchylný k občasným „halucinacím“: sebevědomě dává odpovědi, které nemají oporu ve skutečnosti.164 Pokud ho například požádáte, aby shrnul neexistující novinový článek, možná si vyfabuluje informace, které budou znít naprosto věrohodně. Když ho poprosíte, aby uvedl zdroje pro pravdivý vědecký fakt, možná vás odkáže na neexistující studie. Vzdor usilovným snahám programátorů halucinace zkrotit zůstává v tuto chvíli otevřenou otázkou, jak obtížné bude tento problém vyřešit.165 Tyto lapsy však hlavně ukazují, že i tyto výkonné AI – stejně jako předtím Watson – generují své odpovědi pomocí tajuplných matematických a statistických postupů, které se velmi liší od čehokoli, v čem bychom poznali své vlastní myšlenkové pochody. To se na první pohled zdá jako problém. Můžeme být v pokušení se domnívat, že Watson „by měl“ uvažovat tak, jak uvažují lidé. Já bych však tvrdil, že to je jenom pověra. Ve skutečném světě záleží na tom, jak inteligentní bytost jedná. Pokud odlišné výpočetní procesy dovedou budoucí AI k tomu, že učiní průlomové vědecké objevy nebo napíše dojemné romány, proč by nám mělo záležet na tom, jak přesně je vygenerovala? A pokud bude AI schopna výmluvně vyhlašovat, že má vědomí, z jakých etických důvodů bychom měli lpět na tom, že schopnost cítění hodná toho jména může povstat jen z naší vlastní biologické přirozenosti? 85
Ray Kurzweil: Na prahu singularity
Empirismus Turingova testu nás nutí soustředit se na to, co je skutečně podstatné. I když však Turingův test bude pro zhodnocení pokroků AI velmi užitečný, neměli bychom ho pokládat za jediné měřítko vyspělé inteligence. Jak ukázaly systémy jako PaLM2 a GPT-4, stroje nás mohou překonat v různých kognitivně náročných úkolech, aniž musejí být schopny přesvědčivě napodobit člověka v jiných oblastech. Mezi lety 2023 a 2029, kdy podle mých očekávání poprvé padne přísně pojatý Turingův test, budou počítače dosahovat zjevně nadlidské úrovně v rozšiřujícím se spektru oblastí. Vlastně je i možné, že by AI mohla dospět na nadlidskou úroveň ve schopnosti programovat sebe samu předtím, než si osvojí každodenní společenské finesy potřebné ke složení Turingova testu. To zůstává nevyřešenou otázkou, ale sama tato možnost ukazuje, proč náš pojem inteligence lidské úrovně musí být bohatý a nuancovaný. Turingův test tu rozhodně bude hrát velkou roli, ale budeme muset rovněž vypracovat důmyslnější metody posuzování toho, jak se lidská a strojová inteligence budou vzájemně lišit či podobat. Přestože někteří lidé nesouhlasí s tím, aby se Turingův test používal jako ukazatel toho, že stroj dosáhl inteligence lidské úrovně, osobně se domnívám, že předvedení skutečného úspěchu v Turingově testu by bylo pro pozorovatele působivým zážitkem a přesvědčilo by veřejnost, že se jedná o opravdovou inteligenci, nikoli jen o její mimikry. Jak Turing prohlásil v roce 1950: „Nemohou stroje vykonávat něco, co by se mělo označit jako myšlení, ale co se velmi liší od toho, co dělají lidé? … Lze-li nicméně zkonstruovat stroj tak, aby hrál imitační hru uspokojivě, nemusí nás tato námitka znepokojovat.“166 Měli bychom poznamenat, že až AI uspěje v této silné verzi Turingova testu, bude už ve skutečnosti lepší než člověk ve všech kognitivních testech, které lze vyjádřit jazykem.167 Nedostatky v kterékoli z těchto oblastí by test mohl odhalit. To 86
2. Druhé stvoření inteligence
Kreslený vtip ukazuje zbývající kognitivní úlohy, které AI dosud neovládla („Jenom lidé pořádají tiskové konference“, „Jenom člověk umí napsat recenzi filmu“). Plakáty na podlaze ukazují úlohy, jež si už osvojila („Jenom lidé umějí rozpoznávat tváře“, „Jenom lidé mohou být šachovými velmistry“ atp.). Plakáty ohraničené čárkovaným rámováním představují úkoly, které jsou v současnosti předmětem výzkumu (např. „Jenom lidé umějí hrát baseball“, „Jenom lidé mají zdravý rozum“). 87
Ray Kurzweil: Na prahu singularity
samozřejmě předpokládá vysokou inteligenci porotců i lidských protihráčů. Úspěšná imitace člověka, který je opilý, ospalý nebo neovládá daný jazyk, nebude stačit.168 A podobně pokud AI přelstí porotce, kteří se nevyznají v tom, jak zkoumat její schopnosti, nelze to pokládat za složení platného testu. Turing napsal, že jeho test by se dal použít ke zhodnocení schopností AI „ve skoro kterémkoli oboru lidské činnosti, jaký nás napadne“. Chytrý lidský zkoušející by tedy mohl AI požádat, ať vysvětlí složitou sociální situaci, vyvodí závěry z vědeckých dat a napíše vtipnou sitcomovou scénu. V Turingově testu tak nejde zdaleka jen o porozumění lidskému jazyku jako takovému – jde v něm o kognitivní schopnosti, které vyjadřujeme jazykem. Úspěšná AI by se samozřejmě musela také vystříhat toho, aby se její schopnosti zdály nadlidské. Kdyby dokázala okamžitě zodpovědět jakoukoli kvízovou otázku, rychle rozhodnout, zda jsou nějaká vysoká čísla prvočísly, a plynně hovořit stovkou jazyků, bylo by nabíledni, že není skutečným člověkem. AI, která by dospěla do tohoto bodu, by nadto už měla mnoho schopností výrazně převyšujících ty lidské – od paměti po rychlost kognice. Představte si kognitivní schopnosti systému, jenž rozumí psanému slovu stejně dobře jako lidé, ale zároveň si dokáže bezchybně vybavit všechny články na Wikipedii a všechny vědecké studie, jež kdy byly publikovány. Dnešní AI dosud rozumí jazyku jen nedokonale, což omezuje její celkové znalosti. Oproti tomu hranice lidských vědomostí jsou primárně dány poměrně nízkou rychlostí čtení, omezenou pamětí a nakonec i krátkou délkou života. Počítače již nyní zpracovávají data nesrovnatelně rychleji než lidé – jestliže člověku trvá přečtení knihy v průměru šest hodin, aplikace Talk to Books společnosti Google byla asi pětmiliardkrát rychlejší169 – a mohou mít fakticky neomezenou kapacitu pro ukládání dat. 88
2. Druhé stvoření inteligence
Zrychlující se paradigmata ve vývoji zpracovávání informací Epocha
Médium
Časové měřítko
První
Neživá hmota
Miliardy let (nebiologická syntéza atomů a chemických látek)
Druhá
RNA a DNA
Miliony let (dokud přirozený výběr nepřinese nový způsob chování)
Třetí
Mozeček
Tisíce až miliony let (k získání nových dovedností prostřednictvím evoluce) Hodiny až roky (pro velmi elementární učení)
Čtvrtá
Neokortex
Hodiny až týdny (k ovládnutí složitých nových dovedností) Hodiny až dny (k ovládnutí složitých nových dovedností na nadlidské úrovni)
Digitální neuronové sítě Pátá
Rozhraní mozek-počítač
Sekundy až minuty (k prozkoumání myšlenek, jež jsou pro současné lidi nepředstavitelné)
Šestá
Komputronium
< sekundy (pro neustálou rekonfiguraci kognice až k mezím toho, co umožňují fyzikální zákony)
Až AI dožene lidi ve schopnosti rozumět jazyku, nepůjde jen o postupný nárůst vědomostí, nýbrž o náhlou explozi znalostí. To znamená, že AI, která bude chtít uspět v tradičním Turingově testu, bude ve skutečnosti muset předstírat, že je 89
Ray Kurzweil: Na prahu singularity
hloupější, než je! V úkolech, které nevyžadují imitaci člověka, jako je řešení reálných problémů v medicíně, chemii nebo inženýrství, by tedy AI, jež dospěla na úroveň Turingova testu, už dosahovala výrazně nadlidských výsledků. Abychom porozuměli tomu, jaký bude další vývoj, můžeme se podívat na šest epoch popsaných v předchozí kapitole. Jejich shrnutí nabízí tabulka „Zrychlující se paradigmata ve vývoji zpracovávání informací“ na str. 89.
90