100
18. Překročení lidského stínu
zpracování. Tato logika jako by se od té klasické, tedy založené na lineárních, krokových úvahách, značně lišila a v mnohém ji překonávala. Vezměme si třeba takového kriketového či baseballového polaře, tedy hráče v poli. Pálkou odpálený míček k němu letí rychlostí 150 km/h. Chce-li polař vzdálený padesát metrů takový míček chytit, musí nejenom nashromáždit potřebné vizuální informace, ale také je vmžiku prohnat přes mozkový program, jenž řídí jeho motoriku a dovolí mu ihned přesně vystihnout dráhu letícího objektu. Kdyby hráč spoléhal na logiku postupných, po sobě jdoucích krůčků, jakými se řídí komunikace mluveným slovem, zabral by mu takový úkon možná i několik hodin, ne-li dní. Chceme-li lapit míček nebo se vyhnout skákajícímu predátorovi, neobejdeme se bez mnohem rychlejší, komplexnější odezvy. Uvažovat podle lineární logiky je sice elegantní, ale kdybychom na něco takového spoléhali v džungli, brzo bychom zemřeli. Před nástrahami prostředí nás chrání právě bleskovost našich instinktů. Veškerá zařízení od robotů až po váš laptop jako by stála na myšlence, že i těm nejvyspělejším strojům musí vždy cosi zásadního scházet. Postrádají jakousi kvalitu — snad duši, snad schopnost empatie —, bez níž nejsou s to překročit onu poslední překážku, která je od nás odděluje. Ve světě vědecké fantastiky se s tímto motivem setkáme velmi často. Nejslavněji ho ztělesňuje android Dat z televizního seriálu Star Trek: Nová generace, jenž ustavičně zápolí se snahou počínat si více jako člověk. Tento cíl považuje Dat za tu nejzazší metu. Asi by jej dost zklamalo, kdyby si uvědomil, že za jeho nezpůsobilostí k plnohodnotnému lidskému chování stojí záměr jeho tvůrců, posedlých lineárním logickým uvažováním. Dat se projevuje přátelsky, mnohdy přímo hrdinsky, a rozhodně nebudí žádné znepokojení. Obvykle však na nás takoví fiktivní, přátelští, poddajní robotičtí otroci — podobní lidem,
Ukázka elektronické knihy, UID: KOS511088
novacén
101
ale ne zas úplně lidští — působí poněkud dvojznačně. Nemůžeme se zbavit neodbytné otázky: co se jim asi honí hlavou? Skutečnost, že jim schází intuitivní vhled, nás zneklidňuje, neboť se bojíme, že je neúprosná logika dovede k závěrům, na něž by lidstvo mohlo doplatit. Nad počínáním a etikou kyborgů (respektive robotů, jak se jim tehdy říkalo) se jako první hluboce zamýšlel spisovatel science fiction Isaac Asimov. Ten v roce 1942 napsal povídku,* v níž navrhl, jak se s touto otázkou vypořádat. Jeho řešení dostalo podobu takzvaných tří zákonů robotiky: 1)
Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby člověku bylo ublíženo. 2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy tyto příkazy jsou v rozporu s prvním zákonem. 3) Robot musí chránit sebe sama před zničením, kromě případů, kdy tato ochrana je v rozporu s prvním nebo druhým zákonem.** Na první pohled se tato pravidla zdají celkem neprůstřelná a přetřásají se v té či oné podobě nejen na stránkách vědecko-fantastické literatury, ale také v seriózních debatách o úskalích umělé inteligence. Přesto je v trojici těchto zákonů zásadní trhlina — představují si roboty jako bytosti, které nemají stejnou svobodu jako my lidé. I my sice máme svá pravidla, ale když se nám to hodí, můžeme je porušit. Mají-li Asimovovy zákony fungovat, je podobná neposlušnost vyloučena. *
**
Asimov, Isaac: „Hra na honěnou“. In: Já, robot, přel. Oldřich Černý. Praha: Odeon 1981, s. 41—62. (Pozn. překl.) Tamtéž, s. 9. (Pozn. překl.)
Ukázka elektronické knihy, UID: KOS511088
102
18. Překročení lidského stínu
Jenže nic takového se u novacenních kyborgů předpokládat nedá. Na lidské příkazy nebudou muset brát zřetel, jelikož vzejdou z programů, které si napíšou oni sami. Tyto programy budou přitom už od začátku mnohem lepší než kódy napsané lidmi. Kdykoli se podívám na nějaký nedávno vyvinutý počítačový kód, jímá mě děs a hrůza. Kdyby vám někdo předložil totéž v angličtině, hodili byste to rovnou do koše. Programátoři si totiž rádi šetří práci, a tak nový kód prostě jen vrší na nějaký starší, čímž vzniká naprostý galimatyáš. Kyborgové začnou naproti tomu od píky; podobně jako AlphaZero budou stavět na zelené louce. To ovšem znamená, že přátelské chování k lidem si budou muset odůvodnit pouze oni sami. Jak ale takoví kyborgové budou vlastně vypadat? Možné je ledasco, ale i když teď vyloženě spekuluji, osobně si je představuji jako koule.
Ukázka elektronické knihy