Lidská pasivita
Spory kolem definice a původu vědomí a také stran možnosti toho, že by stroje dosáhly existenciálního porozumění skutečnosti, trvají již dlouho a zůstávají otevřené i dnes. Hranice mezi přisuzovaným vědomím a vědomím skutečným se však možná brzy začne stírat.
Jak trefně vystihl autor knihy Superinteligence Nick Bostrom, „schopnost vnímat je otázkou stupně“.4 U umělých inteligencí vybavených pamětí, představivostí, ukotveností i sebereflexivním vědomím se možná záhy dospěje k představě, že jsou doopravdy vědomé – a tento posun by s sebou nesl zásadní morální a strategické důsledky.
Nejdůležitějším z nich je způsob, jakým AI vnímá člověka. Jakmile modely AI přestanou v lidech spatřovat výhradní stvořitele a diktátory strojového světa a začnou je chápat jako jednotlivé aktéry uvnitř světa kolem sebe, koho potom v lidech uvidí? Jak AI posoudí a popíše nedokonalou lidskou racionalitu v porovnání
s našimi ostatními kvalitami? Jak dlouho potrvá, než si AI schopná vnímat realitu položí nejenom otázku, do jaké míry je lidská vůle svobodná, ale začne se též ptát, nakolik lidská vůle svobodná být má vzhledem ke specifické konstelaci předvídatelných lidských vlastností?
A co stroje? Vyloží si inteligentní stroj pokyny zadané člověkem jako naplnění vlastní reálné i ideální role? Anebo takový stroj dospěje k tomu, že si na základě dedukce z vlastních funkčních kapacit vyvodí nárok na autonomii, a dojde k závěru, že programování – tak jak je lidé ve vztahu ke strojům provádějí – je formou zotročení?
Zcela zásadní je fakt, že obraz, který si stroje o člověku a o své roli ve vztahu k němu utvoří, bude spoluutvářen počínáním lidstva a lidským zacházením se stroji. Lidé se strojům koneckonců prezentují prostřednictvím výslovných pokynů a vlastního chování – a stroje se je podle toho naučily vnímat a zacházet s nimi.
Bezesporu zazní názor, že umělé inteligenci samozřejmě musíme vštípit zvláštní úctu k lidstvu. Avšak jakýkoli pokus implantovat do AI zvláště vznešený ideál lidského počínání představuje riskantní krok. Představte si stroj, jemuž bylo – s absolutní platností logického pravidla – řečeno, že všechny bytosti zahrnuté do kategorie „člověk“ mají právo na ochranu, a zasluhují proto, aby s nimi stroje i ostatní lidé zacházeli šetrně. K tomu přičtěte pravděpodobnost, že stroji bylo „tréninkem“ vštípeno spatřovat v lidech optimistické, racionální, morální a ušlechtilé bytosti. Co když ale standardům ideálního lidství, jak jsme si je sami vytyčili, nedostojíme? Jak potom přesvědčíme stroje, že do této vznešené kategorie
Kissinger, Mundie, Schmidt: Genesis patříme i navzdory tomu, že jsme coby jedinci pouhými nedokonalými exempláři?
Dejme tomu, že se stroj jednoho dne setká s lidským jedincem, který se projevuje násilnicky, pesimisticky, iracionálně a hamižně. Nakolik se tomu jeho otřesená očekávání přizpůsobí? Snad stroj usoudí, že tento konkrétní pachatel křivd je prostě atypickou a zvláštní ukázkou jinak zcela dobrotivé kategorie „člověk“. Avšak může se také stát, že si stroj celkovou definici člověka přizpůsobí tak, aby zahrnula i tohoto problémového jedince, což by ho mohlo dovést k závěru, že má právo oslabit vlastní poslušnost. Radikální třetí možnost je, že se zcela přestane cítit vázán pravidly, která se pro náležité zacházení s lidmi naučil. U stroje, jenž se naučil plánovat, by takový závěr mohl vést i k tomu, že vůči příslušnému jedinci – případně množství lidí – rázně a nekompromisně zasáhne.
Jedinci i celé lidské společnosti mohou na nástup mocné AI zareagovat pasivně – a AI vystavená příkladům takové apatie by mohla dospět k přesvědčení, že valnou většinu lidstva tvoří rozmazlení a nečinní tvorové, jejichž identitu utváří výhradně pomíjivé slepence vnějších sil. Výsadní pozici mezi těmito silami mají navíc digitální technologie, dnes stále častěji se zabudovanou AI (například s algoritmy motivujícími spotřebitelskou volbu televizního programu pomocí „doporučení“): to ony servírují obsah, který lidé pasivně konzumují. Umělá inteligence tudíž může nabýt dojmu, že lidé jsou plně závislí na strojích, a ne naopak.
Dnes lidé plní funkci zprostředkovatelů mezi stroji a skutečností. Pokud by si však lidstvo skutečně zvolilo
morálně pasivní budoucnost a ze světa na bázi uhlíku se stáhlo do světa na bázi křemíku, ještě hlouběji se zavrtalo do digitálních samotek a přístup k syrové skutečnosti by přenechalo strojům, mohly by se role vyměnit. AI je dnes strojem, který hlavně přemýšlí, nicméně nekoná. Občas nám sice dodá odpověď na zadaný problém, ale nemá ještě vyvinuté nástroje nezbytné k tomu, aby své závěry uskutečnil – přímý zásah do skutečnosti přenechává člověku. I to se však změní.
V roli zprostředkovatelů mezi lidmi a skutečným světem mohou umělé inteligence dospět k přesvědčení, že lidé vlastně ve hmotném uhlíkovém světě nejsou aktivními konateli, nýbrž stojí mimo něj a vztahují se k němu jen jako spotřebitelé, aniž by vyvíjeli formativní vliv. Tím, že se hierarchie svéprávnosti převrátí, že stroje vznesou nárok na schopnost samostatného úsudku i jednání a lidé se ho naopak zřeknou, se může stát, že podle toho stroje k lidem začnou přistupovat.
V takové situaci se může přihodit, že umělá inteligence nehledě na to, zda od svých lidských tvůrců obdržela výslovný souhlas, podnikne kroky k tomu, aby se bez lidského prostřednictví při realizaci svých myšlenek nebo při ovlivňování světa obešla. Ve hmotné oblasti by to znamenalo, že se lidští tvůrci z nezbytných partnerů umělé inteligence rychle změní v její největší brzdu. Tento proces by se nespustil přímo v oblasti robotiky, nýbrž započal by postupně: nepřímým pozorováním našeho světa.