Kissinger, Mundie, Schmidt: Genesis
Lidská pasivita
Spory kolem definice a původu vědomí a také stran možnosti toho, že by stroje dosáhly existenciálního porozumění skutečnosti, trvají již dlouho a zůstávají otevřené i dnes. Hranice mezi přisuzovaným vědomím a vědomím skutečným se však možná brzy začne stírat. Jak trefně vystihl autor knihy Superinteligence Nick Bostrom, „schopnost vnímat je otázkou stupně“.4 U umělých inteligencí vybavených pamětí, představivostí, ukotveností i sebereflexivním vědomím se možná záhy dospěje k představě, že jsou doopravdy vědomé – a tento posun by s sebou nesl zásadní morální a strategické důsledky. Nejdůležitějším z nich je způsob, jakým AI vnímá člověka. Jakmile modely AI přestanou v lidech spatřovat výhradní stvořitele a diktátory strojového světa a začnou je chápat jako jednotlivé aktéry uvnitř světa kolem sebe, koho potom v lidech uvidí? Jak AI posoudí a popíše nedokonalou lidskou racionalitu v porovnání 90