Lode Lauwaert
Wij, robots Een filosofische blik op technologie en artificiële intelligentie
wij robots boek.indd 3
30/09/2021 09:14
Voor Jesse
wij robots boek.indd 4
30/09/2021 09:14
Inhoud Inleiding - Filosoof met de hamer
9
1 · De neutraliteit van technologie 39 2 · De zeven hoofdzonden van AI 113 3 · De motor van de samenleving 197 Nawoord - Het einde der tijden
289
Eindnoten 293 Bibliografie 299 Dankwoord 305
5
wij robots boek.indd 5
30/09/2021 09:14
6
wij robots boek.indd 6
Wij, robots
30/09/2021 09:14
De techgemeenschap heeft geen zelfinzicht. Wij zijn geen humanisten of filosofen. Wij zijn ingenieurs. Voor Google en Facebook zijn mensen algoritmen. John Batelle, medeoprichter van het technologietijdschrift Wired
1 · De neutraliteit van technologie
wij robots boek.indd 7
7
30/09/2021 09:14
8
wij robots boek.indd 8
Wij, robots
30/09/2021 09:14
Inleiding Filosoof met de hamer Mensen worden ontslagen door machines. Stephen Normandin is een van hen. Hij is een legerveteraan die tijdens zijn loopbaan in Arkansas in de Verenigde Staten kookte voor vluchtelingen uit Vietnam. De voorbije vier jaren reed hij in Phoenix rond voor Amazon om pakketjes aan huis af te leveren. Tot voor kort dus. De technologie van het miljardenbedrijf die hem onafgebroken in de gaten hield, kwam tot de conclusie dat hij zijn werk niet naar behoren deed. Normandin kreeg daarop een geautomatiseerd bericht. Hij mocht vertrekken. Dat was het harde oordeel. Het kwam niet van een mens, maar van moderne technologie.1 Deze ochtend ben ik wakker geworden. Links van mij lag op het nachtkastje een Samsung smartphone. En ik moet toegeven: het eerste wat ik na het wakker worden heb gedaan, is mijn telefoon aanzetten. Maar ik ben niet de enige. Naar schatting de helft van de mensen die een smartphone heeft, zou ’s ochtends in bed al aan het scrollen gaan. Mijn toestel is overigens dertien centimeter lang. Ook dat is niet uitzonderlijk, want anders dan de eerste mobiele telefoons is een smartphone tegenwoordig ongeveer veertien centimeter groot. Dat is vooral makkelijk als je een man bent. Die afmetingen komen immers overeen met de gemiddelde lengte van de handen van mannen, die over het algemeen groter zijn dan die van vrouwen. Aan de smartphone kleeft een mannelijke blik.2
9
wij robots boek.indd 9
30/09/2021 09:14
Iets anders. Op de laatste dag van het jaar 2019 ging een rood licht branden in de kamers van het Canadese softwarebedrijf BlueDot. Op basis van de analyse van ontelbare berichten kwam de technologie van het bedrijf tot de conclusie dat in de Chinese stad Wuhan een uitbraak zou plaatsvinden van het coronavirus SARS-CoV-2. Toen duidelijk werd dat we in een pandemie zaten, rolden Chinese bedrijven gezichtsherkenningstechnologie uit om burgers die geen gezichtsmasker droegen te detecteren. In tal van landen ontwikkelde men een app die de burgers gratis konden downloaden en die signaleerde dat zij in nauw contact waren geweest met een besmet persoon. Daarnaast werd technologie ingezet om het virus op te sporen en te bestrijden. Er werd een algoritme ontwikkeld dat in minder dan een minuut met een hoge mate van waarschijnlijkheid kon aangeven of iemand al dan niet besmet is. Google zette vervolgens haar technologie in om uit te vlooien uit welke bestanddelen het virus is opgebouwd, met succes overigens. Het ontdekte dat de zogeheten spike-proteïne het geheime wapen was waarmee het virus zich aan lichaamscellen bindt.3 Van corona naar kolonialisme. De Indiase stad Bangalore wordt vandaag soms het Silicon Valley van het Oosten genoemd, omwille van de sterke focus op de communicatie- en informatietechnologie. Maar India is al enige tijd een voorloper op het vlak van technologie en dat heeft veel te maken met het twee eeuwen durende koloniale bewind van Engeland vanaf het midden van de achttiende eeuw. In 1819 zag de Indiase bevolking de eerste stoomboot op een binnenlandse rivier varen. Niet dat het daar zelf veel aan had. De boot was speelgoed dat door de Britten aan een prins uit de kolonie was geschonken. Na de stoomvaart zorgden de Britten ook voor de aanleg van een uitgestrekt spoorwegennet. Om een idee te geven: toen India zich in 1947 van de Britten losmaakte, lag er ongeveer zeventigduizend kilometer aan spoorwegrails. Een andere technologie die tijdens het koloniale regime werd geïntroduceerd, was de telegraaf. De aanleg van de lijn startte in het midden van de
10
wij robots boek.indd 10
Wij, robots
30/09/2021 09:14
negentiende eeuw en overspande een afstand van meer dan duizend kilometer tussen Calcutta en Agra. Amper enkele jaren later waren er ook al onderzeese kabels tussen Engeland en India. Het is duidelijk dat die investeringen niet waren bedoeld om de Indiërs te plezieren, maar wel om de macht van de Britten te vergroten. Door de stoomtrein konden de troepen zich sneller verplaatsen, door de telegraaf kon men goed communiceren met het moederland, en door de scheepvaart konden grondstoffen naar Engeland worden gebracht.4 Het sterftecijfer wordt vandaag de dag niet sterk beïnvloed door bacteriële infectieziekten. Dat is ooit anders geweest. Toen er nog geen antibiotica waren – voor Alexander Fleming in 1928 penicilline ontdekte – waren ze de hoofdoorzaken van overlijdens. Het gevaar bestaat dat het aantal dodelijke bacteriële infecties opnieuw zal toenemen. Dat komt doordat veel bacteriën intussen resistent zijn tegen antibiotica, onder meer omdat we de voorbije honderd jaar steeds meer zulke geneesmiddelen hebben geslikt. Omdat de ontwikkeling van nieuwe antibiotica tijdrovend is, is recent onderzoek aan het Massachusetts Institute of Technology (MIT) in dat opzicht veelbelovend. Onderzoekers hebben een AI-systeem gevoed met de structuren van duizenden antibiotica om de chemische structuur te achterhalen van de moleculen die de bacteriën doden. Nadien heeft men het model zesduizend stoffen voorgelegd. Het AI-systeem selecteerde één molecule: halicine, zo genoemd naar de computer HAL uit 2002: A Space Odyssey uit 1968 van Stanley Kubrick. Het voorspelde dat die molecule antibacteriële activiteiten zou vertonen. Bovendien verschilt de chemische structuur van halicine van die van alle bestaande antibiotica.5 Er is een sterke band tussen technologie en ecologie. Sommige technologieën – smartphones bijvoorbeeld – gaan slechts enkele jaren mee, maar dragen tegelijk wel de sporen van een eeuwenoude natuurgeschiedenis. In het midden van de negentiende eeuw
Inleiding · Filosoof met de hamer
wij robots boek.indd 11
11
30/09/2021 09:14
genoot een tropische boom de interesse van de techwereld: de Palaquium gutta uit Azië. De reden was dat het melksap van die boom een stof bevatte, het zogenaamde guttapercha. Die stof was nuttig omdat men er de trans-Atlantische telegraafkabel op de bodem van de oceaan mee kon isoleren, de kabel waardoor er via morsecode tussen Noord-Amerika en Europa kon worden gecommuniceerd. Het probleem was wel dat de eerste kabel 250 ton guttapercha vereiste en dat voor een ton duizenden stammen van de Palaquium gutta nodig waren. In Azië zijn alleen al omwille van die reden verschillende jungles verdwenen. Ook vandaag spelen zulke zaken. Voor de productie van iPhones, drones, motorvoertuigen, batterijen en cameralenzen worden tal van mineralen gebruikt die men haalt in onder meer Indonesië, Congo en Mongolië. De voorraad is niet oneindig en als de mineralen niet meer beschikbaar zouden zijn, zou de groei van technologie stagneren. Het zal daarom wellicht niet verbazen dat niet ver van Silver Peak in Nevada een Tesla Gigafactory werd gebouwd. In Silver Peak wordt lithium gedolven, wat wordt gebruikt voor de productie van batterijen; voor de batterijen van de elektrische wagens van Tesla zijn vele grote hoeveelheden lithium nodig.6 Tot slot Uber. Ik log in op een app, geef aan waarheen ik me wil verplaatsen en vervolgens matcht een algoritme me aan een chauffeur die vrij is en zich in de buurt bevindt. Snel en goedkoop voor mij, en ook voordelig voor de chauffeur: hij of zij verdient makkelijk geld en ontdekt via klanten verschillende culturen enkel en alleen door wat rond te rijden in de stad. Geweldig toch? Volgens een studie in de Verenigde Staten zouden bedrijven als Uber hebben geleid tot de afname van het gebruik van het openbaar vervoer en tot de toename van het verkeer op de weg, en dus tot meer uitstoot van broeikasgassen. Vrouwelijke bestuurders verdienen gemiddeld 7% minder dan mannen. De auto’s van Uber zijn minder toegankelijk voor mensen met lichamelijke beperkingen dan reguliere taxi’s. In 2019 kondigde het bedrijf aan te zullen werken
12
wij robots boek.indd 12
Wij, robots
30/09/2021 09:14
met een zogeheten zwijgknop. Als een chauffeur volgens een klant te veel praat, kan de klant op een knop drukken die de chauffeur de boodschap geeft om te rijden en zwijgen. Uber gebruikt slimme technologie die chauffeurs in de richting van een bepaald type klanten stuurt: de rijken, zij die misschien meer voor een autorit kunnen betalen. Als dat laatste het geval is, kan het bedrijf die extra opbrengsten volledig voor zichzelf houden, zonder de chauffeur meer te betalen. Alleen al daarom zal wellicht dit cijfer niet verwonderen: in het begin van 2019 werd het vermogen van de medeoprichter van Uber, libertariër Travis Kalanick, geschat op ongeveer zes miljard Amerikaanse dollars.7
Technologie en AI Dit boek gaat over technologie. Ik zal het over verschillende soorten technologie hebben en besteed in het bijzonder aandacht aan kunstmatige of artificiële intelligentie (AI). Het zal dus gaan over slimme en domme dingen: treinen, stoomboten, apps, vliegtuigen, robots, horloges, fietsen, boormachines, planningssoftware, bruggen, koffieapparaten, vibrators, katoenmachines, kerncentrales, telefoons, sociale media, prikkeldraad, tandenborstels, auto’s en computers. Er zijn een aantal goede redenen om daar aandacht aan te besteden. Ten eerste maakt technologie integraal deel uit van ons leven, in die mate dat er heel weinig of zelfs nauwelijks nog zaken zijn die we doen zonder gebruik te maken van dingen gemaakt door ontwerpers en computerwetenschappers. Ten tweede: uit een recente poll van het Kenniscentrum Data & Maatschappij onder meer dan duizend Vlamingen blijkt dat twee op de drie respondenten niet goed weet wat AI precies is. De helft van de deelnemers weet niet of die technologie aanwezig is in hun leven.8 Ten derde is technologie verantwoordelijk zowel voor problemen als voor de toename van
Inleiding · Filosoof met de hamer
wij robots boek.indd 13
13
30/09/2021 09:14
welvaart en welzijn. De industrialisering zorgde voor zwarte rook en zwarte rivieren, maar medische technologie heeft ertoe geleid dat we ziekten sneller kunnen voorkomen, opsporen en genezen. Ten vierde: de overheden en bedrijven in België en Nederland investeren jaarlijks veel (belasting)geld in het onderzoek naar en de ontwikkeling van technologie. Al is het wel goed voor ogen te houden dat de bedragen in het niets verzinken vergeleken met wat in de Verenigde Staten en China wordt geïnvesteerd in technologie en AI. Ten vijfde is de techindustrie een van de leidende en meest kapitaalkrachtige sectoren van onze samenleving. Naast Big Finance en Big Pharma bestaat ook Big Tech, en dan vooral de Big Five: Amazon, Google, Microsoft, Apple en Facebook. En ten slotte: technologie is zo oud als de menselijke soort zelf. De ontwikkeling van gentechnologie en de zelfrijdende auto werd voorafgegaan door het maken van vishaken en netten, en door het maken van messen op basis van horens en slagtanden. Sommigen vinden die laatste opmerking wellicht merkwaardig of zelfs onterecht. Zijn vishaken en netten dan technologieën? Naar wat verwijzen mensen met andere woorden met de term ‘technologie’? Wat bedoelen we eigenlijk wanneer we zeggen dat iets technologie of, meer specifiek, AI is? Het is belangrijk om daar bij stil te staan, omdat duidelijk moet zijn waarover ik het precies wel en niet zal hebben, om misverstanden te vermijden. De betekenis van technologie
Om te beginnen wil ik erop wijzen dat het woord ‘technologie’ taalkundig verwant is aan tal van woorden die niettemin een andere betekenis hebben. We zeggen dat Nederlander Jaap Stam op voetbaltechnisch vlak destijds minder begaafd was dan de intussen overleden Diego Armando Maradona, die tijdens de opwarming voor de wedstrijd tussen Napoli en Bayern München in 1989 het publiek vermaakte met enkele technische hoogstandjes. De
14
wij robots boek.indd 14
Wij, robots
30/09/2021 09:14
legendarische Argentijn deed dat op muziek van de band Opus, muziek die niet te vergelijken is met de technomuziek van Ken Ishii en die helemaal anders zou klinken zonder de hulp van een geluidstechnicus. Andere bekende tegen ‘technologie’ aanleunende woorden zijn ‘techneut’, ‘breitechniek’, ‘technocratie’, ‘techniciteit’, ‘technowetenschap’, ‘technologisering’, ‘technofilie’ en ‘technofobie’. De rode draad door deze lange opsomming is ‘techn-’, dat teruggaat op tekhn uit het Sanskriet. Die stam verwees toen, meer dan vierduizend jaar geleden, naar zaken als hout- en timmerwerk. Daarnaast leert een blik op de geschiedenis dat het woord ‘technologie’ de voorbije tweeduizend jaar op verschillende manieren is ingevuld. Die meerzinnigheid is niet in het leven geroepen door een spitsvondige taalwetenschapper of filosoof, maar kenmerkt nu eenmaal het gebruik van de term ‘technologie’ door miljoenen mensen door de eeuwen heen, net zoals dat voor ‘wetenschap’ het geval is overigens, en bijvoorbeeld ook voor fairness en ‘verantwoordelijkheid’. Op die laatste zaken ga ik later nog in, nu focus ik op de meerdere betekenissen van ‘technologie’. Zeker twee daarvan worden tegenwoordig niet of nauwelijks meer gebruikt. Welke? De eerste en tegelijk ook oudste betekenis van ‘technologie’ dateert uit de klassieke oudheid en was zo goed als volledig verdwenen tegen het einde van de negentiende eeuw. Ze luidt dat technologie net zoals psychologie of sociologie een wetenschap is. Meer dan tweeduizend jaar geleden was technologie een studie van liberal arts als grammatica en retorica. Later, vanaf ongeveer de achttiende eeuw, werd ook het onderzoek naar illiberal arts of handenarbeid ‘technologie’ genoemd. ‘Technologie’ betekende toen ook de studie van bijvoorbeeld het koken of het werken met machines. De tweede betekenis is minder oud. Ze is onder meer terug te vinden in Das Kapital uit 1867 van Karl Marx. Op verschillende plaatsen gebruikt hij daar ‘technologie’ in de hiervoor aangehaalde
Inleiding · Filosoof met de hamer
wij robots boek.indd 15
15
30/09/2021 09:14
betekenis, namelijk als Wissenschaft. Maar hij vindt ook dat er een geschiedenis van de technologie moet worden geschreven en stelt vervolgens deze retorische vraag: ‘Verdient de geschiedenis van het ontstaan van de productieve organen van de mens in de maatschappij, van de materiële basis van elke afzonderlijke maatschappijorganisatie niet evenzeer de aandacht?’9 Hieruit blijkt dat ‘technologie’ bij de Duitse filosoof en verschillende van zijn tijdgenoten nog een tweede invulling krijgt. Het verwijst namelijk ook naar het productieproces. Tegenwoordig verwijzen we met ‘technologie’ niet naar zoiets als wetenschap of het productieproces. Meestal heeft men twee andere zaken voor ogen: een manipulatieproces en een ding, dat doorgaans materieel is. We verwijzen met ‘technologie’ naar een manipulatieproces wanneer we het over biotechnologie hebben. De term ‘biotechnologie’ zelf wordt nog niet bijzonder lang gebruikt, maar refereert wel aan een proces dat al eeuwen oud is. Denk aan het veredelen van dieren en planten, het proces waarbij de gewenste eigenschappen worden geselecteerd en gekruist, met als doel dat een bestaande dieren- en plantensoort in een verbeterde conditie blijft voortbestaan. Ook ‘gentechnologie’ verwijst naar een manipulatieproces. Het gaat in dat geval om een proces waarbij men een gen dat codeert voor een bepaalde eigenschap overbrengt van één organisme naar een ander, opdat het genetisch gemodificeerde organisme ook de gewenste eigenschap bezit. Daarnaast bedoelen we met ‘technologie’ ook dingen, zoals deze die acteur Ewan McGregor opsomt aan het begin van het lied ‘Choose Life’ uit de Britse cultfilm Trainspotting uit 1996: televisietoestellen, wasmachines, auto’s, cd-spelers en elektrische blikopeners. Aan dit lijstje kunnen we verder ook broodroosters, strijkijzers, elektrische tandenborstels, computers, fototoestellen, camera’s en medische apparaten als infuuspompen of pacemakers toevoegen.
16
wij robots boek.indd 16
Wij, robots
30/09/2021 09:14
Wanneer ik het vanaf nu over technologie heb, bedoel ik deze twee zaken: ofwel een manipulatieproces ofwel een ding als een smartphone of auto. Al moet ik daar wel onmiddellijk aan toevoegen dat het doorgaans over dat laatste zal gaan. Ik heb het nooit over technologie in de zin van wetenschap of het productieproces, soms over biotechnologie of gentechnologie, en meestal over dingen. Ik neem aan dat dit aansluit bij hoe de meeste mensen de term ‘technologie’ doorgaans gebruiken. Niettemin wil ik de aandacht vestigen op het volgende. Iedereen of zo goed als iedereen mag dan wel met ‘technologie’ meestal naar dingen verwijzen, toch is er geen eensgezindheid over welke dingen nu wel en niet precies een technologie zijn. Zeker, deeltjesversnellers en smartphones zijn wellicht voor iedereen technologieën, net zoals computers en defibrillators dat zijn. Maar voor sommigen is een boormachine een technologie terwijl dat voor anderen niet zo is; de een vindt een radio wel technologie, de ander niet. Die verschillen hangen samen met andere verschillen, bijvoorbeeld verschillen in afkomst, beroepsgroep of leeftijd. Ben je bijvoorbeeld een ingenieur, dan is de kans groot dat je een boormachine geen technologie vindt, maar ben je een antropoloog, dan beschouw je meubels en kledingstukken wellicht wel als technologieën. Het is dus raadzaam om duidelijk te zijn over wat ik wel en niet als technologie zie. Ik hanteer een brede opvatting. Breed, in de zin dat ik onder ‘technologie’ een hele reeks zaken laat vallen: niet alleen computers, auto’s en AI, maar ook boormachines en meubels. Ik kies voor zo’n brede invulling, omdat er eigenlijk geen goede reden is om bijvoorbeeld een computer wel en een stoel geen technologie te noemen. Natuurlijk zijn er verschillen. De ene technologie is gestoeld op wetenschappelijke kennis, is gemaakt op basis van silicium en heeft knopjes, terwijl dat bij een stoel normaal gezien niet zo is. Deze en andere verschillen zijn echter niet relevant om beide dingen sterk van elkaar te onderscheiden, en om het verhaal
Inleiding · Filosoof met de hamer
wij robots boek.indd 17
17
30/09/2021 09:14
dat ik in de komende hoofdstukken uit de doeken zal doen alleen toe te passen op bijvoorbeeld computers en niet op pakweg boormachines. Daarnaast is het goed om te weten dat er ook regionale verschillen zijn. In Vlaanderen wordt de term ‘techniek’ doorgaans gebruikt om het over een vaardigheid te hebben, iets wat je kunt leren en trainen. In Nederland echter wordt de term ‘techniek’, meer dan in Vlaanderen althans, soms ook gebruikt om te refereren aan de zaken waarover ik het meestal zal hebben: robots, auto’s, radio’s, smartphones en zoveel andere dingen die we dagelijks gebruiken. Men gebruikt ‘technologie’ nooit of zo goed als nooit om over een vaardigheid te spreken, maar omgekeerd wordt ‘techniek’ in ons taalgebied wel af en toe gebruikt om naar hetzelfde te verwijzen waarvoor ik hier de term ‘technologie’ gebruik. Verder noemen sommigen ook de voorwerpen gemaakt door pakweg apen of vogels ‘technologieën’, en kunnen de allernieuwste intelligente robots zelf ook andere technologie op de wereld zetten. Om kort te zijn: om naar dingen als auto’s en apps te verwijzen gebruik ik de term ‘technologie’ en wanneer ik het over technologie heb, gaat het over dingen die zijn gemaakt door dieren die we ‘mensen’ noemen. Een brede opvatting
De voorbije opmerkingen volstaan om een ruwe definitie te geven van ‘technologie’ zoals veel mensen die term normaal gezien gebruiken, en zoals ik het ook straks zal doen, namelijk om te verwijzen naar dingen, en dan niet enkel naar smartphones maar ook naar meer basale zaken. Die definitie luidt dat alle technologie een artificieel karakter heeft, uitgerust is met een functie en materieel van aard is, of nauw verbonden is met iets dat materieel is. Laat ik dat even toelichten.
18
wij robots boek.indd 18
Wij, robots
30/09/2021 09:14
Wanneer we zeggen dat iets artificieel of kunstmatig is, bedoelen we doorgaans dat het een gevolg van menselijk handelen is – doorgaans, want ‘artefact’ wordt soms ook gebruikt wanneer het over dieren gaat die geen mensen zijn, maar zoals aangegeven is dat hier niet van belang. Die omschrijving is echter nog te algemeen, want ook het vergroten van het gat in de ozonlaag is een effect van ingrijpen door de mens. Mensen zijn dus wel oorzakelijk verbonden met de totstandkoming van een artefact, maar dat volstaat nog niet om iets als een artefact te zien. Vandaar deze verfijning: een artefact is het bedoelde effect van menselijk handelen. Stel echter dat ik in mijn tuin een zaadje plant, met als doel dat er een boom in mijn tuin groeit. Wanneer dat daadwerkelijk gebeurt, dan is die boom het bedoelde gevolg van mijn handeling, het in de grond stoppen van de zaadjes. Toch zullen we niet zeggen dat de boom een artefact is. Dat komt omdat dat natuurobject ook zonder mijn toedoen kan groeien. Dingen met een kunstmatig karakter zijn dus zaken die uitsluitend of bijna uitsluitend ontstaan op basis van menselijke interventie. Let wel, artefacten verschillen van voorwerpen uit de natuur, maar kunnen wel zijn samengesteld uit die voorwerpen. Een kano is een artefact, ook als die is gemaakt op basis van een boomstam. Alle technologie is dus kunstmatig, maar is alles wat kunstmatig is ook technologie? Nee. Er zijn wel meer zaken die artificieel zijn, maar waarover wellicht niemand zou zeggen dat het technologie is. Denk aan muziek. Dat is niet uitsluitend geluid, maar het gevolg van het plan van minstens één iemand om geluid op een bepaalde manier te ordenen. Muziek ontstaat dus niet zoals een boom ontstaat, maar toch beschouwen we het doorgaans niet als technologie. Dat komt omdat technologie naast een artificieel karakter ook altijd een functie heeft. Dat wil zeggen: alle technologie is ontworpen met een doel voor ogen; zonder die doelgerichtheid is een ontwerp geen technologie. Muziek kan vanzelfsprekend wel nuttig zijn, maar muziek die geen doel heeft, is nog steeds muziek.
Inleiding · Filosoof met de hamer
wij robots boek.indd 19
19
30/09/2021 09:14
Nut zit met andere woorden niet gebakken in muziek, terwijl dat wel zo is bij technologie. Uiteraard weet ik ook wel dat technologieën soms tijdelijk of definitief niet meer werken, maar dat wil niet zeggen dat het geen technologieën meer zijn. Iets dat van menselijke makelij is, is een technologie als het is ontworpen om een doel te verwezenlijken. Dat blijft zo, ook wanneer blijkt dat het ontwerp al dan niet tijdelijk niet meer doet wat het behoort te doen. Tot slot zijn zo goed als alle technologieën materieel, in de zin dat ze meetbaar en tastbaar zijn, dat je ze kunt aanraken en wegen. Maar dat is niet noodzakelijkerwijs zo. Chatbots bijvoorbeeld zijn technologieën, maar kun je voelen noch wegen – hoewel hun output wel meetbaar is. Aan de andere kant zijn er geen chatbots zonder dingen die een materiële dichtheid hebben: hardware. Vandaar deze omschrijving: hoewel technologie niet per definitie materieel is, is ze wel altijd verbonden met iets materieels – of die materie nu staal of ijzer is, speelt voor het overige geen enkele rol. Technologie verschilt overigens in dat opzicht van juridische wetten, pakweg de antidiscriminatiewet. Zulke wet is duidelijk een artefact en bovendien gemaakt met een doel voor ogen: om mensen of groepen te beschermen. Toch is een wet geen technologie: de eerste hangt niet vast aan een fysieke entiteit, de tweede wel. Is geld dan wel een technologie? Geld is gemaakt door mensen, ontworpen met een doel voor ogen, en het bestaat in de vorm van munten. Dat klopt wel, maar bij geld in de vorm van munten is er geen nauwe band tussen het geld en de munten. Dat een munt geld is, is een kwestie van afspraak. Om het even wat zou in principe geld kunnen zijn: koffiebonen, snoepjes, dobbelstenen of andere zaken. In het geval van technologie echter is er wel een sterke band. Een technologie kan het beoogde doel alleen realiseren op voorwaarde dat het deze bepaalde vorm heeft, dat specifieke gewicht heeft, enzovoort.
20
wij robots boek.indd 20
Wij, robots
30/09/2021 09:14
Algemene en smalle AI
Rest ons nog die andere vraag: wat bedoelen mensen doorgaans wanneer ze zeggen dat iets AI is? Er zijn minstens drie antwoorden op die vraag. Een aantal mensen gebruiken de term ‘AI’ net zoals we het woord ‘intelligentie’ gebruiken in de context van mensen en dieren die geen mensen zijn. In die context zien we intelligentie normaal gesproken als een vermogen dat wordt toegeschreven aan een mens of pakweg een hond. Vanuit dat opzicht is AI dan een vermogen, niet van een organisme, maar van een artificieel systeem. Anderen verwijzen met ‘AI’ dan weer naar een wetenschapsdomein waarin onderzoek wordt gedaan naar technologie die is uitgerust met intelligentie – heel vaak vindt zulk onderzoek plaats in een academische instelling, al is dat niet noodzakelijk zo. In de meeste gevallen echter wordt met ‘AI’ geen wetenschap of een vermogen bedoeld. Doorgaans refereert ‘AI’ aan technologie, zij het een technologie die is uitgerust met een vermogen dat andere technologie niet heeft. Dat is ook de betekenis die ik zal gebruiken. Het is duidelijk dat niet alle technologie AI is, maar in mijn ogen is alle AI dus wel technologie. Dat houdt in dat een aantal zaken die daarnet aan bod zijn gekomen ook nu van toepassing zijn. Alle technologieën hebben een materieel karakter of zijn verbonden met iets materieels, en dus AI ook. Slimme systemen hebben hardware nodig; er moeten computers zijn om grote hoeveelheden informatie te verwerken en om snel te kunnen rekenen. Daarnaast is er ook geen eenduidig antwoord op de vraag welke technologie men precies op het oog heeft wanneer men het over AI heeft, net zoals er meerdere betekenissen van ‘technologie’ zijn. Dat heeft onder meer te maken met het onderscheid tussen deze drie zaken: superintelligence, algemene AI en smalle AI. Laat ik dat onderscheid even toelichten.10 De term ‘artificiële intelligentie’ werd gemunt door informaticus John McCarthy in de zomer van 1956 tijdens het fameuze Summer
Inleiding · Filosoof met de hamer
wij robots boek.indd 21
21
30/09/2021 09:14
Research Project on Artificial Intelligence aan het Dartmouth College in New Hampshire in de Verenigde Staten. Tegenwoordig wordt met die uitdrukking heel soms verwezen naar kunstmatige entiteiten die de vermogens van mensen verregaand overtreffen, en die dat op meerdere vlakken doen: in cognitieve zin, door in een flits patronen in data te herkennen, en op fysiek vlak, omdat ze zich bijzonder rap kunnen verplaatsen, zowel in het water en de lucht als over de grond. Deze vorm van slimme technologie staat bekend als superintelligence. Ze spreekt tot de verbeelding, en hoewel het dat type van AI is dat regelmatig in films en populaire media opduikt, bestaat zulke technologie momenteel niet, en is het nog maar de vraag of die ooit zal bestaan, laat staan dat we weten wanneer ze zal worden gemaakt. Hetzelfde geldt ook voor de tweede vorm: algemene AI (general AI). Dat is technologie die nauw verwant is aan hoe wij, mensen, functioneren. Ze wordt ‘algemeen’ genoemd omdat ze in staat is om al dan niet tegelijkertijd meer dan één taak uit te oefenen en om de informatie uit de ene taak ook voor een andere te gebruiken. Algemene AI is zich daarnaast ook bewust van de dingen die ze doet, is in staat om te genieten en om te lijden of pijn te hebben. Maar zoals aangegeven: zulke technologie bestaat momenteel niet, ook al zijn er momenteel wereldwijd tal van ontwerpers en computerwetenschappers die er alles aan doen om zoiets te maken. Algemene AI is zowat de droom van menig technoloog. Wanneer politici, onderzoekers en anderen vandaag de loftrompet over AI steken of AI kritisch bejegenen, dan wordt zo goed als altijd de derde variant bedoeld: smalle AI (narrow AI). Het is ook de enige vorm van AI die momenteel bestaat en wordt gebruikt. Men spreekt hier over ‘smal’ in de zin dat de technologie uitsluitend in staat is om een bepaalde, zeer specifieke opdracht uit te voeren, en dat ze niet kan switchen tussen verschillende soorten opdrachten. Dat laatste is een beperking, maar tegelijk heeft die technologie
22
wij robots boek.indd 22
Wij, robots
30/09/2021 09:14