Boek & psychiatrie: Geneeskunde in tijden van AI

Artificiële intelligentie (AI) wordt steeds vaker gebruikt, van apps op je smartphone tot bedrijfsprocessen, en inmiddels ook in de zorgsector. Met de lancering van het nieuwe programma Reinier Digitaal is het een goed moment om te kijken naar de mogelijkheden én beperkingen van AI in de gezondheidszorg. Het boek 'Geneeskunde in tijden van AI: Handvatten voor vandaag en morgen' biedt een realistisch beeld van wat AI kan betekenen voor artsen en patiënten, en bespreekt ethische en juridische vraagstukken. Het geeft je handvatten om zelf mee na te denken over de toekomst van onze gezondheidszorg in tijden van AI.

Het boek beschrijft wat AI is en hoe het wordt getraind. Aan de hand van voorbeelden wordt uitgelegd hoe er onbedoeld fouten (biases) kunnen ontstaan tijdens de training van een AI-algoritme. Eén zo’n voorbeeld is een app die huidkanker en andere huidaandoeningen kan opsporen. Ontwikkelaars trainen het algoritme met duizenden, soms miljoenen foto’s van huidaandoeningen. Daarna kan het algoritme zelf foto’s indelen. Bij een verdachte plek probeert het algoritme te bepalen om welke aandoening het gaat. Het algoritme wordt betrouwbaarder naarmate meer mensen foto’s uploaden. Maar als de trainingsdata vooral foto’s van blanke mensen bevat, kan dit de resultaten voor mensen met een donkere huid beïnvloeden. Melanomen komen minder vaak voor bij mensen met een donkere huid, waardoor er minder foto’s van hen in de trainingsdata zitten. Dit betekent echter niet dat zo’n ‘Derma app’ minder belangrijk is voor deze groep. Onbedoeld kunnen deze apps discrimineren, en is de betrouwbaarheid van de risico-voorspelling op maligniteit minder goed voor mensen met een donkere huid. Door het algoritme actief te trainen met meer foto’s van donkere huidtypen, kan dit probleem van vertekening door eenzijdige gegevens ondervangen worden.

Is AI betrouwbaar?

Het principe ‘garbage in garbage out’ benadrukt dat de kwaliteit van de data waarmee AI getraind wordt, cruciaal is voor de prestaties: slechte input leidt tot slechte output. Ook in de praktijk kan de betrouwbaarheid van een algoritme beïnvloed worden, bijvoorbeeld omdat foto’s gemaakt met een smartphone niet dezelfde kwaliteit hebben als de trainingsdata. Het is daarom belangrijk om alle mogelijke vooroordelen te identificeren en aan te pakken, om AI-systemen eerlijk en effectief te maken voor alle gebruikers. Leeftijd, geslacht en etniciteit zijn voor de hand liggende variabelen die de uitkomst kunnen beïnvloeden, maar hoe zit het met andere, minder duidelijke variabelen en verschillen? Omdat veel ontwikkelaars hun eigen, besloten databases gebruiken, weten regelgevers en zorgverleners niet altijd op welke data het algoritme is getraind. Ook voor de gebruiker is het vaak niet duidelijk hoe betrouwbaar zo’n app is. Kan een AI-algoritme leren herkennen wanneer de diagnose niet klopt of niet goed past bij de patiënt, en dit ook kenbaar maken aan de gebruiker?

Ondersteunen en verbinden

Naast waarschuwingen geeft het boek ook positieve voorbeelden van AI in de gezondheidszorg. AI-algoritmen kunnen helpen bij de ontwikkeling van medicijnen door beter te voorspellen hoe effectief potentiële kandidaatgeneesmiddelen zijn en daarmee het ontwikkelingsproces versnellen. Complexe operaties kunnen met behulp van AI beter worden voorbereid en zelfs patiënt-specifiek worden geoefend. In de radiologie kan AI veel sneller door de vele MRI- of CT-scans van een patiënt gaan en aandachtspunten voor de radioloog markeren, wat efficiënter is dan handmatig werk. AI kan zorgprofessionals ondersteunen door verschillende taken over te nemen, zoals het maken van medische verslagen, het plannen van afspraken, doorverwijzingen, samenvattingen van medische voorgeschiedenissen en het begrijpelijk maken van medische verslagen voor patiënten.

AI kan verschillende processen met elkaar verbinden, waardoor het gebruik ervan steeds vanzelfsprekender wordt. De boodschap van dit boek is echter: bezint eer gij begint! Het is belangrijk om te overwegen waarom AI wordt ingezet. Is het om zorgverleners te ontlasten zodat ze meer tijd en ruimte hebben voor de patiënten, of is het om de efficiëntie te verhogen en daarmee ook de werkdruk? Betekent de implementatie van AI voor de zorgverlener nog meer administratief afvinkwerk waardoor het werk minder betekenisvol wordt? Met AI creëren we een kader waarin we moeten werken, gebaseerd op meetbare informatie. Taken worden aangepast om aan de eisen van AI-systemen te voldoen, wat in plaats van minder werk juist meer werk kan opleveren. Deze veranderingen kunnen de zorgmedewerkers minder vrijheid geven in hun werk en ethische dilemma’s opwerpen.

Samenwerking met zorgprofessionals

De vraag die we onszelf moeten stellen is welk zorgsysteem we willen en hoe AI daarbij kan helpen. De gezondheidszorg is een sector waarin niet alle relevante informatie in cijfers kan worden uitgedrukt. Menselijk contact, communicatie en menselijkheid zijn essentieel. De auteurs pleiten dan ook voor samenwerking tussen AI-technologie en de zorgverlener. AI kan de zorgprofessional ondersteunen, maar de expertise en menselijkheid van artsen en verpleegkundigen blijven essentieel voor kwaliteitszorg. Gelukkig staan vakkennis en redeneervermogen nog steeds centraal in onze zorgopleidingen. Deze opleidingen moeten worden aangepast aan de komst van AI. Als we dat niet doen, bestaat het risico dat we blindelings op technologie gaan vertrouwen en dat machines uiteindelijk meer weten dan mensen.

Sigrid Sterckx & Wim Van Biesen | Geneeskunde in tijden van AI: handvatten voor vandaag en morgen | ISBN 9789401443838 | Paperback | 330 pagina’s | [Gent] Academie Press | 2024

Over de auteurs

Sigrid Sterckx is professor in de ethiek en politieke en sociale filosofie. Ze is verbonden aan de vakgroep Wijsbegeerte en Moraalwetenschap van de Universiteit Gent en is stichtend lid van het Bioethics Institute Ghent.

Wim Van Biesen is professor aan de faculteit Geneeskunde en Gezondheidswetenschappen van de Universiteit Gent en medisch diensthoofd van de Nierziekten aan het UZ Gent. Hij is medeoprichter van het Consortium Justifiable Digital Healthcare in UZ Gent.