We discussiëren veel over AI, vaak zonder dat duidelijk is wat we er precies onder verstaan. Hebben we het over traditionele systemen die op basis van data patronen herkennen waardoor processen kunnen worden geoptimaliseerd of over systemen die leren en zelfstandig dingen kunnen creëren, zoals teksten, video’s en softwarecodes?
Vooral onze verwachtingen over de tweede vorm, de generatieve AI, zijn hooggespannen. Een recent commentaar in de Volkskrant plaatst daar terecht kanttekeningen bij. Het waarschuwt voor het ontstaan van een financiële zeepbel en voor de nevenschade die een onnadenkend gebruik van AI met zich meebrengt.
Het begon Joris Krijger tien jaar geleden op te vallen dat de technologie onze samenleving onzichtbaar maar fundamenteel veranderde. Hij raakte in de ban van de vraag wat AI allemaal mét ons kan doen, in plaats van wat AI vóór ons kan doen. Het resultaat van zijn zoektocht naar een antwoord, legde Krijger vast in een boek over wat wij willen met AI, en AI met ons wil.[i]
Dat we profijt kunnen hebben van AI is evident, maar de risico’s van het gebruik ervan zijn minder bekend. Wat zou jij de grootste risico's van AI willen noemen?
‘AI is een lerend computersysteem dat, hoever ontwikkeld ook, afhankelijk is van menselijke input. Los van de science fiction zorgen vloeien de risico’s voor de samenleving vooral voort uit een gedachteloze toepassing en omarming van AI. Zowel economisch, met de enorme investeringen in techbedrijven waar ook onze pensioenen in zitten, politiek, met de enorme macht van diezelfde bedrijven, als sociaal met zaken als fake news: allemaal reden tot zorg.
Vooral de gemeente, de huisarts, de zorgverzekeraar en het ziekenhuis bepalen hoe AI onze werkelijkheid vormgeeft
Dat kan een gevoel van machteloosheid geven. Het inzicht van mijn onderzoek wijst er echter op dat AI vooral impact heeft op ons dagelijks leven. 80 tot 90 procent gaat via lokale organisaties. Vooral instanties als de gemeente, de huisarts, de zorgverzekeraar en het ziekenhuis bepalen met hun inzet van AI hoe deze technologie onze werkelijkheid vormgeeft. Dat betekent overigens ook dat daar voor ons de mogelijkheid ligt om invloed uit te oefenen. We kunnen eisen stellen aan de manier waarop publieke instellingen algoritmes inzetten om hun werkprocessen te optimaliseren.’
Om ons te beperken tot de zorg, welke uitdagingen zie je bij de inzet AI in dat domein?
‘Om de waarde en risico’s van AI in de zorg op juiste waarde te schatten, moeten we drie kritische vragen stellen: wat gaat AI oplossen; wat gaat het níét oplossen en welke nieuwe problemen roept het op?
Enthousiast over efficiëntiewinst leggen beleidsmakers vaak nadruk op de eerste vraag. Ze bepleiten de inzet van AI ter bevordering van de efficiëntie, beheersing van de kosten en ter compensatie van personeelstekorten. De inzet van een slimme assistent bijvoorbeeld kan de administratieve last van artsen, verpleegkundigen en thuiszorg verlichten en tijd en kosten besparen. Ogenschijnlijk een prima oplossing.
Bovendien, wie draagt de verantwoordelijkheid als er iets misgaat?
Punt is alleen dat AI-vragenlijsten weliswaar in twee minuten kan afhandelen, maar wellicht de ‘vraag achter de vraag’ niet herkent. Evenmin biedt het de zorg die mensen nodig hebben om zich gezien te voelen. Los van de vraag of mensen niet liever een mens dan een machine aan hun bed willen, is er de vraag: wat gebeurt er met de vrijgevallen tijd? Kiezen we voor nog meer efficiëntie of gaan we investeren in de menselijke verbinding? Die bij uitstek ethische kwestie kan AI niet voor ons beantwoorden. Bovendien, wie draagt de verantwoordelijkheid als er iets misgaat?
Een ander voorbeeld van de ethische spanning die de inzet van AI in de zorg kan oproepen, is te vinden bij zorgverzekeraars. AI is in staat om risicoprofielen uiterst nauwkeurig te personaliseren. Dat levert efficiëntiewinst op, maar ondermijnt tegelijkertijd het fundamentele principe van solidariteit dat aan ons zorgstelsel ten grondslag ligt. Immers, mensen met een lagere sociaaleconomische status hebben vaak hogere gezondheidsrisico's, dus als je premies volledig op AI-voorspellingen baseert, betalen de meest kwetsbaren vervolgens de hoogste prijs. AI kan de berekening maken, maar de mens moet beslissen of we een zorgstelsel willen dat gebaseerd is op individueel risico of op collectieve solidariteit.’
De technologie corrigeert deze historische ongelijkheid niet uit zichzelf
‘In de medische diagnostiek schuilt een ander risico, dat van garbage in, garbage out-processen. Als AI-modellen getraind worden op data die voornamelijk van mannelijke proefpersonen afkomstig is, kunnen symptomen bij vrouwen (zoals bij hartfalen) structureel onder-gediagnosticeerd worden. De technologie corrigeert deze historische ongelijkheid niet uit zichzelf, maar versterkt deze juist als er geen bewuste menselijke correctie plaatsvindt.’
Wat zouden we hieraan moeten doen?
‘Om de risico’s van de inzet van AI in te dammen, moet de samenleving een ethische infrastructuur opbouwen. Oftewel, ethiek moet een formele plek krijgen in de besluitvorming over AI, met ruimte voor tegenspraak en tegenmacht. Het maatschappelijke middenveld moet daarbij een belangrijke rol krijgen. Vakbonden, consumentenbonden en burgerinitiatieven zijn nodig voor een kritische blik op de normatieve keuzes die in algoritmes worden ingebouwd. Noodzakelijk, maar niet eenvoudig, gelet op de steeds complexere AI-systemen. Bij voorspellende modellen met enorme hoeveelheden data is het nu al vrijwel onmogelijk om te achterhalen waarom een specifieke beslissing is genomen.
Met de opmars van AI bevindt de mens zich in eenzelfde transitie als indertijd bij de industriële revolutie. Ook toen zag iedereen de stijgende productiviteit, en werden de maatschappelijke gevolgen—zoals slechte arbeidsomstandigheden en nieuwe ziekten in de steden—pas achteraf duidelijk. Met AI bevinden we ons in een soortgelijke overgangsfase. We proberen de veranderingen te begrijpen met de oude logica, terwijl de wereld om ons heen stapje voor stapje fundamenteel verandert.’
Je hamert erg op het belang van nu actie ondernemen. Kun je uitleggen waarom?
‘Het is verleidelijk om te wachten tot de AI-technologie volwassen is, maar dan is onze onderhandelingspositie aanzienlijk zwakker. Bescherming moet nu gezocht worden in rechtsgebieden, zoals het belastingstelsel en arbeidsrecht. Als we weten dat AI-functies gaat vervangen, moeten we niet langer wachten om kaders te scheppen voor omscholing en monitoring van welzijn van laag- en hooggeschoolden.
We moeten stoppen met praten over verantwoorde AI als een abstract concept
Politiek en bestuurlijk lijkt de urgentie voor dit diepe nadenken te ontbreken. Voor veel mensen blijft AI vooral een grappige tool om sneller een e-mail te schrijven, terwijl de schaduwkanten, zoals emotionele afhankelijkheid van systemen of toenemende machtsconcentratie, langzaam maar zeker zichtbaar worden in de samenleving.
We moeten stoppen met praten over ‘verantwoorde AI’ als een abstract concept. Het is tijd om de discussie te verleggen naar wat we écht belangrijk vinden: goede zorg, betekenisvol werk en menselijk contact. Om met een metafoor te eindigen: de trein van AI rijdt al, maar wij bepalen nog steeds waar de rails worden gelegd. Het vereist morele veerkracht en een actieve houding van zowel organisaties als van burgers om te zorgen dat de technologie de mens dient, en niet andersom.’
Jan van Dam is freelancejournalist.
Noot:
[i] Joris Krijger’s boek Onze kunstmatige toekomst is genomineerd voor beste boek bij de Nationale AI Awards en genomineerd voor de Socratesbeker (beste filosofieboek)
Foto: Mirjam van der Linden