Moraalfilosofe Katleen Gabriels ziet dat technologisch paternalisme op de loer ligt
Ook de revalidatiesector omarmt technologische vooruitgang en AI- en roboticatoepassingen. Dat brengt allemaal ethische vraagstukken met zich mee. Tijd voor een interview daarover met moraal- en techniekfilosofe Katleen Gabriels, onderzoeker en universitair hoofddocent aan de Maastricht University.
Auteur
T. (TIM) DE HULLU
Professioneel schrijver en biograaf
Fotograaf
PHILIP DRIESSEN
In haar geboorteland België was er zo’n tien jaar geleden discussie rond dure apparaten voor robotchirurgie. De voordelen zijn evident: precisieoperaties zijn beter uit te voeren door robots dan door menselijk handelen. Trillen is bijvoorbeeld iets dat een robot niet doet. Maar er kwam kritiek dat er meer operaties uitgevoerd werden door instellingen die een dure robot hadden aangeschaft.
‘Ziekenhuizen wilden die robots laten renderen, waardoor er mogelijk te veel mee geopereerd werd’, zegt Gabriels. ‘Terwijl de basisvraag zou moeten zijn: is deze operatie nodig? Maar als je nèt een mega-investering hebt gedaan, grijp je daar gemakkelijk op terug, ook al is de meerwaarde niet altijd helder.’
‘Ziekenhuizen wilden robots
laten renderen,
waardoor er mogelijk
te veel mee geopereerd werd’
Meerwaarde
Teruggaan naar de waaromvraag: het is iets dat de techniekfilosofe standaard doet. Of, zoals zij het zelf zegt: ‘De primordiale vraag is: is technologie de oplossing voor een probleem? Ik denk dat een aantal toepassingen, en dat gaat breder dan in de gezondheidszorg, eerder bedoeld zijn om de kosten te drukken dan om betere zorg te geven. En dan zit je dus al binnen het ethische vaarwater. Los van vragen over veiligheid, toegankelijkheid of privacy, zullen professionals zich de vraag moeten stellen of innovaties echt een meerwaarde hebben.’
Ontwerpfase
Dat betekent dus: in de ontwerpfase al rekening houden met de doelen van een ontwikkeling, maar ook met ethische aspecten. In haar boek ‘Regels voor robots’ pleit Gabriels voor het stellen van ethische vragen tijdens het ontwerpproces. Innovatie gaat immers niet alleen om technologische vooruitgang, maar ook om het herkennen van de morele keuzes die de technologie in zich draagt. En daar vervolgens bewust mee omgaan. Dat je als ontwerper verder moet kijken dan je neus lang is, bewijst Gabriels in haar boek met voorbeelden. Ze schrijft over een viraal gegane videotweet van een Nigeriaanse man. Als de man zijn hand onder een automatische zeepdispenser houdt, komt er geen zeep uit. Houdt hij er een wit doekje voor, dan werkt het apparaat prima. De lichtsensoren in het toestelletje zijn onvoldoende afgestemd op donkere kleuren die, in tegenstelling tot lichte tinten, minder reflecteren. De sensoren van de automatische handzeep werden voor ze op de markt kwamen niet voldoende getest op een diverse groep eindgebruikers.
Goede toepassingen
Deze les kun je gemakkelijk doortrekken naar de revalidatiesector: exoskeletten, robotarmen, slimme robothandschoenen: allemaal superfunctionele toepassingen, mits er nagedacht is over doel en doelgroep. Mét uitgebreide testen. En je zult moeten kijken voor welke patiënt een toepassing geschikt is. ‘Het nadeel van praten met mij is natuurlijk dat ik veel nadruk op risico’s leg, maar we mogen niet vergeten hoeveel goede toepassingen er zijn, bijvoorbeeld in de revalidatie. Een machine wordt niet moe en hoeft niet naar het toilet en kan daardoor continuïteit bieden. 24/7. Bijvoorbeeld met die handschoen. Die kan aansturen met repetitieve handelingen. En anders dan een mens. Vervolgens kun je de resultaten van een oefening in een grafiek gieten en direct doorsturen naar de arts. Dat kan positief zijn voor een patiënt.’
‘Een machine wordt niet moe
en hoeft niet naar het toilet’
Self-trackers
De keerzijde van die ontwikkeling is dat mensen zich gecontroleerd voelen. Samen met anderen dook Gabriels in het fenomeen patiëntmanagement. ‘Beleidsmakers stimuleren dat mensen preventief self-trackers gaan gebruiken. Hoeveel stappen zet je, wat is je slaappatroon, hoe gezond leef je? Het idee is dat dit op termijn kosten gaat besparen. Je zit met hele lastige vragen op het gebied van verantwoordelijkheid. Je zult ook moeten investeren in educatie naar mensen, zodat ze hun data goed kunnen interpreteren.’
Orthosomnia
In Amerika was er een aantal jaren geleden discussie rond verzekeringsmaatschappij John Hancock. Je kreeg pas een verzekeringsbonus als je je gezondheidsdata van een self-tracker met hen deelde. ‘Terwijl gezondheid een complex samenspel is van individuele, genetische en omgevingsfactoren. Als jij in een flatgebouw op vierhoog opgroeit of in een huis met een tuin, dan geeft dat ook een verschil op het vlak van je gezondheid. Daarnaast speelt de voedingsmiddelenindustrie en de daaruit voortvloeiende suikerinname ook een rol. Je kunt moeilijk een duidelijke lijn trekken en moet kijken naar het totaalpakket van gezondheidsfactoren. Zo weten we dat je bepaalde ziektes via genetica doorgeeft, zoals het borstkankergen. Maar hoe zit het met verslavingen? Daarbij is het erg afhankelijk van bijvoorbeeld het gezin waarin je geboren bent’, zegt Gabriels, die ziet dat het gebruik van self-trackers kan doorschieten.
‘Het is misschien een beetje kort door de bocht, maar de weegschaal in onze badkamer heeft ook niet het probleem rond obesitas opgelost. Het is niet omdat je weet hoeveel je weegt, dat dat alle problemen oplost. Er zijn al meerdere academische artikelen geschreven over het begrip orthosomnia: mensen met een ongezonde obsessie voor gezond slapen. Artsen die focussen op slaap en zulke patiënten zien, zeggen direct: doe die self-tracker weg. Bij die self-trackers is het dus niet: one size fits all. Artsen zullen zelf moeten bepalen voor wie zo’n tracker geschikt is.’
Digital Twins
Ook hierbij gaat het dus weer om verantwoord gebruik en de vraag waarom je iets zou willen inzetten. Self-trackers voor revalidatiedoeleinden kunnen zeker werken, denkt Gabriels. ‘Ik begeleid momenteel een PhD-student rond het thema Digital Twins. Dus dat je een soort dashboard ziet met gezondheidsgegevens van mensen die ook een bepaalde aandoening hebben. Ook daar zijn de resultaten heel genuanceerd. Sommige mensen gaan te zeer af op de grafieken, anderen luisteren veel meer naar hun lichaam. Er zijn mensen die niet continu met hun gezondheidsgegevens geconfronteerd willen worden. Die zeggen: “Ik word de hele dag als een patiënt benaderd, terwijl ik veel meer ben.” Voor de revalidatie is inzage in lichamelijke data een mooie ondersteuning, vindt Gabriels, zolang het maar echt een meerwaarde heeft voor de patiënt.
Magie?
Daarbij wordt de rol van de mens nog wel eens onderschat, ziet Gabriels. Zo ziet ze dat veel mensen enorm onder de indruk zijn van robots van Boston Dynamics. ‘Maar daar zit helemaal geen AI in, afgezien van het feit dat ze nu met ChatGPT getraind zijn. Overigens staat de P in ChatGPT voor pre-trained… Enfin, ik was bij het Nerdland Festival waar een demonstratie werd gegeven. Het publiek zag een robot die trappen kon nemen en drankjes naar boven bracht. Maar wat ik achter de schermen zag, was een mens die de robot aanstuurde. Je denkt: het is magie, maar dat is niet zo.’
Begrijp haar goed, er zijn zaken waarin AI beter is dan de mens, zoals het analyseren van een gigantische hoeveelheid data in een heel korte tijd. In de revalidatie wordt al dankbaar gebruik gemaakt van die technieken. AI zou kunnen helpen bij het analyseren van VR-technieken die steeds beter worden en daarmee geschikt zijn voor mensen met loopproblemen of afasie. VR-trainingen kunnen automatisch worden aangepast op iemands niveau. Met VR-vernieuwingen zal dat steeds gedetailleerder kunnen en meer gepersonaliseerd. ‘Toch zal er altijd een mens moeten meekijken om bijvoorbeeld data te interpreteren. Zo heeft kunstmatige intelligentie geen moreel kompas en geen intuïtie.’
Technologisch paternalisme
Met de opkomst van het Internet of Things in de zorg, zoals slimme medicijndoosjes die een patiënt verwittigen zijn of haar medicatie in te nemen, voorziet Gabriels dat technologisch paternalisme op de loer ligt: waar je vroeger braaf deed wat de dokter zei, kan nu de technologie leidend worden. ‘Omdat mensen zich zo bekeken voelen de hele tijd, gaan ze hun gedrag aanpassen. De bedoeling van de technologie is dat zorgverleners patiënten maar ook bijvoorbeeld mantelzorgers kunnen volgen. Terwijl we juist eindelijk van dat paternalisme zijn afgekomen.’ Met het leugentje tegen de fysio dat je braaf je oefeningen hebt gedaan, terwijl dat niet zo is, kom je niet meer weg. Gabriels ziet al een wereld ontstaan waarin patiënten 24 uur per dag met camera’s of sensoren gevolgd kunnen worden. Waarbij met AI-analyse een patroon ontstaat: om acht uur gaat de slaapkamerdeur open, een kwartier later gaat het koffiezetapparaat aan. Als er dan op een dag een anomalie is in het patroon, wordt de zorgverlener verwittigd. ‘Ik denk niet dat dit voor iedereen wenselijk is. Je zou je moeten afvragen: zou ik deze manier van controle ook van een mens accepteren?’
‘Zou je deze manier van controle
ook van een mens accepteren?’
Orthorexia
En daarmee komen we terug bij een nog grotere vraag, die Gabriels al even aanstipte, namelijk: wat is gezond? ‘Ik vermeldde het begrip orthosomnia al, maar door sociale media als Instagram en TikTok zien we ook orthorexia ontstaan: mede door influencers raken mensen zo geobsedeerd door gezond eten dat het niet meer gezond is. Bij gezondheid kijken mensen vaak naar een lichaam, naar figuren. Maar kijken we naar onderzoek naar de Blue Zones, de wereldwijde gebieden waar mensen het oudst worden, dan zien we veel meer factoren dan alleen voeding. Op Sardinië worden mensen zeer oud. Die mensen bewegen veel, hebben een moestuin, maar wat je ook ziet: ze drinken elke dag een wijntje en doen dat met andere mensen. Dus het sociale aspect is ook heel belangrijk als het om gezondheid gaat.’
Juist dat sociale aspect maakt ook dat mensen onmisbaar zullen blijven in de zorg. Een robot is niet in staat tot empathie. Als je vanuit jezelf niet weet wat pijn is, kun je dat bij een ander ook niet echt goed signaleren of inschatten. ‘Bij kinderen bijvoorbeeld: huilt een kind omdat het pijn heeft of omdat het geen groenten wil eten? Dat zijn verschillende contexten en dan heb je een systeem nodig dat dit kan begrijpen. En zo ver zijn we helemaal niet. Het mag nooit zo zijn dat er geen menselijk contact meer is.’
Overschatting van technologie
Gabriels denkt dat mensen de technologie overschatten, ook in de revalidatiezorg. ‘Het is belangrijk om de afweging te maken: waar is een mens goed in en waar is AI goed in? En dan kritisch blijven kijken. Mensen zijn ook wat verward, omdat niet elke nieuwe technologische toepassing AI bevat. Nogmaals, de grondvragen zouden moeten zijn: is technologie een oplossing voor een probleem, en wie wordt er beter van?’ Veel mensen hebben baat bij het menselijk contact met een zorgverlener. Het is de vraag of je dan een anamnesegesprek door een computer moet laten doen. Dat zorginstellingen AI zeggen in te willen zetten voor betere en betaalbaardere zorg, roept bij Gabriels vragen op. ‘Het klinkt vooral heel erg als een slogan. Als je kijkt naar wat gezondheid is en daarvoor echt betere zorg wilt verlenen, zul je ook aan de voedingsindustrie en aan ruimtelijke ordening veel aandacht moeten geven. Want als je bijvoorbeeld in een omgeving leeft waar de buurt onveilig is, ga je gewoon minder bewegen.’
‘Op de AI-markt lopen
klinische en commerciële belangen
door elkaar heen’
Robot and Frank
Gabriels’ kijk op de inzet van technologie vereist vooral veel denkwerk vooraf. En in een sector die kampt met gebrek aan tijd, geld en personeel, lijkt daar geen ruimte voor te zijn. Hoe kunnen zorgprofessionals toch tijdig nadenken over de inzet van technologie, de mogelijke gevolgen en een inzet op maat? Een technisch filosofisch kwartiertje in het leven roepen, wellicht? ‘Werk sowieso alleen met toepassingen die evidence based zijn, want klinische en commerciële belangen lopen door elkaar heen op de AI-markt. Het is aan te bevelen om het Rathenau Instituut te volgen. Dat doet onderzoek naar de impact van wetenschap en technologie op ons leven. En kijk met collega’s eens naar een science fiction film of een documentaire’, oppert Gabriels. ‘Zoals Robot & Frank, een film die gaat over hoever een zorgrobot kan gaan.’ De hoofdpersoon in die film is een dief met dementie. Zijn zoon koopt daarop een huishoudrobot voor hem. Maar daar heeft Frank niet veel mee. Totdat hij op het idee komt om de robot te gebruiken als medeplichtige bij zijn inbraken. Gabriels: ‘Na het kijken komt sowieso een discussie op gang.’ En dat ten behoeve van een ideale samenwerking tussen twee werelden: die van de kunstmatige én de menselijke intelligentie.
Definities
Zoals dat gaat bij snel opeenvolgende technologische ontwikkelingen, worden termen nog wel eens door elkaar gebruikt of in verkeerd verband. Daarom hierbij een overzichtje:
Artificial Intelligence (AI): het brede vakgebied dat zich richt op het creëren van systemen die menselijke intelligentie nabootsen.
Internet of Things: netwerk van fysieke objecten die zijn uitgerust met sensoren, software of andere technologieën om gegevens uit te wisselen via het internet. Neem een slimme thermostaat, of self-trackers voor gezondheidsdoeleinden.
Machine Learning: het ontwikkelen van algoritmes waarmee computers kunnen leren van gegevens.
Deep Learning: machine learning die gebruik maakt van diepe neurale netwerken om complexe patronen in gegevens te herkennen.
Gerelateerde artikelen NTR
Stap voor stap en samen op weg naar passende AI in de revalidatiezorg
Dokter AI: Wie is er beter in het beantwoorden van klinische vragen, de arts of AI?
‘De belangrijkste vraag: is technologie überhaupt de oplossing voor het probleem?’
Thuis meten van dystonie bij kinderen
Gerelateerde artikelen Revalidatie Magazine
Een app en ondersteuning geven patiënt Rob (73) de regie over de behandeling van ALS
Revalideren in virtual reality? Ook met hersenletsel kan dat op een veilige manier
eHealth bij Adelante: onlosmakelijk onderdeel van de best mogelijke zorg
