‘Efficiënt, maar fragiel gereedschap’

Een eindige set instructies voor het bereiken van een bepaald doel. Dat is wat algoritmen zijn, in het kort. Filosoof dr. Stefan Buijsman doet onderzoek naar de verklaarbaarheid van KI-algoritmen en wil ze wat minder mysterieus maken. Te beginnen met conceptueel uitleggen wat er nu eigenlijk wel en niet kan met KI-algoritmen. ‘Discriminatie of hate speech-achtige dingen opsporen is lastig voor een algoritme, want daarvoor moet het begrijpen hoe de wereld in elkaar zit. Ook gevoelens voor sociale nuances en dergelijke zit er totaal nog niet in. Alleen wanneer een algoritme een gericht patroon kan volgen om een taak op te lossen, gaat het heel goed. Al hebben algoritmen ook nog wel moeite om echt goed te generaliseren.’ Bijvoorbeeld bij het interpreteren van beeld. ‘Het algoritme begreep bijvoorbeeld niet goed wat een banaan is, want vervolgens werd ieder felgeel object voor banaan aangezien.’ 

Vertrouwen

De zelfrijdende auto en de fraude-opsporing van de ­toeslagenaffaire zijn bekende voorbeelden van KI in de praktijk. Deze illustreren direct ook de risico’s van algoritmen: ‘Er kan een bepaalde afhankelijkheid of een blind vertrouwen ontstaan. Een bestuurder van een zelf-rijdende auto die bijvoorbeeld stopt met opletten, omdat het al twee uur goed gaat. En op het moment dat het fout gaat, is deze in slaap gevallen. Of wanneer een uitkomst gegeven door het systeem letterlijk wordt overgenomen, want hoe een systeem tegen te spreken?’

Gebrek aan vertrouwen is ook een risico en kan verantwoord gebruik belemmeren. ‘In Denemarken hadden ze een algoritme ontwikkeld dat hartfalen kon opsporen tijdens 112-gesprekken. Als iemand daar het Deense alarmnummer belde, dan keek er een computer mee om een eventuele hartaanval te detecteren. Ondanks dat de computer minder vaak een hartaanval miste dan een operator aan de telefoon, werd het niet gebruikt. De operators voelden zich expert met hun ervaring en gaven de computer geen kans. Hierdoor werden er uiteindelijk meer hartaanvallen gemist. Het algoritme was hiervan niet de oorzaak, maar het gebruik van het algoritme dat uitbleef.’

Samenwerking

Het vinden van een goede samenwerking tussen mens en algoritme is dus nog een uitdaging. De grote vraag is of dit op te lossen is met de technologie zelf. ‘Moderne KI-algoritmen zijn dusdanig complex geworden en gebruiken zoveel patronen, dat niet goed te volgen is waarom ze een bepaald antwoord geven. Ook het aanpassen van een algoritme dat niet goed werkt, is een stuk lastiger dan wat doorgaans wordt gedacht.’  Initieel resultaat uit onderzoek geeft wel richting aan hoe een samenwerking tussen arts en algoritme eruit zou moeten zien: ‘Het gebruik van een algoritme lijkt het beste tot zijn recht te komen als de arts eerst zelf een beoordeling doet van bijvoorbeeld een MRI-scan en dan het algoritme er tegenaan houdt. Dan is het een extra controle om te zien of de arts niets heeft gemist. De arts behoudt zo de eigen expertise met winst op nauwkeurigheid, want de arts heeft het vaker goed gezien.’ 

Aansprakelijkheid

Het stellen van een diagnose gebruikmakend van een algoritme roept direct de vraag op over aansprakelijkheid, bijvoorbeeld wanneer er een onjuiste diagnose wordt gesteld. ‘In Europa is degene die besluit om het algoritme te gaan gebruiken verantwoordelijk. Het wordt dus een samenspel tussen de artsen zelf, die beslissingen moeten gaan nemen met algoritmen, en het ziekenhuis dat heeft besloten dat artsen algoritmen als ondersteuning krijgen.’

Wat betreft het gebruik van algoritmen pakt de Europese Unie het qua wetgeving net iets strenger aan dan de FDA in de Verenigde Staten. ‘In Europa gaan de medische algoritmen waarschijnlijk allemaal worden aangemerkt als zogenaamde hoge impact-algoritmen. Om deze te mogen gebruiken moet er eerst voldaan zijn aan een lijst voorwaarden die gaan over transparantie, eerlijkheid en robuustheid. Aan de precieze inhoud van deze voorwaarden wordt momenteel nog gewerkt in Europa.’ Wat betreft privacy is het gebruik van patiëntgegevens binnen het eigen ziekenhuis al ingebed in de AVG van het ziekenhuis. Er is dus geen extra toestemming nodig voor het gebruik van patiëntgegevens door een algoritme van het ziekenhuis.

De praktijk

Voorafgaand aan het gebruik van een algoritme in een ziekenhuis moet het wel uitgebreid getest zijn op de eigen patiëntenpopulatie en ook de relevantie van een algoritme moet aangetoond zijn, vindt Buijsman. Hij geeft hiervoor de volgende tips: ‘Het is belangrijk dat artsen die het algoritme gaan gebruiken zelf kritisch gaan nadenken over het gebruik ervan. Maar ook informatie raadplegen die bijvoorbeeld inzicht geeft in indicaties waarvoor het algoritme minder nauwkeurig is. Ziekenhuizen moeten artsen die tijd geven.’

Buijsman heeft geen concrete neurologische voorbeelden en refereert aan de lezing van dr. Joeky Senders: ‘In de neurologie worden algoritmen onderzocht voor diagnostiek op MRI-scans van de hersenen. Ook vertelde Senders over een tekstanalyse op patiëntendossiers, waarmee dan snel een groot dossier kan worden samengevat of waaruit een beknopt patiëntprofiel kan worden geëxtraheerd.’

Verder dan het samenvatten van teksten of het markeren van hoogtepunten in medische beeldvorming gaat het op dit moment in de geneeskunde nog niet, stelt Buijsman geruststellend. ‘Algoritmen zijn een efficiënt maar fragiel gereedschap. Mits goed afgesteld zeker ook nuttig, maar liefst in combinatie met de diagnostische vaardigheden van een medisch specialist.’