Data scientist Maarten van Rood verzorgde 12 september een masterclass over AI in de zorg op het Tweakers Developers Summit 2023. Hier ging hij onder andere in op de vraag welke impact ChatGPT heeft voor zorgverleners en patiënten. In aanloop sprak Maarten met Tweakers.

Maarten: "Het begrip AI is breed en kan soms verwarrend zijn. Wij definiëren AI als systemen die zelflerend zijn en gebruiken onder andere technieken als Market Basket Analysis om voorspellingen te doen over medicatie voor patiënten. Dit mag je een zogenaamde low-end-oplossing noemen."

Een ander model dat ChipSoft gebruikt, is Random Forest, dat de kans voorspelt of een patiënt ongepland op de Intensive Care (IC) terechtkomt na een operatie. Het is gebaseerd op de beslissingsboom of het alternatievenschema, maar dan met duizend varianten. Door ze te combineren, kunnen nauwkeurigere voorspellingen worden opgehaald. "Je moet je voorstellen dat iemand na een operatie veelal op de low care belandt. Wanneer er onverhoopt complicaties optreden, om wat voor reden dan ook, kan dat levensgevaarlijke situaties opleveren. Door heel veel data te analyseren, kunnen we de kans op complicaties steeds beter voorspellen. Dit noem ik een voorbeeld van een high-end oplossing." Het model houdt rekening met diverse factoren, zoals hartslag, bloeddruk, voorgeschiedenis en zelfs het aantal deurbewegingen in de operatiekamer. "Een operatiekamerdeur dient normaliter gesloten te blijven tijdens een operatie, om infecties te voorkomen. Als er veel deurbewegingen zijn, kan dat erop wijzen dat er iets niet helemaal is goed gegaan en de kans op complicaties groter is", aldus Maarten.

De algoritmes worden in de cloud gerund, mede om te voldoen aan AVG- en ISO-certificeringsnormen. Hierdoor kan ChipSoft ook third-party-algoritmes aanbieden aan ziekenhuizen. Ondanks de vooruitgang in technologie is er nog steeds een belangrijke rol voor de arts in de zorg, vooral omdat hij of zij een vollediger beeld heeft van de patiënt dan het algoritme.

Voorspellen van blindheid bij te vroeg geboren baby's

Maarten stelt fan te zijn van low-end-toepassingen van AI in de zorg: "Ik heb ooit een keer een algoritme gemaakt dat keek naar brieven die binnenkwamen voor een huisarts en die brieven automatisch in de goede map gooide. Dat deed het algoritme gewoon door te scannen: dit formulier ziet er zo uit, dus dat is dit type formulier, dus het moet in deze map. Een tikje suf wellicht en er zal nooit een publicatie in een bekend tijdschrift over verschijnen, maar wel erg handig. Dergelijke eenvoudige algoritmes zijn tijdbesparend en richten zich op repetitieve taken die artsen vaak als vervelend en tijdrovend ervaren. Als er een algoritme komt dat kanker zou kunnen voorspellen, is dat natuurlijk vele malen indrukwekkender. Maar het brengt ook veel grotere risico's met zich mee."

ChipSoft werkt, samen met anderen, aan tot de verbeelding sprekende projecten waar AI een belangrijke rol in speelt. Een daarvan behelst een algoritme om blindheid bij vroeggeboren baby's vroegtijdig te voorspellen, zodat het wellicht kan worden voorkomen. Het gaat hierbij specifiek om retinopathie van vroeggeborenen (ROP), een oogaandoening die - zoals de naam al verraadt - voornamelijk voorkomt bij te vroeg geboren baby's, vooral als ze vóór 31 weken zwangerschap zijn geboren of bij de geboorte minder dan 1250 gram wogen. ROP kan leiden tot blijvende visuele beperkingen en zelfs blindheid, maar met tijdige detectie en behandeling kunnen veel van de nadelige effecten worden geminimaliseerd of zelfs voorkomen.

Maarten: "Het gaat om afwijkingen in de bloedvaten van het netvlies. De huidige data tonen aan dat ROP relatief weinig voorkomt, maar de impact van een succesvolle interventie is enorm. We werken momenteel samen met neonatale artsen om te kijken of we retinopathie op de Neonatologische Intensive Care Unit (NICU) kunnen voorspellen. Het idee is om het huidige model te verfijnen en eventueel uit te breiden met data van andere ziekenhuizen. De uiteindelijke doelstelling is om deze toepassing breder toe te passen, mits die uiteraard effectief en betrouwbaar genoeg is."

Medische zorg en ChatGPT

Over ChatGPT is Maarten best enthousiast, mits het op de juiste manier wordt ingezet. Volgens hem zijn er veelbelovende toepassingen voor te bedenken, zoals het automatisch genereren van patiëntenbrieven en consultsamenvattingen en het vertalen van medische termen naar begrijpelijke taal voor patiënten. Hij benadrukt echter ook de risico's: "ChatGPT heeft zijn beperkingen en kan soms foutieve of verzonnen informatie - zogenaamde hallucinaties - genereren. Zo vroeg ik het programma ooit of een bepaald ziekenhuis gebruikmaakt van CliniClowns, waarop ChatGPT volmondig ja antwoordde, terwijl dat pertinent niet klopte. Dit is een een relatief onschuldig voorbeeld, maar 'fouten' kunnen natuurlijk ernstige gevolgen hebben in de medische sector en dat wil je absoluut niet. Bovendien hebben mensen soms onrealistische verwachtingen van AI en denken het als een soort 'toverstaf' te kunnen toepassen. We moeten steeds opnieuw kijken waar we het voor kunnen inzetten en het model zo goed mogelijk blijven trainen."
(Bron: Tweakers)

Meer weten?