Wat is de beste manier om applicaties gebaseerd op kunstmatige intelligentie (AI) te selecteren, te introduceren, te valideren en te borgen in de klinische praktijk?

Software gebaseerd op kunstmatige intelligentie heeft de potentie om vast onderdeel te worden van het dagelijks zorgproces en daarmee de kwaliteit en effectiviteit van medische metingen te vergroten. Kunstmatige intelligentie kan op allerlei data van de patiënt worden toegepast. Van ECG en EEG data tot medische beelden zoals echo, CT, MRI, SPECT of PET. Ook kan kunstmatige intelligentie gebruikt worden voor de planning van een radiotherapiebestraling. Kunstmatige intelligentie kan tevens assisteren in de opleiding en training van de medische professional en zelfs assisteren bij het inplannen van patiënten en voorspellen van no shows.

AI-algoritmes worden veelal voor screening worden gebruikt, vergelijkbaar met Computer Aided Diagnosis algoritmes. Op dit moment detecteren deze algoritmes nog de meest voor de hand liggende (enkelvoudige) diagnoses. In veel gevallen zullen deze goed bepaald worden, maar worden ook de juiste nevendiagnoses gevonden? Wat als de patiënt meerdere aandoeningen heeft of geopereerd of bestraald is, werkt het algoritme dan ook nog? Oftewel: wordt aangegeven wat de grenzen en beperkingen zijn van het algoritme? Is de test set beschikbaar waarop het algoritme getraind is? Is deze set representatief voor de eigen ziekenhuispopulatie?

De volgende aspecten of deelvragen zijn bij dit kennishiaat van belang:

• Kwaliteit en veiligheid: Hoe introduceer/valideer/borgt men kunstmatige intelligentie applicaties in het klinische proces?
• Wetgeving: kunstmatige intelligentie algoritmes hebben vaak gegevens nodig van het klinische proces en moeten dus goed aansluiten op andere ICT systemen. Hoe wordt de privacy gewaarborgd (AVG)? Vaak wordt de data ‘opgestuurd’ naar het moederbedrijf om daar verwerkt te worden. Daarbij zullen kunstmatige intelligentie algoritmes vaak gekenmerkt worden als medische hulpmiddelen en moeten deze voldoen aan de medical device regulations (MDR).
• Continuïteit: Hoe wordt geborgd dat het algoritme zijn prestaties behoudt terwijl de brongegevens mogelijk veranderen of wanneer het algoritme doorgetraind wordt? Wat zijn de effecten op de zorg en capaciteit van de organisatie wanneer een algoritme onverwachts wegvalt.
• Doelmatigheid: Hoe meet je de economische of klinische effectiviteit van kunstmatige intelligentie applicaties? Wat mag een algoritme kosten?
• Ethiek: Welke gronden en grenzen zijn er om patiënten te prioriteren of vaker te herinneren aan afspraken?

Kunstmatige intelligentie algoritmes zullen in de toekomst een grote rol spelen in de zorg gezien de grote belofte op het gebied van efficiëntie en diagnose. Het is dan van essentieel belang goed te begrijpen hoe deze algoritmes werken, welke toegevoegde waarde ze hebben en vooral ook in welke gevallen ze een foutieve uitkomst kunnen leveren.