Greet Prins: ‘De kwaliteitseisen voor AI zijn onvoldoende’

De opkomst van Artificial Intelligence (AI) biedt kansen, maar dan moet er wel iets gebeuren op het gebied van kwaliteit en toezicht. Dat zegt Greet Prins, lid van de Raad voor Volksgezondheid en Samenleving naar aanleiding van een vandaag gepubliceerd verkennend advies.

Artikel bewaren

U heeft een account nodig om artikelen in uw profiel op te slaan

Login of Maak een account aan
Greet Prins

Artificial Intelligence vraagt een fundamenteel andere aanpak dan andere vormen van digitalisering en e-health. Dat is de kern van het verkennende advies van de Raad voor Volksgezondheid en Samenleving (RVS). ‘We denken nog te vaak dat we digitale ontwikkelingen netjes kunnen inbedden’, zegt Greet Prins, bestuursvoorzitter van Philadelphia Zorg en lid van de RVS. ‘Maar daar is bij AI geen sprake van. AI verandert de zorg op een manier die we nog niet eerder hebben meegemaakt. Hoe regelen we dan dat er werkbare oplossingen komen? Daar hebben we ons als raad over gebogen.’

Kwaliteitseisen AI-toepassingen

De analyse van de RVS is rustig van toon maar bevat stevige uitspraken. De kwaliteitseisen die aan AI-toepassingen worden gesteld, zijn volgens de raad bijvoorbeeld vaak onvoldoende. ‘Dat moet inderdaad anders’, beaamt Prins. ‘Het is ook van belang dat die kwaliteitseisen worden afgedwongen. Daar ligt een wettelijke taak voor de overheid.’

Hoe stelt Prins zich dat voor? Het aantal toepassingen van AI loopt in de duizenden en er komen elke maand tientallen applicaties bij, als het niet meer is. ‘Dat klopt, en het is ook ondoenlijk al die nieuwe toepassingen te beoordelen. Veel AI is namelijk direct gericht op de consument. Dat betekent dat deze aanbieders buiten het collectieve zorgstelsel om opereren. En dus buiten de kwaliteits- en veiligheidseisen vallen die daarbij horen.’

RVS adviseert inzet juridische instrument

Dit vraagt om wetgeving, maar nieuwe wetten kosten veel tijd. Daarom stelt de RVS voor een bestaand juridisch instrument in te zetten, de Europese regelgeving op het gebied van de zogeheten ‘Diensten van algemeen (economisch) belang’. Het gaat hierbij om diensten en producten van private partijen die een maatschappelijk belang dienen. Prins: ‘Aanbieders van slimme zorgtechnologie vallen in die categorie.’

Aanbieders van AI failliet

Andere adviezen van de RVS die op betrekkelijk korte termijn kunnen worden gerealiseerd, betreffen de continuïteit en de vindbaarheid van medische data en AI-toepassingen. Hierbij speelt de mogelijkheid dat aanbieders van AI-diensten failliet kunnen gaan. Dat dit niet denkbeeldig is, blijkt uit de recente faillissementen van de ict-leveranciers Patient1 en Meddex. Hierdoor dreigde onder meer de continuïteit van de patiëntportalen van enkele Nederlandse ziekenhuizen in gevaar te komen.

‘Vaak kan dat probleem worden opgelost als er sprake is van een doorstart’, aldus Prins. ‘Maar daar kun je natuurlijk niet van uitgaan. Daarom pleiten we voor een verplichte regeling voor de broncodes van AI-diensten en voor een gratis downloadmogelijkheid van medische gegevens en verwijsindex. Zodat iedereen de gegevens kan vinden en opslaan die hij of zij nodig heeft.’

AI een strakke regie

Op de wat langere termijn stelt de RVS een programmatische aanpak voor. ‘Daarmee bedoelen we dat er een strakke regie wordt gevoerd. De ontwikkelingen gaan razendsnel en niemand weet hoe de wereld er over een paar jaar uitziet. De WRR, het wetenschappelijke adviesorgaan van het kabinet, is gevraagd daar een rol in te spelen. Dat juichen we zeer toe. Wij geven de WRR graag mee om AI in de zorg, mede op basis van ons advies, nadrukkelijk mee te nemen. We moeten de vinger aan de pols houden, regelmatig kijken waar we staan en hoe we verder moeten.’

Verder stelt de RVS voor dat de overheid actiever meewerkt aan kennisdeling en dat er in de zorgopleidingen meer aandacht komt voor AI. ‘Zorgverleners moeten weten hoe algoritmes werken en wat ze doen. Als je van AI wilt profiteren, moet je weten hoe het werkt.’

Betrouwbaarheid AI-diensten

Als deze aanbevelingen worden opgevolgd, biedt AI volgens Greet Prins veel kansen. ‘Betrouwbaarheid is het sleutelwoord. Als AI-diensten betrouwbaar zijn, kun je er veel aan hebben. Het werk van zorgverleners wordt er makkelijker en beter van, terwijl ze zich meer kunnen richten op het menselijke aspect van hun werk. Vragen op het gebied van onderzoek en behandeling worden dan immers deels beantwoord door de techniek.’

‘Een mooi perspectief, maar wat we willen aangeven in ons advies: dat gaat niet vanzelf. Je moet eisen stellen, toezicht houden, informeren en opleiden. Dat kost tijd en aandacht. Maar als het lukt, dan hebben we ook echt iets waardevols in handen.’

2 REACTIES

  1. Helemaal eens met Bukman. Vergeet de zorgprofessional in dat opzicht ook niet: AI gaat grootschalig en in hoog tempo de beschikbare en te mobiliseren kennis van het brein van de professional ondersteunen/ aanvullen en dus een dominante rol spelen in de zorgprocessen. Controleerbaarheid en validatie van de daaraan ten grondslag liggende algoritmes is dus van levens belang, zowel voor de zorgprofessional als de ciënt.

  2. Lees alle reacties
  3. Goed dat de Raad hier indringend aandacht voor vraagt. Maar ik mis in dit verhaal volgens mij de kern van de zaak. Dat de data van een individu in principe eigendom zijn en blijven van dat individu. (of zouden horen te zijn en te blijven) En dat het gebruik ervan (na toestemming) controleerbaar of verifieerbaar moet zijn. Dat betekent dat er garanties horen te zijn rondom de algoritmes die die data verwerken. Klinkt allemaal heel normatief, maar in feite is het een kwestie van ethiek. En als burger (en patiënt) mag ik van de overheid verwachten dat ze markt voor AI op dat punt reguleren.

Geef je reactie

Om te kunnen reageren moet u ingelogd zijn. Heeft u nog geen account, maak dan hieronder een account aan. Lees ook de spelregels.