Laat Google en Facebook AI in de zorg niet kapen’

Recent verschenen enkele rapporten over de snelle groei van AI in de zorg. Volgens Vilans-onderzoeker Dirk Lukkien is de rode draad de zorg voor het publieke belang.

Artikel bewaren

U heeft een account nodig om artikelen in uw profiel op te slaan

Login of Maak een account aan
Dirk Lukkien
Foto: gorodenkoff / Getty Images / iStock

De toepassing van Artifcial Intelligence in de zorg gaat snel en dat brengt problemen met zich mee, aldus Dirk Lukkien op het platform Qruxx tech. Rapporten van onder meer de Raad voor Volkgezondheid en Samenleving en het Rathenau Instituut maken dat duidelijk.

Op zich biedt AI in de zorg onmiskenbaar grote kansen. Bijvoorbeeld op het gebied van beslissingondersteuning en leefstijlmonitoring. ‘Maar we moeten er dan wel voor waken dat AI in het belang van de burger is. En niet van het ziekenhuis dat veel omzet wil draaien of van de farmaceut die dure medicijnen wil verkopen/ Of van Amazon die allerlei hulpmiddelen wil verkopen,’ aldus Dirk Lukkien.

Grote techbedrijven

De Vilans-onderzoeker waarschuwt voor de rol van grote techbedrijven als Google, Facebook, Apple, Amazon en Microsoft. ‘Zij hebben in andere markten bewezen in staat te zijn om in korte tijd AI-gedreven technologie en diensten op grote schaal te introduceren. Het is niet ondenkbaar dat zulke techbedrijven op korte termijn ook belangrijke taken en diensten in de Nederlandse zorg overnemen en beheersen.’

Ook de onderzoekers van het Rathenau instituut waarschuwen voor de scheve machtsverhoudingen tussen techbedrijven en burgers. Een van hun aanbevelingen is om goede voorbeelden van digitale diensten maximaal te benutten en om te komen tot gedragsregels voor ontwikkelaars en aanbieders van digitale diensten en AI. ‘Dit gaat om veel meer dan databeveiliging en privacy alleen. Dit gaat om het centraal stellen van publieke belangen en niet alleen commerciële belangen.’

Seksistisch en racistisch

Algoritmen zijn dikwijls in staat om betere, snellere en soms transparantere beslissingen te nemen dan mensen, aldus Lukkien. ‘Maar ze kunnen net zo goed discrimineren, seksistisch en racistisch zijn, of de plank volledig mis slaan. Bovendien zijn het steeds vaker ‘black boxes’ die beslissingen maken of begeleiden zonder dat wij ze als mens volledig begrijpen.’

Dit alles vraagt om kwaliteitseisen en toezicht, iets waarover arts-onderzoekers in het befaamde wetenschappelijke tijdschrift Science recent ook pleitten.

Lukkien: mooi streven

Dit is een mooi streven, aldus Dik Lukkien, maar het roept wel vragen op. ‘Beleidsmakers, academici en mensen uit de zorgpraktijk streven ernaar om zorggebruikers ‘centraal’ te stellen. Maar tegelijkertijd bestaan er allerlei spanningen. Zoals de diversiteit aan belangen van cliënten, burgers, verzorgenden, verzekeraars en andere belanghebbenden, de kloof tussen de referentiekaders van experts en ‘leken’ en de machtsverhoudingen op internationaal, nationaal en lokaal niveau. Zulke spanningen kunnen innovatie en de inzet van AI in de zorg in het belang van de individuele cliënt en burger flink in de weg staan.’

Onderzoek hard nodig

Nader onderzoek is hard nodig, besluit Dirk Lukkien zijn betoog. ‘Hoe zorgen we ervoor dat AI een aanvulling is op menselijke kennis en expertise? Dat mensen vertrouwen hebben in AI? En dat kernwaarden zoals autonomie en privacy worden gerespecteerd? Wie is eigenlijk de gebruiker van AI? En welke controle heeft deze gebruiker over de doelstellingen en uitkomsten van AI-gedreven zorgtoepassingen? Ik denk dat er rondom zulke vraagstukken een grote behoefte is aan goede voorbeelden en inzicht in de criteria.’

 

Geef je reactie

Om te kunnen reageren moet u ingelogd zijn. Heeft u nog geen account, maak dan hieronder een account aan. Lees ook de spelregels.