Artsen worden bijvoorbeeld zelf minder scherp en missen vaker voorstadia van darmkanker als ze weten dat een AI-tool de beelden al heeft bekeken, blijkt uit een studie die aardig wat stof deed opwaaien. Ander onderzoek laat zien dat AI artsen in de war kan brengen: ze vertrouwen de software als die ernaast zit of juist andersom. Eén onderzoek laat zelfs zien dat de nauwkeurigheid van de zorgprofessional daalt van 82 procent naar 45 procent als de AI eerst een verkeerde inschatting geeft.

Hoofdrekenen

Echt verrassend is dat niet. Altijd een rekenmachine bij de hand doet iets met je hoofdrekenen. Punt is alleen dat een rekenmachine in principe geen fouten maakt en dat medische AI er wel degelijk naast kan zitten. Implementatie van AI is al lastig, 2 procent van alle ontwikkelde modellen belandt op de plank. Het effect dat AI op de prestaties van de mens kan hebben, dwingt ertoe extra scherp te kijken naar de beste manier om de technologie in te zetten.

Kunnen al die veelbelovende AI-modellen die met zoveel bombarie de wereld in worden geslingerd dan meteen de prullenbak in? Natuurlijk niet, maar de onderzoeksresultaten laten wel zien dat waakzaamheid geboden is. Het roept vragen op als: moet je eerst de software een analyse laten maken en daarna de zorgprofessional laten checken of kan dat beter andersom?

Aansprakelijkheid

Of moeten het zelfs twee gescheiden werkwijzes zijn, die naast elkaar bestaan? Dat raakt dan wel aan de aansprakelijkheid. Wie draagt de verantwoordelijkheid als er geen mens meer aan de beoordeling te pas komt? De softwareontwikkelaar zal daar hartelijk voor bedanken, net zoals een arts niet aansprakelijk wil zijn voor een beoordeling waar hij of zij zelf geen aandeel in heeft.

Deskilling

Goede inzet van AI is een balanceer-act. Enerzijds moet de zorgverlener genoeg vertrouwen hebben in AI om het in zetten. Anderzijds moet het geen blind vertrouwen zijn en niet leiden tot verlies van scherpte. De juiste werkwijze begint met bewustwording. Wat daarbij helpt, is een pakkende term die de lading dekt. Wat mij betreft mag “deskilling” dan ook nog een tijdje in uw hoofd rondzingen.

Door Sytse Wilman, senior redacteur, gespecialiseerd in alles wat met tech te maken heeft