Intensivist en AI-specialist Workum loopt met haar ziekenhuis voorop in het gebruik van AI. Zij gelooft zeker in de potentie ervan voor het toekomstbestendig houden van de zorg. “Maar”, zegt ze er meteen bij “We kunnen nieuwe technologie niet lukraak loslaten in onze zorg. We moeten de randvoorwaarden met elkaar op orde stellen. En daar heb ik de politiek voor nodig.” Krul vindt dat de politiek AI niet moet presenteren als een toverstaf voor de zorg. “In het organiseren en spreiden van het werk en het innoveren van de zorg kan AI veel betekenen. Maar ik zie echt niet een soort belofte waarin de problemen van nu opgelost worden door AI morgen.”

Automatiseringsbias

De belangrijkste belofte van AI is het terugbrengen van administratieve lasten. Daar kan wel 40 procent van de tijd van zorgprofessionals in gaan zitten. Er komt volgens Workum wel wat bij kijken om deze technologie goed in te zetten en op de juiste wijze te gebruiken. AI bespaart tijd, maar kost ook tijd. “Je moet als zorgverlener je werkprocessen aanpassen. Je moet ervoor zorgen dat de AI veilig en verantwoord wordt geïmplementeerd. En je moet nagaan of het klopt wat er uit zo’n AI-model komt.” Workum waarschuwt voor een ‘automatiseringsbias’. Dat is dat we te veel vertrouwen op geautomatiseerde systemen en de output te gemakkelijk accepteren. Bijvoorbeeld als we weinig energie hebben om ons in de uitkomsten te verdiepen. Workum: “Dat gaat ook met AI gebeuren.” Als we dit op grote schaal gaan gebruiken, moeten we duidelijke afspraken maken over kwaliteit en randvoorwaarden, vindt Workum. “We moeten met het zorgveld, zorgverleners, patiënten en dergelijke, eisen stellen aan waar AI aan moet voldoen. En de politiek moet dat faciliteren. Daarnaast heb ik echt hulp nodig bij de vraag waar de verantwoordelijkheid ligt. Als ik als zorgverlener verantwoordelijk wordt voor alle AI-output, dan moet ik alles controleren en neemt de administratielast alleen maar toe.”

Mensen van vlees en bloed

Krul is het met Workum eens dat het zorgveld en de ontwikkelende bedrijven met de overheid als regisseur kaders moeten scheppen. “Dat gebeurt nog niet.” Hij wil ook afspraken maken over verantwoordelijkheden. Hij vindt wel dat de eindverantwoordelijkheid voor beslissingen bij mensen van vlees en bloed moet blijven liggen. “Het kan niet zo zijn dat AI echt beslissingen neemt in de zorg. Maar het kan ook niet zo zijn dat een zorgverlener op individuele titel straks afgerekend wordt op de output van een AI-model.” Hij erkent dat de overheid achterblijft op de snelheid waarmee de technologie zich ontwikkelt. “Dat zorgt ervoor dat heel veel zorgverleners in onzekerheid zitten. Daar moet de overheid echt een beentje bijtrekken. Het liefst maak ik Europese richtlijnen die dit goed regelen.” Krul verwacht van Europa zelfs meer snelheid dan Nederland.

Koploperpositie

Workum vindt dat we niet moeten onderschatten wat we in Nederland zelf kunnen. Met het Universitair Medisch Centrum Groningen was haar ziekenhuis het eerste buiten de Verenigde Staten dat een groot taalmodel implementeerde, zegt ze trots. “Wij kunnen in Nederland echt een koploperpositie pakken, als we politieke ondersteuning hebben.” Workum pleit voor een compacte expertgroep die deze kwestie voortvarend oppakt. Krul: “Daar wil ik graag bij! Mag dat?”

BNR Beter Verkiezingsspecial

De volledige uitzending van BNR Beter vindt u hier.