AI-bouwer Anthropic weigerde om het Amerikaanse ministerie van Defensie zijn tools te laten gebruiken voor massasurveillance en autonome wapensystemen. Anthropic werd daarop openlijk door de Amerikaanse president Trump en zijn minister van Defensie Hegseth bij het grofvuil gezet. Concurrent OpenAI, de maker van ChatGPT, heeft minder scrupules en heeft nu de deal met het Pentagon gekregen.

Het gebruik van ChatGPT is wijdverbreid, ook in de zorg. En dan gaat het niet alleen over de site, die als grote vraagbaak wordt gebruikt. Het taalmodel (large language model) wordt ook in de zorg toegepast om bijvoorbeeld AI-assistenten te trainen.

Hoe handig het model ook is, vele mensen zijn gevoelig voor de ethische bezwaren. Op de stelling dat de zorg moet stoppen met het gebruik van het taalmodel van OpenAI, reageerden 50 lezers. Een overweldigende meerderheid van 44 mensen is het eens met deze stelling.

Niemand is onafhankelijk

De zes mensen die het oneens zijn met de stelling wijzen erop dat we dan ook naar andere bedrijven moeten kijken. “Technologie is een instrument, waarbij intentie en gebruik de ethische richting en veiligheid bepalen”, begint een adviseur kwaliteit en veiligheid in de ouderenzorg. “Dit staat los van defensiecontracten. Bijna alle grote techbedrijven leveren aan overheden, defensie en commerciële organisaties. Toch zetten we geen vraagtekens bij het gebruik van bijvoorbeeld Microsoft. Als zorgorganisatie gebruiken we volop Microsoft Teams, ook voor gevoelige informatie. Zolang we: geen herleidbare patiëntgegevens invoeren in ChatGPT en gewerkt wordt binnen goedgekeurde en beveiligde omgevingen, dan kunnen we dit veilig blijven gebruiken.”

“Efficiency in de zorg kan veel beter en AI is een tool dat hier veel kan betekenen”, voegt een andere adviseur toe. “Natuurlijk willen we een goede en onafhankelijke tool. Echter niemand (ook de overheid) is onafhankelijk. Laten we niet op elk nieuwsfeit ons beleid aanpassen in ziekenhuizen. Wel moeten we kritisch blijven en hier een lange termijn beleid ontwikkelen (bij gelijke efficiency Europees, due diligence, etc)!”

“We moeten niet te snel na acties van Trump reageren”, zegt ook een zorgverkoper in de ouderzorg tot slot. “We hebben eerder gezien dat acties niet standhouden. Om dan nu meteen te stoppen met ChatGPT is veel te vroeg.”

Morele bezwaren

Onder de mensen die het eens zijn met de stelling heersen grote zorgen over de koers van OpenAI, maar ook in het algemeen over dataveiligheid, privacy en betrouwbaarheid bij het gebruik van AI in de zorg.

“Informatie is ook een wapen hoe onbeduidend lijkend dan ook”, schrijft een Chief Information Officer (CIO) in de eerstelijnszorg. “Daarnaast zijn er de morele bezwaren en de bezwaren tegen deze AI ontwikkeling in het algemeen. Anthropic (Claude.ai) heeft dit terecht gewijzigd. Saillant detail. Claude.ai heeft nu in hun Generative AI een functie ingebouwd die automatisch jouw volledige ChatGTP historie en bibliotheek naar Claude.ai migreert. Voor mijn persoonlijk gebruik ga ik dat zeker doen!”

Naïviteit

“Onze systemen zijn inherent lek aan de achterkant”, stelt ook een beleidsmedewerker in de ouderenzorg. “Ik wil pleiten voor Europese regelgeving, data opslag in Europa én onder Europese jurisdictie. Tevens het gebruik van toegangssystemen (Digid, Zivver, etc.) die niet onder Europese jurisdictie vallen moeten verboden worden. De naïviteit waarmee onze gegevens worden verkwanseld is op z’n zachtst gezegd bijzonder.”

“Eens, GPT is ethisch dubieus en onze afhankelijkheid van de VS moet verkleind worden, zeker op dit soort cruciale technologie. Er worden goede Europese alternatieven ontwikkeld, daar moeten we op investeren”, aldus een lid raad van bestuur in het ziekenhuis.

“Het is tijd om samen massaal in te zetten op Europese en Nederlandse systemen en apps”, zegt een bestuurder uit de gehandicaptenzorg. “We kunnen niet zomaar onder Microsoft en andere aanbieders uit de VS uit. We kunnen wel nu we met AI relatief aan het begin staan snel kiezen voor Europese en/of Nederlandse alternatieven als ze er zijn.”

Leercurve

Een juridisch adviseur in de ziekenhuiszorg tot slot: “De mens en de huidige stand van de AI-techniek is nog niet in staat om een juist gebruik van AI in alle situaties goed te managen of in te zetten. Onjuiste uitkomsten komen nog te vaak voor. Blind vertrouwen op AI is daarom uit den boze. Zeker als het gaat om hoog risico situaties als in de zorg. Prima om het als gepaste ondersteuning te gebruiken waar het kan. Het is bekend dat het Pentagon (op dit moment zeker) weinig terughoudendheid in acht neemt op ethische en morele gebieden. Als OpenAI ook van de interactie met deze partij leert, is dat in het algemeen niet echt bevorderlijk om deze leercurve ook in een delicate sector als de zorg ongebreideld toe te laten passen.”