“Wie het taalmodel beheerst, beheerst de massa”, is één van de stelling die Workum verdedigt tijdens haar promotie aan de Erasmus Universiteit. Met de stelling, vrij naar George Orwell, waarschuwt ze voor bias in taalmodellen, legt ze uit in de podcast Voorzorg. “Taalmodellen zijn erg goed in lezen en schrijven voor jou, maar er zit natuurlijk ook informatie in zo'n groot taalmodel”, legt ze uit. Dat zet de deur open voor fouten en manipulatie waar gebruikers zich bewust van moeten zijn, bepleit de promovenda.
Binnen een specifieke context, bijvoorbeeld door een taalmodel een samenvatting te laten maken, is het risico op bewuste of onbewuste manipulatie kleiner. “Veel kleiner, niet nul”, zegt Workum. “Maar op het moment dat ik een vraag stel aan het grote taalmodel, is het risico hoger.” Zorgorganisaties moeten dus heel goed weten hoe ze een taalmodel moeten inzetten, zegt de AI-specialist, die promoveert op verantwoorde implementatie van AI in de zorg. Ze roept daarnaast op om goede, verantwoorde modellen te ontwikkelen. “Laten we alsjeblieft zo neutraal mogelijke taalmodellen maken.”
