Kunstmatige intelligentie dringt in hoog tempo door tot het openbaar bestuur. Ambtenaren gebruiken AI om teksten samen te vatten, documenten te doorzoeken, brieven op te stellen en informatie te verzamelen. Gemeenten experimenteren met eigen AI-assistenten en beveiligde omgevingen zoals SafeGPT en GovGPT. Daarmee ontstaat een nieuwe bestuurlijke vraag: als AI een steeds grotere rol krijgt binnen de overheid, wie bepaalt dan eigenlijk hoe deze technologie werkt en vanuit welke waarden zij naar de samenleving kijkt?
Dat was de centrale vraag van het onderzoek naar AI in het openbaar bestuur van het Wetenschappelijk Bureau NSC. Op 6 juni presenteerde ik tijdens de NSC-bijeenkomst ‘AI en democratie’ in Amersfoort alvast enkele eerste bevindingen. Op 30 juni volgde in Den Haag de presentatie van het rapport tijdens een symposium over goed bestuur van het Wetenschappelijk Bureau.
Die avond, in de laatste week voor het zomerreces van de Tweede Kamer, presenteerde ook directeur Jos van Ginneken zijn onderzoek naar de invloed van geld in de politiek. Het zijn ogenschijnlijk twee heel verschillende onderwerpen. Maar toch draaiden ze uiteindelijk om dezelfde vraag: waar ligt de macht en hoe zorgen we ervoor dat democratische instituties daar controle over houden? Na beide presentaties gingen we daarover, onder leiding van Andrea Speyerbach en met vragen en opmerkingen uit het publiek, verder in gesprek.
Voor AI betekent die vraag naar macht en controle wat mij betreft twee dingen: de overheid moet zoveel mogelijk kiezen voor open AI-modellen en veel nadrukkelijker kijken naar de Nederlandse context waarin die modellen worden gebruikt.
Kies voor open modellen
Nederlandse overheden zijn voor AI momenteel sterk afhankelijk van buitenlandse AI-technologie. Bekende AI-modellen zoals ChatGPT, Claude en Gemini worden ontwikkeld door Amerikaanse bedrijven. Ook Microsoft speelt via Copilot een belangrijke rol binnen veel overheidsorganisaties. Dat is op zichzelf geen probleem, maar de groeiende afhankelijkheid maakt de vraag naar digitale soevereiniteit wel urgent. Het is immers al enkele malen voorgekomen dat de Amerikaanse overheid AI-modellen blokkeerde voor niet-Amerikaanse burgers (zie de ontwikkelingen rondom Claude Mythos en Fable).
De Nederlandse overheid hoeft niet alles zelf te ontwikkelen. Zij moet echter wel kunnen kiezen, controleren en van model kunnen wisselen. Daarom pleit het rapport ervoor bij de keuze voor AI veel sterker in te zetten op open modellen.
Een veelgehoord argument tegen open modellen is dat gesloten commerciële modellen beter zouden presteren. Het verschil blijkt volgens objectieve tests inmiddels echter minimaal. In mijn rapport laat ik gegevens van de Epoch Capabilities Index zien. De beste gesloten modellen liggen gemiddeld slechts enkele maanden voor op open modellen waar het capaciteiten betreft. Open modellen zijn bovendien vaak goedkoper om te gebruiken en kunnen op eigen of gecontroleerde infrastructuur draaien. Maar het belangrijkste voordeel is niet de prijs. Het is controle.
Dat wordt duidelijk door een opmerkelijk voorbeeld uit China. Het Chinese DeepSeek is een zogenoemd open-weight-model. Vraag het AI-model naar het bloedige optreden op het Tiananmenplein in 1989 en het model ontwijkt het onderwerp of reproduceert de officiële Chinese lijn. Omdat de gewichten van het model toegankelijk zijn, konden onderzoekers echter nader onderzoeken wat er precies gebeurt. Daaruit blijkt iets fascinerends: het model beschikt wel degelijk over kennis van Tiananmen, maar heeft in de post-training geleerd dat het bepaalde informatie niet mag geven. Doordat het model kan worden aangepast, kunnen dergelijke beperkingen vervolgens ook worden verwijderd.
Juist voor de overheid is dat fundamenteel. Bij een volledig gesloten model moeten we er uiteindelijk op vertrouwen dat de leverancier zijn technologie verantwoord heeft ingericht. Bij open modellen ontstaan veel meer mogelijkheden voor onafhankelijke toetsing, aanpassing en eigen beheer.
Voorkom een toeslagenaffaire 2.0
Controle over de techniek is echter maar de helft van het verhaal. We moeten ook controle hebben over de waarden en vooroordelen die in AI-systemen terechtkomen.
Een taalmodel is niet neutraal. Het leert uit enorme hoeveelheden menselijke teksten en neemt daarmee ook menselijke aannames, voorkeuren en vooroordelen over. Bovendien worden modellen na hun oorspronkelijke training verder aangepast om ongewenste antwoorden te voorkomen. Dat kan vooroordelen (bias) verminderen, maar onderzoek laat zien dat het soms ook tot overcompensatie kan leiden. Voor een overheid die burgers gelijkwaardig behoort te behandelen is dat een serieus probleem. We willen geen toeslagenaffaire 2.0, ditmaal versterkt door kunstmatige intelligentie.
De gemeente Amsterdam levert op dit terrein relevant pionierswerk met het project Grip op LLMs. In dit project zijn een groot aantal modellen getest op vooroordelen met betrekking tot leeftijd, afkomst/nationaliteit, beperking en geslacht. De resultaten laten zien dat alle modellen vooroordelen hebben. De aard en omvang ervan verschillen per model en per onderwerp. Daaruit volgt een belangrijke praktische les: testen moet geen eenmalige toelatingstoets zijn, maar een permanent onderdeel van het gebruik van AI door de overheid.
AI moet Nederland begrijpen
Er is bovendien nog een probleem. Veel internationale tests naar AI-vooroordelen (bias) worden in het Engels en vanuit een Amerikaanse context uitgevoerd. Maar bias is taal- en contextafhankelijk. Een model kan in het Engels andere antwoorden geven dan in het Nederlands. Goede resultaten op een Amerikaanse benchmark betekenen daarom niet automatisch dat een model ook geschikt is voor de Nederlandse overheid.
Juist daarom is het Amsterdamse onderzoek opvallend. Bij het beoordelen van eigenschappen die belangrijk zijn voor AI stonden zaken als duurzaamheid, kosten, feitelijkheid en inclusiviteit prominent op de agenda. Kennis van Amsterdam, de Nederlandse cultuur en de Nederlandse taal werden daarentegen als minder belangrijk beoordeeld. Dat lijkt mij een verkeerde keuze.
Een overheid kan alleen beoordelen of een model onbevooroordeeld en betrouwbaar functioneert wanneer zij ook onderzoekt of het de samenleving begrijpt waarin het wordt ingezet. De Nederlandse geschiedenis, taal, bestuurlijke verhoudingen, omgangsvormen en culturele context zijn geen onbelangrijke randzaken. Ze bepalen mede hoe vragen worden geïnterpreteerd en welke antwoorden als redelijk en rechtvaardig worden beschouwd.
Dat geldt overigens niet alleen voor het Standaardnederlands. In mijn onderzoek besteed ik ook aandacht aan het Fries, Nedersaksisch en Limburgs. Juist AI biedt kansen om deze erkende talen beter binnen het openbaar bestuur te gebruiken, maar alleen wanneer modellen ook met voldoende Nederlandstalige en regionale data worden ontwikkeld en getest.
Publieke AI vraagt om publieke zeggenschap
AI biedt grote kansen voor een betere en efficiëntere overheid. De conclusie van het onderzoek is daarom niet dat de overheid terughoudend moet zijn met AI. Maar we moeten nu wel de voorwaarden scheppen waaronder we deze technologie de komende jaren willen gebruiken.
Dit begint bij zeggenschap. Kies waar mogelijk voor open modellen. Investeer in Nederlandse initiatieven en infrastructuur zoals GPT-NL. Test modellen voortdurend op vooroordelen (bias), in het Nederlands en vanuit de Nederlandse maatschappelijke context. En zorg dat de overheid een model daadwerkelijk kan controleren, aanpassen en zo nodig vervangen.
Goed bestuur in het AI-tijdperk betekent uiteindelijk niet dat we de slimste technologie inkopen. Het betekent dat de democratische overheid zélf aan het stuur blijft.
