AI: Laissez Faire

Tussen de muren van gemeentehuizen weerklinkt een nu nog gestage en wat versluierde transformatie die hoe dan ook grote impact gaat hebben. Taalmodellen zoals ChatGPT vinden sluiks hun weg naar ambtenaren, die worstelen met de groeiende complexiteit van hun werk en de schaarste aan personeel. Deze slimme algoritmes beloven een uitweg: een mogelijkheid om het zware werk van beleidsanalyse en besluitvorming te verlichten door simpelweg documenten te uploaden en de AI het werk te laten doen.

Toezicht ontbreekt echter. Uit onderzoek van EenVandaag blijkt dat er bij de meeste gemeenten gewerkt wordt met dergelijke commerciële taalmodellen maar overzicht of eenduidig beleid ontbreekt. Ruim de helft van de gemeenten geeft aan zich zorgen te maken over de omgang met deze programma’s en privacy-gevoelige gegevens. Uit Den Haag klinkt een waarschuwend geluid. Staatssecretaris Van Huffelen roept (rijks)ambtenaren op heel terughoudend te zijn met dit soort technologieën in hun werkzaamheden. De bezwaren liggen voor de hand: privacy-gevoelige informatie wordt eigendom van buitenlandse commerciële bedrijven, taalmodellen vertonen zogenaamde hallucinaties en zijn niet betrouwbaar genoeg, etc.

Een ander, meer fijngevoelig, bezwaar is minder te horen. AI, zoals ChatGPT, passen naadloos in het ‘New Public Management-idioom’ van efficiëntie en effectiviteit. Ze vergemakkelijken ons werk en verhogen onze productiviteit en efficiëntie. AI maakt het mogelijk menselijke afwegingsprocessen te externaliseren in technologie. Waarom zou je als ambtenaar al het beleid doorakkeren als je deze beleidsdocumenten ook kan uploaden zodat een AI dit voor je kan doen?

Het recent verschenen en alarmerende rapport van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening laat zien wat er mis kan gaan als we complexe besluitvorming overhevelen naar de koude logica van technologie. In dit omvangrijke rapport staat uitvoerig beschreven hoe ondoorgrondelijke technologieën en algoritmes hebben geleid tot flagrante discriminatie, gebrek aan transparantie, onrechtvaardige behandeling en een totaal gebrek aan menselijke maat.

ChatGPT en alternatieven dragen dit inherente gevaar ook in zich. Toezicht en helder beleid is dus noodzakelijk. Welke rol taalmodellen dan wel kunnen spelen in het werk van gemeenteambtenaren zal onderdeel van gesprek moeten blijven. Ongetwijfeld zal het ons nog efficiënter, productiever en doelmatiger maken. Maar schoenmaker, blijf bij je leest: menselijke vraagstukken vragen om menselijke ogen.