De enquêtecommissie fraudebeleid waarschuwt bestuurders en ambtenaren in hun rapport 'Blind voor mens en recht' voor het gebruik van ChatGPT.
Deze waarschuwing en de risico's bij het gebruik van ChatGPT doen een aantal alarmbellen oplichten. Verschillende reacties volgden hierop. ChatGPT staat gekend om als hulpmiddel te ondersteunen bij het herschrijven van teksten. Vanwaar nu die bezorgdheid om deze tool? Er blijkt geen toezicht te zijn op welke expliciete gegevens er in worden verwerkt en wie hier gebruik van maakt. Deze onduidelijkheid leidt tot enige onrust. Bovendien is het gebruik van ChatGPT wegens privacy gebreken binnen de Rijksoverheid verboden. Zo meldde staatssecretaris Alexandra van Huffelen in december 2023.
Reactie daarop vanuit VNG: ‘Voor gemeenten lijkt het waarschijnlijk dat zij juridische risico’s lopen wanneer zij niet-gecontracteerde generatieve AI-toepassingen gebruiken.’
Desondanks het verbod, maakt toch driekwart van de gemeenten hiervan gebruik en is er op heden nog geen duidelijk beleid over de toepassing van dit hulpmiddel… Gemeente Almelo deelde alvast mee dat men ernaar streeft om dit jaar interne richtlijnen op te stellen.
Colleges uiten ook hun bezorgdheid over het gebruik van ChatGPT bij ambtenaren. Het programma herschrijft teksten gebaseerd op basis van voorspellingen over taal en mist daardoor inhoudelijke kennis. Hierdoor zou discriminatie en privacy schending op de loer kunnen liggen.
'Het is onwaarschijnlijk dat ChatGPT kan worden ingezet zonder het serieuze risico dat mensenrechten worden geschonden.'
- College voor de Rechten van de Mens
'We hebben geen inzicht in wie in onze organisatie gebruikmaken van generatieve AI en in welke mate dit gebeurt.'
- College Soest
Promovenda Sarah de Heer (Universiteit van Lund) waarschuwde eerder al voor de mogelijke risico’s bij geautomatiseerde besluitvormingen gericht op de rechten van burgers. Zij is van mening dat het grondrecht op een eerlijk proces in gedrang komt wanneer men bij besluitvormingen inzet op geautomatiseerde systemen en algoritmes. Er is te weinig transparantie en hierdoor rijzen veel vraagtekens bij het tot stand komen van beslissingen rekening houdend met de rechten van burgers en rechters.
MAAR gemeenten zoals Soest en Lisse willen een ander point-of-view aankaarten. Een woordvoerder kwam aan het woord met volgende: ‘Transparantie is een recht. Dat maakt dat organisaties die met generatieve AI aan de slag willen, zich goed af moeten vragen welke risico’s ze lopen. Is het voor betrokkenen duidelijk dat persoonsgegevens worden verwerkt, waarom, hoe en door wie? En wat is de betrouwbaarheid van de gegenereerde informatie? Daar zijn grote vraagtekens bij te zetten’.
Het enthousiasme rond ChatGPT, dat aanschouwt werd als ideaal hulpmiddel, zal tot nader inzien toch nog eens op verschillende vlakken onder de loep moeten genomen worden.
Uitgebreid nieuwsartikel: HIER