De komst van generatieve AI wordt veelal gezien als een bedreiging, maar experts beschouwen het ook als een kans voor de ambtenaar.
Velen zien ChatGPT als een bedreiging. Experts beschouwen deze vorm van kunstmatige intelligentie juist ook als een kans. Ook voor ambtenaren. ‘Als je niet met AI wil werken, vraag je een beloning voor niet-efficiënt werk. Je wordt niet vervangen door AI, maar wel door een mens die met AI werkt.’
Alarmistische toon
De toon in de Tweede Kamer is over het algemeen bezorgd tot ronduit alarmistisch als het gaat over kunstmatige intelligentie (artificial intelligence, kortweg AI). De Wetenschappelijke Raad voor Regeringsbeleid (WRR) noemt AI een ‘systeemtechnologie’, een technologie met zeer brede effecten op de samenleving, vergelijkbaar met elektriciteit en de verbrandingsmotor. De gevolgen van de komst van AI zijn voor niemand goed te overzien. Een oproep om grootschalige experimenten met AI zes maanden te pauzeren, vindt weerklank. Belemmeren de zorgen over het potentieel bedreigende karakter van AI het zicht op de kansen? Om het overzichtelijk te houden: wat betekent de komst van generatieve AI voor de lokale ambtenaar?
Krachtig model
Generatieve AI is kunstmatige intelligentie die zelfstandig tekst, afbeeldingen, audio, video of code kan ontwikkelen op basis van een opdracht in natuurlijke taal, zoals het Nederlands. ChatGPT is het bekendste voorbeeld van openbaar toegankelijke generatieve AI voor teksten. Voor het genereren van afbeeldingen worden Midjourney en Stable Diffusion veel gebruikt en voor code Github Copilot. Aan de basis van generatieve AI ligt een large language model (LLM), oftewel een taalmodel. Dat model wordt getraind met behulp van enorme datasets, heel veel trainingstijd en computerkracht. Stefan Leijnen, lector Artificiële Intelligentie bij de Hogeschool Utrecht en adviseur van de Nederlandse AI Coalitie, vergelijkt een taalmodel met een prisma, dat is getraind om verschillende inputs te transformeren naar een output. ‘Het model probeert te voorspellen wat de optimale output is gegeven de input,’ zegt Leijnen. ‘Er zijn wat ‘dobbelstenen’ ingebouwd, waardoor je met deze input verschillende outputs kunt genereren. De kracht van het model is dat er zoveel parameters zijn, zoveel afhankelijkheden en paden die allemaal apart van elkaar zijn getraind, dat de output enorm lijkt samen te hangen met de input. Zo zinnig dat het lijkt alsof er een mens aan het werk is.’
De kracht van het model is dat er zoveel parameters zijn, dat de output enorm lijkt samen te hangen met de input. Zo zinnig dat het lijkt alsof er een mens aan het werk is.
Sectorspecifieke AI
Programma’s als ChatGPT zijn breed inzetbaar, maar het zal niet lang duren voordat er software met generatieve AI voor specifieke sectoren wordt ontwikkeld. Van het transcriberen en samenvatten van opnames van vergaderingen, tot het opstellen van juridische en financiële documenten; er zijn talloze use cases te bedenken waarbij generatieve AI het werk van de decentrale overheid vergemakkelijkt. Hoge verwachtingen heeft onafhankelijk techexpert Jarno Duursma van het verbeteren van de toegankelijkheid van overheidscommunicatie. ‘De optie ‘leg dit uit aan iemand van 15’ kan de overheid helpen om complexe onderwerpen te versimpelen.’
Niet blindvaren
Tegelijkertijd is de huidige staat van de technologie zeker niet zodanig dat je er blind op kunt varen, zegt lector Stefan Leijnen. ‘De burger moet vertrouwen op de overheid, maar vertrouwen is een moeizaam begrip als het om AI gaat. De output van zo’n generatieve AI is nog steeds gebaseerd op de data die je invoert, en de keuzes die worden gemaakt bij het ontwikkelen van een AI.’ Dat de huidige vormen van AI zijn ontwikkeld in laboratoria van advertentiebedrijven waar vertrouwen minder belangrijk is, zoals Google en Facebook, zou overheden extra terughoudend moeten maken, vindt hij.
Hallucinaties
Generatieve AI gebruiken zonder te controleren wat de software ophoest, is in dit stadium absoluut onverstandig, waarschuwt Leijnen. De samenleving moet het nog doen zonder waarborgen die veilig gebruik van generatieve AI kunnen garanderen. De datasets waarop de modellen zijn getraind, bevatten fouten en vooroordelen. Critici vrezen dat generatieve AI een tsunami aan desinformatie zal opleveren. Het maken van een persoonlijke phishingmail wordt bijvoorbeeld vele malen makkelijker dan het al was. Naast een toename aan mis- en desinformatie bestaat het risico op hallucinaties; een programma als ChatGPT komt soms op de proppen met eigen verzinsels. Ook is het belangrijk dat ambtenaren zich bewust zijn van de aard van de gegevens die ze aan ChatGPT voeren. Alle nieuwe input kan OpenAI gebruiken als trainingdata. ‘Een project waarin geheim intellectueel eigendom voorkomt, zou ik niet aan het systeem geven,’ zegt Duursma. Ook privacygevoelige gegevens zijn om deze reden ongeschikt voor ChatGPT.
Tool
Tegelijkertijd is generatieve AI voor de ambtenaar van nu gewoon een tool, net zo goed als Word dat is, stelt Leijnen. Een tool die de communicatie tussen overheid en inwoners verbetert, mits men zich bij de overheid bewust is van de risico’s en zich niet laat misleiden door de menselijkheid die AI uitstraalt. ‘Het is een nieuwe manier om te navigeren door die enorme berg data die het internet inmiddels herbergt,’ zegt Leijnen. ‘Als ik een document wil schrijven, of in de toekomst een video nodig heb, dan krijg ik die in een vingerknip. En als ik niet tevreden ben, genereer ik een nieuwe. Dat wordt gewoon integraal onderdeel van onze manier van werken.’
Impersonatie
Veel bestaande applicaties krijgen in de komende jaren AI ingebouwd (en voor een deel is dat zelfs al het geval). Er zullen tools en applicaties ontstaan die we ons nu nog niet kunnen voorstellen, maar die over een paar jaar niet meer zijn weg te denken, net zoals dat ging met de komst van de smartphone. Jelle Prins, eigenaar van een AI-startup, zegt: ‘De computer zal steeds beter voorzien wat je wil doen en je ondersteunen. Er zijn al startups die analyseren welke handelingen je op de computer verricht, zodat de AI informatie uit de vervolgstappen alvast voor je klaarzet.’ Die impersonatie kan best ver gaan. Techexpert Duursma: ‘In de toekomst kun je ChatGPT toegang geven tot je e-mailconversaties, tweets en WhatsApp berichten, waardoor het systeem je manier van communiceren kan imiteren. Je hoeft de e-mails en appjes alleen nog maar goed te keuren.’
Je hoeft de e-mails en appjes van ChatGPT alleen nog maar goed te keuren.
Bijblijven
De geïnterviewden hopen dat dit artikel aanzet om generatieve AI een kans te geven. Jelle Prins stelt dat ambtenaren wel zullen moeten. ‘Als je niet met AI wil werken, vraag je een beloning voor niet-efficiënt werk. Je wordt niet vervangen door AI, maar wel door een mens die met AI werkt.’ Maar volgens Leijnen is het vooral ‘hartstikke gaaf en interessant’ om eens wat uit te proberen. ‘Ik zou mensen willen uitnodigen om met een bepaalde nieuwsgierigheid kennis te nemen van alles wat er mogelijk is,’ zegt hij. ‘Niet omdat je anders meteen je baan kwijt bent, maar wel omdat de wereld snel verandert en het geen kwaad kan om bij te blijven.’
Lees het hele artikel deze week in BB08 (inlog)
Bron: BinnenlandsBestuur Digitaal, Marjolein van Trigt