AP uit felle kritiek in jaarverslag op ‘datahonger’ van de overheid.

Ondanks de toeslagenaffaire, waarbij algoritmes ook een rol speelden, is er volgens de AP “bitter weinig veranderd”. De instantie wijst onder meer op een discriminerend algoritme van de Dienst Uitvoering Onderwijs, een illegaal algoritme van het UWV om fraude met de WW op te sporen en het gebruik van gezichtsherkenning door de politie.

Topje van de ijsberg

“Dit is hoogstwaarschijnlijk nog maar het topje van de ijsberg”, stelt AP-voorzitter Aleid Wolfsen. “Natuurlijk kunnen algoritmes en kunstmatige intelligentie ons ook veel goeds opleveren. Zoals efficiëntere werkprocessen voor overheidsorganisaties. Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden.” De Autoriteit Persoonsgegevens is in Nederland de coördinerend toezichthouder op algoritmes en kunstmatige intelligentie.

Private organisaties

Het valt Wolfsen verder op dat dat de overheid steeds vaker private organisaties inschakelt om privacyschendingen te onderzoeken. “Terwijl de AP de aangewezen partij is om als onafhankelijke toezichthouder dit onderzoek te doen”, zegt hij. Volgens Wolfsen leidt deze gang van zaken “niet zelden tot onder meer dubbel werk, verspilling van belastinggeld en verwarring over het juiste toetsingskader”. Ook krijgen bedrijven op deze manier soms toegang tot “zeer gevoelige persoonlijke informatie”, aldus de voorzitter.

Misstanden 

De FNV zegt zich grote zorgen te maken over de “ongebreidelde en onterechte dataverzameling” vanuit de overheid. “Er melden zich nu al met regelmaat uitkeringsgerechtigden en klokkenluiders bij ons met misstanden die ontstaan zijn door de doorgeslagen jacht op fraudeurs”, zegt FNV-voorzitter Kitty Jong. “Vaak op basis van foutieve data. De lat rond dataverzameling moet niet steeds lager maar veel hoger dan hij nu is.”

De vakbond zegt zich ook zorgen te maken over de Wet gegevensverwerking door samenwerkingsverbanden, die regelt dat overheden, instanties en bedrijven persoonsgegevens met elkaar kunnen delen. Privacyvoorvechters spraken van de ‘Big Brother’-wet. Volgens Jong zet die wet “alle sluizen open voor nog meer ongebreidelde en onterechte dataverzameling” en ligt “een volgend privacydrama” op de loer.

-/-

BRON/SOURCES via IBestuur