Gemeenten zoeken naar handvatten om rekening te houden met mensenrechten bij de aanschaf en inzet van algoritmen. Scheidslijnen binnen gemeenten maken dat moeilijk, concludeerde het College voor de Rechten van de Mens op basis van onderzoek. Volgens voorzitter Adriana van Dooijeweert moet er niet alleen meer samenwerking zijn tussen gemeenten, maar ook binnen gemeenten. ‘Tussen afdelingen die besluiten nemen en de afdelingen die bezig zijn met de menselijk maat.’
Hoe ernstig is de situatie?
Van Dooijeweert: ‘Stap voor stap gaan we allemaal met nieuwe technologieën werken en door bijvoorbeeld de toeslagenaffaire komt er alertheid dat het iets betekent voor de rechtsbescherming. Onze procedures zijn ontworpen toen de technologie nog niet zo ver was, maar ook als een besluit grotendeels wordt genomen op basis van algoritmen moet de rechtsbescherming goed geregeld zijn.’
‘Maar het is geen onderzoek naar wat er fout gaat. We wilden weten hoe gemeenten met mensenrechten omgaan bij de inzet van algoritmen. Het positieve beeld dat eruit voortkomt is dat de gemeenten die we hebben gesproken heel erg graag mensenrechten erbij willen betrekken. Ze weten alleen niet hóe. Wij denken dat als gemeenten niet alleen met elkaar samenwerken, maar ook binnen de gemeente meer communiceren en als leveranciers zien dat wat zij maken moet voldoen aan de mensenrechten, dan kun je prima met algoritmes werken.’
Meer communiceren binnen gemeenten - heeft dat te maken met de scheidslijnen die onderzoekers vonden?
‘Ja. Tussen beleid en uitvoering is er één. En op het moment dat iemand bezwaar maakt is er een tweede scheiding, namelijk dat ambtenaren die klachten afhandelen niet degenen zijn die precies weten welke data en algoritmen worden gebruikt. Dus een melding wordt mogelijk als incident gezien en als klacht of bezwaar geformuleerd, maar zonder structureel overleg worden die systemen niet bijgestuurd.’
Het gezamenlijk optrekken van gemeenten helpt misschien bij het probleem van standaardisering, maar staan gemeenten sterk genoeg tegen wereldwijd opererende techgiganten?
‘Dat is lastig. Het zijn dominante bedrijven, maar ze worden zich meer en meer bewust. Niet alleen van privacybelangen, maar ook van mensenrechtelijke aspecten en burgers die technologisch niet heel vaardig zijn. Ik denk dat als deze bedrijven willen overleven ze hierover in gesprek moeten gaan. Het kan vanuit Europa als geheel, maar ik denk dat gemeenten kritisch zijn en zelf in contact willen treden.’
Gemeenten gaven soms aan geen algoritmes te gebruiken terwijl ze dat wel deden. Waarom is dat problematisch?
‘Omdat iedere burger in beginsel recht heeft op transparantie. Als een algoritme jou eruit pikt en jij dat besluit aanvecht, dan zal toch duidelijk moeten worden waarom de computer jou eruit heeft gehaald. Gemeenten weten misschien niet op welke gebieden ze algoritmen gebruiken, maar het moet wel ergens vastliggen. Overigens komt het voor dat gemeenten dat niet wisten, maar het is niet het algemene beeld.’
En ambtenaren hebben niet altijd door wanneer een proces algoritmes gebruikt? Wat is daaraan te doen?
‘Dat gaat toch om het overleg tussen verschillende afdelingen. Zorgen dat er beter en alerter contact is tussen de afdelingen die besluiten nemen, die afdelingen die weten welke systemen er draaien en de afdelingen die bezig zijn met de menselijke maat.’
Bron: Binnenlandsbestuur Digitaal