Gemeenten gaan gezamenlijke inkoopvoorwaarden gebruiken voor de inkoop van kunstmatige intelligentie en algoritmen. De set is ontwikkeld door gemeente Amsterdam met juristen van Pels Rijcken, KPMG en Finse AI-experts van Saidot. Alle gemeenten kunnen deze gebruiken bij inkoop.
VNG maakt in het nieuws in het ‘AI Magazine’ bekend. In diverse gemeenten wordt AI al toegepast, zoals bij meldingen over zwerfvuil, kentekenherkenning voor toegang tot milieuzones of parkeerdrukte voorspellen.
Linda van de Fliert zorgt er namens gemeente Amsterdam voor dat de technologie aan alle democratische voorwaarden voldoet. Er wordt zelf technologie ontwikkeld, maar er worden ook inkoopvoorwaarden opgesteld om ervoor te zorgen dat er aan randvoorwaarden wordt voldaan.
Controleerbaar
Van de Fliert stelt in AI Magazine dat automatisering niemand mag uitsluiten en democratisch en controleerbaar moet verlopen. “Het punt met algoritmen is dat lang niet iedereen technisch snapt wat er precies gebeurt, en dan kun je ook niet goed inschatten of het algoritme aan die voorwaarden voldoet. Dat geldt zeker voor de wat complexere AI, zoals met toepassing van deep learning of black-box-algoritmen.”
Om die zaken vooraf vast te stellen, zijn volgens Van der Fliert inkoopvoorwaarden voor software zeer geschikt. Volgens haar bieden die voorwaarden een mogelijkheid om als gemeente te ‘sturen op verantwoord gedrag van bedrijven’. “Gemeenten hebben namelijk een enorme inkoopkracht en als we zelf het goede voorbeeld geven in de inkoop van algoritmen, kunnen we die invloed goed benutten.”
Landelijk vervolg
In samenwerking met Pels Rijcken, KPMG, VNG en Saidot stelde gemeente Amsterdam inkoopvoorwaarden op. Daar sloten al snel ook gemeenten, waterschappen, provincies, Rijkswaterstaat en politie bij aan. Met het ministerie zoekt Van der Fliert nu uit hoe de voorwaarden ook onderdeel kunnen worden van Rijksinkoopvoorwaarden.
Dit artikel verscheen op AG Connect.