“Het gaat er niet om óf we met nieuwe technologie willen innoveren, maar om hoe we dat verantwoord kunnen doen”
Bram de Rijk is beleidsmedewerker Publieke Waarden en Nieuwe Technologie bij het ministerie van BZK. Hij ontwikkelde de Toolbox Ethisch Verantwoorde Innovatie. Hij presenteerde deze tijdens de Data en Ethiek Summit.
De Rijk richt zich bij BZK op twee thema’s: het borgen van publieke waarden en grondrechten in innovatieprocessen aan de ene kant, en de internationale ontwikkelingen op dat gebied. “In Europees verband gebeurt er veel, de ethische aspecten van Kunstmatige Intelligentie (AI) staan nu hoog op de agenda.” De verandering in de samenleving door technologische ontwikkeling is echt ‘zijn’ onderwerp. “Hoe zorgen we ervoor al die innovatie ook een prettigere samenleving oplevert?” Dat is de vraag die hem al vanaf zijn studie Nieuwe Media en Digitale Cultuur bezighoudt. In zijn vrije tijd experimenteert hij graag met nieuwe technologie. “Ik vraag me dan ook vaak af waarom ik al mijn data op moet geven als ik iets nieuws wil proberen.”
Twee voorbeelden van ethische vraagstukken
- Een gemeente zet ‘What’s app’ in bij de communicatie met burgers. Dat is handig, want de meeste burgers gebruiken het al en weten hoe het werkt. Tegelijkertijd houdt ‘What’s App’ zich niet aan de hier geldende privacywetgeving.
- Met koppeling van data kunnen meer fraudegevallen opgespoord worden. Maar het kan ook betekenen dat mensen op basis van kenmerken als hun adres als verdacht worden gezien. Dat schaadt hun grondrechten.
Beter beschermen
Het programma Publieke Waarden en Nieuwe Technologie is onderdeel van de Agenda Digitale Overheid; NL DIGIbeter. “Ook van de overheid wordt gevraagd innovatief te zijn, bijvoorbeeld om dienstverlening gepersonaliseerd aan te bieden. De keerzijde daarbij is dat we daarvoor meestal meer data verzamelen en bijvoorbeeld profielen opstellen. Je maakt onderscheid tussen mensen op basis van bepaalde criteria. Discriminatie ligt dan op de loer. De vraag is: wat mag dan wel en wat niet?” Het antwoord is niet eenduidig te geven. De Rijk licht toe: ”Ons programma verzamelt en ontwikkelt kennis over de ethische impact van nieuwe technologie. Die kennis is nodig om waarden en rechten beter kunnen beschermen. In de mate van bescherming moeten we keuzes maken: het is ook afhankelijk van wat we willen met technologie. Ik merk dat men in Nederland soms vreest dat we achter gaan lopen bij andere landen. Laten we er hier voor kiezen te innoveren met respect voor waarden en dáárin vooroplopen.” De Beleidsbrief AI, Publieke Waarden en Mensenrechten (oktober 2019) verwoordt het Kabinetsstandpunt op dit gebied: het staat een ‘Human-Centered-AI’ benadering voor. Datzelfde geldt overigens voor de Europese Unie.
Zichtbare impact
De maatschappelijke impact van technologie krijgt inmiddels veel aandacht in de media, ziet hij “De gevolgen worden nu meer zichtbaar. Audiospeakers blijken mee te luisteren naar wat er gebeurt in huis. Er komen zelfrijdende auto’s aan. Consumenten kunnen deurbellen met gezichtsherkenning kopen.” Ook de nieuwe Europese Privacywetgeving – de AVG- draagt bij aan de nieuwswaardigheid. “Ons programma maakt daarom nu de stap van maatschappelijk agenderen naar het in Europees verband samen regelen. We moeten het wel samendoen. Vanuit Nederland willen we daar natuurlijk inspraak in. Zo vinden we het belangrijk dat er voldoende ruimte blijft om te innoveren.”
Binnen de overheid is er steeds meer aandacht voor de ethische kant van technologische vernieuwing, ziet De Rijk. “Veel gemeenten en uitvoeringsorganisaties zijn er mee bezig. De vraag is nog wel: hoe pak je het aan? Welke eisen gelden er precies? Daarnaast: ieder project heeft natuurlijk een vastgesteld budget en een tijdspad: hoe passen die nieuwe eisen daar dan in? Het is nog zoeken.”
Ieder grondrecht-by-design
De Toolbox Ethisch Verantwoord Innoveren helpt professionals om waarden en grondrechten vanaf de start mee te nemen in het ontwikkelproces bij innovatie, vertelt De Rijk. “Net als bij ‘privacy-by-design’, moeten we toe naar ‘ieder-grondrecht-by-design’: waarden en rechten moeten vanaf het begin af aan in het ontwerp worden meegenomen.” Ontwikkelaars van systemen hebben daar natuurlijk handvatten bij nodig. “De Toolbox geeft geen blauwdruk, maar helpt bij het maken van een eigen blauwdruk voor een project. Daarbij biedt het instrumenten die bruikbaar zijn in de praktijk.” BZK heeft daarvoor bestaande tools bij elkaar gebracht en met elkaar in verband gebracht.
Keuzes bespreekbaar maken
Om de Toolbox Ethisch Verantwoorde Innovatie succesvol te kunnen gebruiken is draagvlak, tijd en geld nodig. “Je moet tijd kunnen besteden aan de ethische kant, bijvoorbeeld om gebruikers te betrekken in het ontwikkelproces. Maar wanneer aan het eind van het project de fundamenten hersteld moeten worden, is dat veel en veel duurder.” Belangrijk is dat het team wat zo’n systeem ontwikkelt de keuzes die impact hebben expliciet maakt, vertelt De Rijk. “Die keuzes horen bij de opdrachtgever van zo’n systeem. ICT’ers horen bij dit soort keuzes niet leidend te zijn; ICT is iets van de hele organisatie, ieder heeft zijn eigen rol.”
Over de Toolbox
- De Toolbox is opgedeeld in zeven principes zoals ‘Zet publieke waarden centraal’ en ‘Breng de effecten van innovatie op publieke waarden in beeld’.
• Adviezen helpen om ieder principe in de praktijk te brengen.
• Ieder advies heeft tot slot een aantal hulpmiddelen, zoals instrumenten, best practices of verwijzingen naar literatuur.
Nooit af
De toolbox is gepresenteerd op de Data en Ethiek Summit van 31 oktober. “De aankomende periode brengen we hem verder onder de aandacht, reflecteren erop en verbeteren verder met inzichten uit de praktijk.” De Rijk hoopt dat gebruikers ook nieuwe en betere tools aandragen. “Innovatie gaat natuurlijk altijd door. En ervaringen in het toepassen van bepaalde tools en tips en trucs daarbij kunnen de Toolbox verder verrijken. Naar die nieuwe inzichten gaan we op zoek en we horen graag over mogelijke verbeteringen.”
Meer informatie