Rijksbrede samenwerking AI, publieke waarden en mensenrechten

Zelfrijdende auto’s, gezichtsherkenning in combinatie met cameratoezicht, de zorg verbeteren met data…. Het zijn een paar voorbeelden waar artificial intelligence (AI) wordt ingezet.

AI biedt veel mogelijkheden, maar raakt soms ook aan waarden als privacy en persoonlijke autonomie. Welke afweging maak je daarin als overheid? Daarvoor is er nu het Samenwerkingsplatform AI, publieke waarden en mensenrechten.

De overheid gebruikt AI op diverse beleidsterreinen, zoals in de veiligheid en de zorg. Tegelijkertijd is het een taak van de overheid om publieke waarden en mensenrechten te beschermen. In oktober vorig jaar stuurden diverse departementen drie brieven over dit onderwerp naar de Tweede Kamer: een strategisch actieplan AI, een brief over wettelijke waarborgen bij de inzet van big-data-analyse en de beleidsbrief AI, publieke waarden en mensenrechten. Alle twaalf departementen waren bij het opstellen van deze stukken betrokken, want alle departementen hebben in meer of mindere mate te maken met AI.

Er is bij beleidsmedewerkers veel behoefte aan het uitwisselen van kennis en het op casusniveau bespreken van vraagstukken, vertelt Bram de Rijk, beleidsadviseur informatiesamenleving bij het ministerie van Binnenlandse Zaken en Koninkrijkrelaties. Als gevolg van de beleidsbrief AI, publieke waarden en mensenrechten (redactie: betreft de beleidsbrief oktober 2019) is er daarom een samenwerkingsplatform in het leven geroepen. De Rijk is de projectleider van dit platform.  

Meer over AI? Bekijk de impressie van de voordracht van Holger Hoos, professor Machine Learning aan de Universiteit Leiden (LIACS) en betrokken bij het initiatief CLAIRE, een Europees netwerk voor onderzoek op het gebied van AI.

Afwegingen  

Het samenwerkingsplatform bestaat uit vier onderdelen: een interdepartementale beleidsgroep, een kennisbank, een nieuwsbrief en kennisbijeenkomsten. De beleidsgroep is een ambtelijke werkgroep met twaalf leden; van elk departement één. Ze komen eens in de twee maanden bij elkaar, maar dat kan meer worden als de praktijk daar om vraagt. “In de beleidsgroep worden casussen besproken. Als het gaat om AI, publieke waarden en mensenrechten, dan gaat het bijna altijd om een afweging. Bijvoorbeeld AI in combinatie met gezichtsherkenning om de veiligheid te vergroten. Als het noodzakelijk is om op een specifieke plek de veiligheid te vergroten en een onderzoek wijst uit dat cameratoezicht in combinatie met gezichtsherkenning daar inderdaad het gewenste effect heeft, dan kan deze casus in de beleidsgroep worden besproken. Wij kijken dan naar de impact van deze specifieke toepassing op publieke waarden en mensenrechten. We weten bijvoorbeeld dat gezichtsherkenning bij mensen met een donkere huidskleur een grotere kans geeft op persoonsverwisseling. Dan toont het systeem aan dat een persoon daar is geweest, terwijl dat iemand anders was. Er komen relatief veel ‘false positives’ uit, wat betekent dat je iemand met een donkere huidskleur bij voorbaat verdacht maakt. Dat raakt aan non-discriminatie, maar in een dergelijk geval komen ook waarden als persoonlijke autonomie, het recht op een eerlijk proces en privacy aan de orde. De afweging is dan: staat die impact in verhouding tot de effecten die je bereikt? En, als je wel zo’n systeem inzet, welke mitigerende maatregelen neem je dan om bijvoorbeeld de kans op discriminatie te verkleinen?”

De Rijk benadrukt dat dit een fictief voorbeeld is, bedoeld ter illustratie van de vraagstukken waar de beleidsgroep zich over kan buigen. De beleidsgroep schrijft de afzonderlijke departementen niets voor, het gaat erom dat de mensen die zich op de diverse departementen met dit onderwerp bezighouden kennis kunnen uitwisselen en vergroten. Ook kan de beleidsgroep onderwerpen oppakken die voor alle departementen relevant zijn. Zoals een gezamenlijke onderzoeksagenda.  

Kaders stellen  

Het samenwerkingsplatform wil zoveel mogelijk kennis delen over AI, publieke waarden en mensenrechten. Daarom organiseert het bijeenkomsten waar iedereen van de Rijksoverheid welkom is, zoals gebeurde op 12 februari (zie kadertje). Ook is er een nieuwsbrief waar iedereen met interesse in dit onderwerp zich op kan abonneren, met daarin de belangrijkste wetenschappelijke onderzoeken en nationaal en internationaal nieuws over waar AI publieke waarden en mensenrechten raakt (aanmelden kan via AI@minbzk.nl). De kennisbank wordt op dit moment gebouwd en wordt toegankelijk zodra deze voldoende is gevuld. “Voor de fysieke wereld hebben we als overheid geregeld wat wel en niet mag. Maar in de onlinewereld zie je dat tot nu toe de dominante techbedrijven de kaders stellen. Dat heeft een directe impact op de levens van mensen. Begrijp me niet verkeerd: digitalisering biedt ons heel veel. Het gaat erom dat de overheid de kaders stelt zodat iedereen die technologie kan gebruiken, zonder dat publieke waarden en mensenrechten worden aangetast.” De Rijk heeft een grote ‘drive’ om met dit onderwerp bezig te zijn: “Er zijn zoveel ontwikkelingen die voornamelijk technologisch gedreven zijn en waarin de menselijke kant, de gevolgen voor de samenleving, te weinig aandacht krijgen. Het is goed als daar meer evenwicht in komt. Ik heb het geluk om te werken op een plek waar ik daaraan kan bijdragen.”  

Bijeenkomst

Op 12 februari organiseerde het Samenwerkingsplatform in samenwerking met het ministerie van Justitie en Veiligheid een bijeenkomst over het rapport ‘Toezicht op het gebruik van algoritmen door de overheid’, naar het gelijknamige onderzoek door Hooghiemstra en Partners (november 2019). Het onderzoek richt zich op de mate waarin er op dit moment in de praktijk uitvoering wordt gegeven aan toezicht op overheidsalgoritmes. Een actueel vraagstuk. De schrijvers van het rapport presenteerden hun conclusies en gingen tijdens deze drukbezochte sessie in gesprek met aanwezigen.

Inmiddels is de kabinetsreactie op dit rapport beschikbaar (april 2020).

Noot van de redactie: per 1 juli is Bram de Rijk werkzaam bij IenW en draagt het projectleiderschap voor het Platform over aan zijn collega Sebastiaan van Lunteren.

Dit artikel verscheen ook in het iBestuur Magazine nummer 34.