Overslaan en naar de inhoud gaan

Hoe blijft de overheid computers de baas?

Verkenning tijdens een sessie op de ICTU Inspiratiedag 2019
Publicatie 17 okt 2019
Onderdeel van magazine: ICTU Magazine oktober 2019

Veel mensen denken bij ‘artificial intelligence’ aan de robots uit Star Wars of de superauto uit de televisieserie Knight Rider. In werkelijkheid is AI veel ongrijpbaarder.

Zelfdenkende robotten zijn nu nog iets van de verre toekomst. Maar de ontwikkelingen gaan wel heel snel, waarschuwde Tom Moesker van ICTU. Ook de overheid moet zich hiervan bewust zijn. In de echte wereld is kunstmatige intelligentie niet een buitengewoon slimme robot met menselijke trekjes, maar gaat het om anonieme algoritmen. Een technisch stuk gereedschap dat één ding goed kan. De afgelopen jaren is AI in een stroomversnelling terechtgekomen, vertelde Moesker tijdens de workshop ‘Hoe blijven we als overheid de computers de baas?’ bij de ICTU Inspiratiedag 2019. Vooral bij beeldverwerking, taalverwerking en het ontwikkelen van autonome systemen gaat het hard.
Beeldherkenning gaat bijvoorbeeld al zo ver, dat camera’s gezichten herkennen, acties kunnen beschrijven en zelfs iemands gemoedstoestand kunnen aflezen. In China ondersteunen dergelijke systemen een zogeheten social credit systeem. Hierbij worden burgers beoordeeld op hun sociale gedrag. Nog maar kort geleden een thema voor science fiction, nu werkelijkheid.

Digitale personal assistant

Ook op het gebied van taal is de vooruitgang opzienbarend. Vertaalprogramma’s worden steeds nauwkeuriger en leren snel bij. Chatbots nemen de rol van personal assistents over en maken een afspraak voor je bij de kapper. En als je een paar beginzinnen aanlevert, kan de computer zelf een verhaal bedenken. Er lopen zelfs experimenten met fora waar geen mens aan te pas komt en waar bots op elkaar reageren.
Het derde gebied waar de ontwikkelingen heel snel gaan is dat van autonome systemen. Bijvoorbeeld de ontwikkeling van zelfrijdende auto’s. Dankzij allerlei sensoren is de auto in staat de omgeving waar te nemen en te analyseren en daar beslissingen op te baseren. Het zal nog niet morgen gebeuren, maar Moesker voorspelt dat dergelijke software in de toekomst even gewoon is als een navigatiesysteem.

Efficiëntere opsporing

Kunstmatige intelligentie biedt de overheid kansen en bedreigingen. Overheidsdiensten kunnen AI gebruiken om de burger beter van dienst te zijn. Opsporingsdiensten en inspecties kunnen hun werk efficiënter doen doordat ze risico’s beter kunnen bepalen. AI helpt ook om de toekomst beter te voorspellen. Bovendien kan AI de democratie versterken en bijdragen aan innovatie in het bedrijfsleven.
Een mooi voorbeeld is de chatbot die kan worden ingezet voor dienstverlening van de overheid. Burgers kunnen dan chatten met een ‘virtual assistant’ die communiceert alsof er een mens van vlees en bloed aan de andere kant zit. Zo’n chatbot is in potentie 24/7 bereikbaar en kent geen wachttijden. Hij kan vragen beantwoorden, foto’s en formulieren inhoudelijk beoordelen en oplossingen aanreiken. Dit vraagt onder meer een domeinspecifiek systeem dat achter de schermen gebruik maakt generieke taalverwerkingsservices en beeldherkenning. En de nodige inspanningen voor beheer en beveiliging, want je reputatie als overheid staat op het spel.

Alwetend Facebook

Tegenover de kansen staan ook bedreigingen. Een aantal daarvan worden nu al gevoeld. Zoals de aantasting van onze privacy. Moesker: “Facebook en Google weten meer van je dan je eigen partner.” Deze door AI gedreven giganten krijgen ook meer invloed dan wenselijk is. Ook politiek. Bij de inzet van AI voor de rechtspraak bestaat het risico van een oneerlijk of ondoorzichtig proces. AI kan een gevaar zijn voor de democratie, bijvoorbeeld met zogeheten ‘deep fakes’ waarbij bedriegers zich voordoen als politici.
Waar staat Nederland als het gaat om kunstmatige intelligentie? Wij denken zelf dat we heel wat zijn, aldus Tom Moesker. “Maar de zaken die ik het spannendst vind, komen meestal uit andere landen.” Succesvolle startups en knappe koppen zoeken hun heil en verdere ontwikkeling vaak in het buitenland, want daar is meer mogelijk en meer te verdienen. Ons land zou zich moeten richten op Europese samenwerking. Op het gebied van AI, maar ook op het gebied van regelgeving. Want de cloud kent geen nationale grenzen.

Lees ook de impressie van de voordracht van Holger Hoos 'Computers vervangen mensen niet, maar kunnen mensen helpen betere beslissingen te nemen'. Vooral daar waar mensen bevooroordeeld zijn en fouten maken. Dat is wat artificial intelligence (AI) voor ons kan doen, betoogde Holger Hoos, professor Machine Learning aan de Universiteit Leiden (LIACS) tijdens het ICTU Grand Café in juni 2019.

AI dient de mens

Als je vraagt wat mensen van AI verwachten, dat is een grote meerderheid het erover eens dat AI de mens moet dienen. Niet iedereen denkt er echter zo over. Vooral de grote techbedrijven zien de burgers vaak als ‘digital cattle’. Goed als bron voor data die je vervolgens kunt gebruiken om geld mee te verdienen. Zij laten zich minder gelegen liggen aan zaken als privacy.
Het is daarom nodig dat de overheid kaders stelt, liefst in internationaal (EU-)verband. “Reguleren is ingewikkeld”, erkent Moesker. “Soms hoor ik jonge promovendi zeggen: ‘We geven het op, deze ontwikkelingen kunnen we toch niet meer terugdraaien.’ Dan denk ik: waar komt deze moedeloosheid vandaan? Het is júist onze dure plicht om medeburgers te beschermen. De overheid moet transparantie van algoritmes afdwingen en een begrijpelijke uitleg eisen over de exacte werking. Verder dienen er autoriteiten komen die erop toezien dat de regels worden nageleefd en zo nodig sancties opleggen. En ook stevige, als het moet”.

Kennis bevorderen

Hoe pakken we dat aan? Om AI goed te reguleren, is kennis van zaken vereist. Die kennis is nu nog op veel plekken bij de overheid nog onvoldoende. Ook ICTU kan hierbij helpen met een ‘AI-lab’ in wording. Daarin kunnen we inspirerende demo’s bouwen of bijeenkomsten faciliteren en speciale aandacht hebben voor ethiek en wet- en regelgeving. Een van de eerste plannen van het lab is het bouwen van een Nederlandstalige chatbot-demo.

Een aantal deelnemers aan de workshop riep ICTU op om in het AI-lab niet alleen naar de technische en zakelijke kant te kijken, maar vanaf het begin ook ethische aspecten mee te nemen. “Als je dat aan andere organisaties overlaat, komt het veel te laat op gang.” Ze verwezen naar ziekenhuizen, die een ethische commissie hebben om bestuurders te adviseren over medisch-ethische kwesties. “Ethische aspecten vanaf dag één in de ontwikkeling betrekken. Dat nemen we zeker mee”, beloofde Moesker.

Op 8 oktober verscheen een Kamerbrief over AI, publieke waarden en mensenrechten. ICTU mocht een bijdrage leveren aan de totstandkoming daarvan. Tegelijkertijd met deze brief over AI, publieke waarden en mensenrechten, is het Strategisch Actieplan voor Artificiële intelligentie (SAPAI) aan de Kamer aangeboden. 

 

Inschrijven Magazine

Meld u aan voor het ICTU Magazine, en ontvang regelmatig nieuws en inspiratie over ontwikkelingen in de digitale overheid.