Impressie ICTU Nieuwjaarscafé: “Het wordt een onvoorspelbaar jaar” 

De opkomst is groot op het ICTU Nieuwjaarscafé van 25 januari 2024. Niet verwonderlijk, want het onderwerp staat volop in de belangstelling. Louise de Jong en Tom Moesker praten de aanwezigen bij over de ontwikkelingen in generatieve AI en de regelgeving op dat vlak.  
De ontwikkelingen gaan razendsnel en het is niet te voorspellen welke kant het opgaat, zegt Moesker: “Wat generatieve AI betreft wordt het een onvoorspelbaar jaar.” 

Hans Verweij, directeur Projecten bij ICTU, zegt in zijn welkomstwoord dat de razendsnelle ontwikkelingen in AI ook hem “overspoelen”. Het is niet meer bij te houden, tegelijkertijd is het onderwerp natuurlijk niet nieuw voor ICTU. “Wij zijn ooit opgericht om de overheid bij de digitale transformatie te ondersteunen en dataficering heeft daar vanaf het begin een grote rol in gespeeld. Daar valt ook AI onder. Een collega becijferde dat we als ICTU al zeker 1 miljoen uren aan dit onderwerp hebben besteed.” 

Doemscenario’s 

Tom Moesker is programmamanager bij ICTU en betrokken bij meerdere projecten waarin AI een rol speelt. Hij behandelt in een notendop verschillende aspecten van AI. Van het brede spectrum aan meningen over deze technologie, van doemscenario’s tot het idee dat AI ons een ideale wereld zal opleveren. Over de ontwikkelingen die in 2024 worden verwacht voor de verdere ontwikkeling van generatieve AI. Zoals de enorme groei in open sourcemodellen en het compacter worden van taalmodellen, zodat je deze zelfs op een laptop kunt draaien. En de komst van multimodale bots, die met gebruik van sensoren niet alleen tekst kunnen genereren, maar onder meer ook beeld en geluid. 

Volop inzet op AI 

Het is niet te voorspellen welke kant generatieve AI op zal gaan, zegt Moesker. Duidelijk is wel dat de ontwikkeling vol gas doorgaat, ook al werd vorig jaar nog opgeroepen tot een moratorium. Hij laat de top tien van bedrijven uit de market cap zien: bedrijven die qua aandelen op dit moment het meeste waard zijn. Daarin staan, op één na, alleen maar IT-bedrijven die een link hebben met AI. Waaronder NVDIA, een bedrijf dat grafische kaarten maakt, die worden gebruikt bij de ontwikkeling van LLM-modellen (Large Language Models, zoals ChatGPT). 

Geldgedreven 

Als je kijkt naar de recente ontwikkelingen in AI, dan kun je concluderen “dat het kapitalisme het in 2023 weer even heeft gewonnen”, concludeert Moesker. Hij vertelt over “de soap rond OpenAI”, waarin de investeerders aan het langste eind trokken. Die ontwikkeling dendert door, met geld als belangrijkste drijfveer. Wat kunnen we daar in Nederland en in Europa tegenoverstellen? Hoe gaan wij de juiste keuzes maken om AI verantwoord in te zetten? Louise de Jong gaat verder in op die vragen. Zij is initiatiefnemer van het kernteam ‘AI en algoritmische besluitvorming’ bij ICTU.  
De Nederlandse en de Europese overheid maken beleid en regelgeving om de kansen van AI te kunnen benutten en de risico’s in te dammen. De Jong noemt ontwikkelingen als het algoritmeregister (2022), het implementatiekader voor verantwoorde inzet van algoritmes (2023, in 2024 wordt dit omgezet in een algoritmekader), de zojuist verschenen kabinetsvisie op generatieve AI en de Europese AI Act, die dit jaar wordt verwacht. 

Het kabinet wil met de visie op generatieve AI bereiken dat AI onder meer veilig en rechtvaardig wordt ingezet. Dat zijn brede begrippen, want wat is ‘rechtvaardig’? Verschillende werkgroepen gaan dit jaar aan de slag om deze thema’s en de in de visie genoemde actielijnen, verder uit te werken.  

AI Act 

De Europese AI Act wil innovatie met AI bevorderen en tegelijkertijd rechten van burgers beschermen. Doelen die kunnen conflicteren en waarvoor Europa instrumenten ontwikkeld, vertelt De Jong. “Het onderliggende uitgangspunt is een risicobenadering van AI.” Zo worden vier niveaus van AI-systemen onderscheiden: van onacceptabel risico tot minimaal risico. Systemen voor biometrische analyse van mensen vallen in de categorie ‘onacceptabel’ en mogen niet worden gebruikt in de EU. Systemen met een minimaal risico mogen worden gebruikt zonder voorwaarden. Voor de twee categorieën daartussenin, hoog- en laagrisicosystemen, gelden voorwaarden. Opvallend is dat de verordening alleen gaat gelden voor systemen die vanaf het moment van inwerkingtreding op de markt komen, niet voor bestaande systemen. De definitieve tekst van het document, nu 800 pagina’s dik, is naar verwachting in het tweede kwartaal van dit jaar klaar. 

Koersbepalende keuzes 

Uit een peiling die De Jong doet onder de aanwezigen op het Nieuwjaarscafé, blijkt dat het merendeel wil experimenteren met AI of dat al doet, maar dat het nog nergens in de operatie wordt gebruikt. Als je dat wilt gaan doen, hoe zorg je er dan voor dat je dat verantwoord doet? Het is een vraag die je niet vanuit één discipline kunt beantwoorden, zegt De Jong. Je moet dit multidisciplinair benaderen. Onder meer vanuit een juridische en ethische invalshoek en vanuit inkoop, financiën, beheer en softwareontwikkeling. “Alleen dan krijg je de brede blik die je nodig hebt om de vele verschillende aspecten van de inzet van AI goed te kunnen beoordelen.” Ook moet de afweging over het al dan niet inzetten van AI in de bestuurskamer worden gemaakt, zegt ze. “De keuze voor de inzet van AI en algoritmische besluitvorming is koersbepalend voor een organisatie. Die keuze moet dan ook worden gemaakt door degenen die de koers van de organisatie bepalen. Dat kun je niet overlaten aan de IT-afdeling.”  

Gids door het doolhof 

Overheidsorganisaties die AI verantwoord willen inzetten, kunnen rekenen op ondersteuning vanuit ICTU bij het maken van de juiste afwegingen. De Jong vertelt over deze gidsfunctie: geen boekje, maar een team met verschillende disciplines dat kan helpen de weg te vinden in het doolhof rond verantwoorde inzet van AI. Meer informatie: Louise.dejong@ictu.nl.