Het afgelopen jaar is kunstmatige intelligentie, ofwel artificial intelligence (AI) een steeds grotere rol gaan spelen in zowel de publieke sector als het beleidslandschap. Terwijl de technologie zich in een razendsnel tempo ontwikkelt en zijn weg vindt in het dagelijks leven, heeft de Nederlandse overheid zich op zowel lokaal en centraal niveaubezig gehouden met het implementeren van de Europese AI-verordening. Tegelijkertijd zijn overheden zelf steeds vaker AI gaan inzetten in publieke diensten en besluitvormingsprocessen. In deze terugblik kijken we naar drie cruciale thema’s die dit jaar de agenda hebben bepaald: de veranderingen in wetgeving, de uitdagingen die overheidsinstanties tegenkwamen bij het beheersen van AI, en de rol van de overheid als gebruiker van AI.
Belangrijke Ontwikkelingen in Wet- en Regelgeving
In 2024 doorliep de langverwachte AI Act eindelijk het benodigde proces om de status van wet te bereiken. Hiermee heeft Europa als eerste veelomvattend wetgeving ontworpen die van toepassing is op het sturen en beheersen van AI. Specifiek is de verordening bedoelt om veilige, transparante, traceerbare, niet-discriminerende en milieuvriendelijke AI-systemen onder menselijk toezicht te stimuleren. Hiermee bereiken we een belangrijk omslagpunt: van discussiëren over de mogelijkheden en risico’s van AI naar het inrichten van naleving van AI-wetgeving.
Hoe ging het allemaal in zijn werk? De Raad van de EU gaf op 21 mei groen licht voor de verordening. Na de Raad werd de AI Act op 13 juni ook aangenomen door de Europese Commissie, en twintig dagen later gepubliceerd in het Europees Publicatieblad. Hiermee heeft de verordening het gehele proces doorlopen en treedt deze twintig dagen na publicatie in werking. De AI Act is als verordening direct van toepassing en hoeft dus niet omgezet te worden naar Nederlandse wetgeving. Hoewel de verordening direct van toepassing is, gaan de bepalingen daarvan gefaseerd in werking. Dit moet overheden en organisaties de tijd geven om aanpassingen te maken. Ook de Nederlandse regering en met name de organisaties zoals de Autoriteit Persoonsgegevens (AP) die moeten toezien op de naleving van de wetgeving hebben in 2024 voorbereiding getroffen.
Naast de Europese AI-verordening, heeft Nederland in 2024 aandacht besteed aan de integratie van AI en privacywetgeving, vooral in de context van de Algemene Verordening Gegevensbescherming (AVG). Er is meer focus gekomen op de bescherming van persoonsgegevens in AI-toepassingen, met name bij het gebruik van biometrische data en voorspellende algoritmes. De AP heeft zich sterker gepositioneerd als toezichthouder op het gebied van AI en privacy, door de handhaving van privacyregels te intensiveren, en specifiek gericht op AI-systemen die in de publieke sector worden gebruikt.
Beheersen van AI
In 2024 hebben de AP en de Raad voor de Digitalisering (RDI) belangrijke stappen gezet ter voorbereiding op de implementatie van de Europese AI-verordening. In juni 2024 brachten de AP en RDI een gezamenlijk advies uit aan het kabinet, waarin zij benadrukken dat er een gecoördineerde aanpak nodig is tussen overheden en toezichthouders voor het beheer van risicovolle AI-systemen.
Ook hebben de toezichthouders dit jaar actief gewerkt aan het ontwikkelen van criteria voor verboden AI-systemen. In dat kader zijn er twee oproepen gedaan aan belanghebbenden - waaronder het bedrijfsleven, overheden en maatschappelijke organisaties - om input te leveren over specifieke verboden AI-toepassingen. De eerste oproep richtte zich op AI-systemen die manipulatief, misleidend of uitbuitend gedrag vertonen. In de tweede oproep werd er input gevraagd over het verbod op emotieherkenning op de werkplek of in het onderwijs. De opbrengst van deze consultaties zal worden gebruikt om de verboden verder te verduidelijken en nader te specificeren.
Gezien de naderende inwerkingtreding van de bepalingen voor verboden en hoog risico AI, is het van groot belang dat toezichthouders zoals de AP tijdig kunnen beginnen met hun taken, waaronder het verstrekken van voorlichting, handhaving en het opstellen van praktische richtlijnen. De toezichthouders hebben daarom het kabinet verzocht om snel te besluiten over de benoeming van de grondrechtentoezichthouders, zoals het College voor de Rechten van de Mens (CRM), zodat zij zich kunnen voorbereiden op de uitvoering van hun nieuwe verantwoordelijkheden.
Naast het voorbereiden van handhavingslandschap, is de Nederlandse overheid aan de slag gegaan met het ontwikkelen van kaders voor concrete voorbeelden van AI (mis)bruik. Op deze manier moet worden gewaarborgd dat technologische innovaties en het inzetten van AI ethisch en verantwoord wordt gedaan. Zo heeft het Ministerie van Buitenlands zaken en Koningsrelaties een handreiking voor medeoverheden geschreven voor het omgaan met desinformatie. Dit document moet medeoverheden helpen te herkennen wanneer er sprake is van AI-gegenereerde desinformatie en hoe welke handelingen organisaties, communicatieadviseurs en lokale politie kunnen doen. Op provinciaal niveau is er een in gids geschreven die als roadmap dient voor het realiseren van ethische digitalisering.
De overheid als AI-gebruiker
Ook als AI-gebruiker zijn er veel ontwikkelingen geweest voor de Nederlandse overheid. TNO voert elke twee jaar een quickscan uit, waarin het gebruik van AI binnen de overheid in kaart wordt gebracht. Hierin zien we een stijgende groei van het gebruik van AI-applicaties. Met in 2024 de grote groei tot nu toe.
Ook de Algemene Rekenkamer heeft onderzoek gedaan naar het gebruik van AI bij de overheid, en presenteerde de resultaten afgelopen oktober in een rapport. Het onderzoek toonde aan dat er 433 AI-systemen in gebruik zijn bij de rijksoverheid. Dat is meer dan een verdubbeling ten aanzien van het voorgaande jaar. 30 van deze AI-systemen worden aangemerkt als een “hoog risico AI-systeem”, maar dit zouden er meer kunnen zijn. De rekenkamer ziet namelijk de prikkel bij organisaties om AI-systemen niet als hoog risico te classificeren, zodat er niet aan de strenge eisen van de AI Act hoeft worden voldaan. Daarnaast concludeerde de Rekenkamer dat er meer aandacht nodig is voor het risicomanagement en de controlemechanismen rondom AI.
Het rapport van de Rekenkamer is een herhaling van een veelgehoord credo in 2024: AI biedt enorme voordelen, maar het gebruik ervan vereist zorgvuldige afwegingen en toezicht. Het is van groot belang dat overheden niet alleen de voordelen van AI benutten, maar ook de risico's goed begrijpen en actief beheren.
Conclusie
2024 was een jaar van significante vooruitgang en uitdagingen voor zowel de Nederlandse overheid als de Europese Unie op het gebied van kunstmatige intelligentie. De passage en publicatie van de AI Act markeren een mijlpaal in de wereldwijde regulering van AI, waarbij de EU zich positioneert als pionier in het stellen van kaders voor veilige en verantwoorde AI-toepassingen. Dit biedt een stevige basis voor de bescherming van de fundamentele rechten van burgers, maar roept ook nieuwe vragen op over de praktische uitvoering van deze wetgeving binnen nationale contexten.
Voor Nederland betekent dit niet alleen een aanpassing van wetgeving, maar ook een heroverweging van hoe AI in de publieke sector wordt gebruikt. De snelgroeiende inzet van AI door de rijksoverheid, zoals blijkt uit het rapport van de Algemene Rekenkamer, benadrukt de noodzaak van een evenwichtige aanpak: terwijl AI onmiskenbare voordelen biedt voor het verbeteren van de efficiëntie en effectiviteit van overheidsdiensten, moeten de risico’s van deze technologie zorgvuldig worden beheerd. Het gebruik van AI mag niet ten koste gaan van ethiek, privacy, transparantie of verantwoording.
De komende jaren zullen essentieel zijn voor de succesvolle implementatie van de AI-verordening, waarbij zowel overheden als toezichthouders zich moeten voorbereiden op de complexiteit van AI-toepassingen en de ethische vraagstukken die ze met zich meebrengen. Het is van cruciaal belang dat Nederland, en de EU in het algemeen, niet alleen technologische innovatie omarmen, maar ook de nodige waarborgen inbouwen om AI op een verantwoorde en rechtvaardige manier in te zetten. Alleen door voortdurende dialoog, zorgvuldige regulering en een stevig risicomanagement kunnen we de kansen van AI benutten zonder de grondrechten en publieke belangen uit het oog te verliezen.
Ben je werkzaam binnen de publieke sector en ben je nieuwsgierig naar de impact van de AI Act op jouw organisatie? Contacteer onze collega Kalyma Nadal Uceda en schrijf je in voor onze studiedag AI binnen de publieke sector.
