Stel je voor: je hebt binnen je organisatie een aantal collega’s bij elkaar geroepen om de AI-systemen die in gebruik zijn te kwalificeren. Dat was nog best een karwei, maar je bent eruit. Conclusie: ‘Wij gebruiken geen onaanvaardbare- of hoog risico AI-systemen’. Kassa, dan zal het dus zo’n vaart wel niet lopen met die verplichtingen uit de AI Act en hebben we in ieder geval nog tot augustus 2026. Niks is echter minder waar. Buiten het feit dat het zeer verstandig is om nu al na te denken over verplichtingen als een risicobeheersysteem en transparante communicatie over AI, staat de eerste afdwingbare verplichting voor alle organisaties namelijk in februari 2025 al voor de deur: het bereiken van ‘AI-geletterdheid’ binnen je organisatie. In dit blog nemen we die verplichting eens nader onder de loep. Wat betekent ‘AI-geletterdheid’? Wat zegt de AI Act hier precies over? Wanneer kun je een organisatie als ‘AI-geletterd’ beschouwen? Deze vragen staan in dit blog centraal, dus lees snel verder!
Wat betekent ‘AI-geletterdheid’?
Waar ‘AI’ historisch gezien een hagelnieuw begrip is, is het concept ‘geletterdheid’ dat allesbehalve. Afgeleid van het Latijnse litteratus betekent geletterdheid namelijk zoveel als ‘in staat om informatie te verwerven, begrijpen en gebruiken’. Nog voor de Romeinen was het voor de oude Egyptenaren al zaak om ten aanzien van het hiërogliefenschrift in een bepaalde mate ‘geletterd’ te zijn. De Grieken en Romeinen streefden geletterdheid na ten aanzien van hun eigen talen, waarna in de Middeleeuwen geletterdheid voornamelijk een aangelegenheid was waar de geestelijken zich mee bezig hielden. Geletterdheid is onmisbaar voor de mens: aan de ene kant om met anderen te communiceren, aan de andere kant omdat een geletterd persoon minder kwetsbaar voor bepaalde vormen van uitbuiting is. Wie geletterd is, begrijpt namelijk simpelweg welke betekenis de woorden van iemand hebben en daarmee welke gevolgen deze woorden voor hem hebben. Dankzij geletterdheid begrijpt iemand (tot op zekere hoogte) de wet, een programma van een politieke partij en ieder ander op schrift gesteld stuk. Een tekst heeft in meerdere of mindere mate gevolgen voor personen, het moge duidelijk zijn dat de wet of een partijprogramma aanzienlijke gevolgen hebben. Wie deze gevolgen niet kan zien of niet kan begrijpen, loopt het gevaar te worden blootgesteld aan allerlei vormen van misbruik.
Met de komst van het internet en het digitale domein, kreeg het fenomeen ‘geletterdheid’ een nieuwe dimensie. Het internet bracht weliswaar geen nieuw alfabet voort, maar wel een nieuwe vorm van communiceren en informatie verstrekken. De meeste communicatie vindt tegenwoordig digitaal plaats. Degene die de boodschap uit die communicatie tot zich wil nemen, zal moeten begrijpen hoe het digitale domein werkt, welke mogelijkheden het digitale domein biedt en welk gevaar daarmee gepaard kan gaan. Denk bijvoorbeeld aan het kunnen herkennen van desinformatie op social media-platforms. Dat is een vorm van digitale geletterdheid, die eigenlijk bestaat uit twee componenten: 1) ‘klassieke’ geletterdheid: begrijpen welke boodschap er met de desinformatie wordt overgebracht, en 2) ‘digitale’ geletterdheid: begrijpen dat het digitale domein veelvuldig gebruikt wordt om boodschappen te verspreiden die bedoeld zijn om mensen te misleiden.
Kortom, geletterdheid houdt in dat je woorden, zinnen, paragrafen en hele lappen tekst kunt begrijpen, maar ook dat je deze in perspectief kunt plaatsen. Als je dit vertaalt naar AI-geletterdheid, dan vind je eigenlijk dezelfde twee componenten terug. Je hebt ‘klassieke’ geletterdheid nodig om de voorspellingen, aanbevelingen, beslissingen en andere boodschappen van AI te begrijpen. Vervolgens kun je met ‘digitale/AI’ geletterdheid de mogelijkheden, kansen, risico’s en contextuele implicaties van AI begrijpen. De komst van AI heeft ‘digitale’ geletterdheid vervolgens behoorlijk op de schop gegooid. AI vergroot de mogelijkheden binnen het digitale domein aanzienlijk. Meer mogelijkheden betekent in dit geval ook meer kans op misbruik. Hoewel AI steeds vertrouwder begint te raken in de maatschappij, hangt er nog altijd een soort mystiek gordijn om het concept ‘AI’. Een AI-geletterde samenleving is essentieel om dat gordijn omhoog te trekken. Wanneer het merendeel van de bevolking daadwerkelijk weet wat AI kan, wat AI niet kan, hoe AI werkt en hoe AI niet werkt, dan zal de samenleving op termijn vertrouwd raken met AI.
AI-geletterdheid in de AI Act
In de AI Act is AI-geletterdheid in organisaties die AI willen ontwikkelen en/of inzetten juridisch afdwingbaar gemaakt. AI-geletterdheid wordt in de AI Act als volgt gedefinieerd: “vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken.” Vrij vertaald gaat het om de mogelijkheid om naargelang jouw rechten en plichten uit de AI Act geïnformeerd AI-systemen in te zetten, waarbij je je bewust bent van de kansen, risico’s en mogelijke schade van AI.
Aanbieders (de leveranciers van AI-systemen) en gebruiksverantwoordelijken (degene die het AI-systeem inzet) zijn vervolgens uit hoofde van artikel 4 van de AI Act verplicht om maatregelen te nemen zodat hun personeel en andere personen die onder hun verantwoordelijkheid AI-systemen exploiteren en gebruiken voldoende AI-geletterd zijn. Daarbij moet de aanbieder of gebruiksverantwoordelijke rekening houden met zaken als de technische kennis en ervaring van de werknemer, evenals de context waarin de AI-systemen zullen worden gebruikt. Personeel dat technisch onderlegd is en bovendien veelvuldig met AI in aanraking komt in hun dagelijks werk, zal dus diepgaandere kennis van de techniek, kansen, mogelijkheden en risico’s van AI moeten hebben. Zo zie je dat niet iedere werknemer met het vergaren van dezelfde emmer aan kennis als ‘AI-geletterd’ beschouwd wordt. Voor een organisatie die AI inzet is het dus zaak om in hun AI-geletterdheidsprogramma rekening te houden met de technische kennis en ervaring van hun medewerkers. Het is daarbij aan te raden om medewerkers onder te verdelen in categorieën. Denk bijvoorbeeld aan de categorie medewerkers die vanuit hun functie belast worden met het realiseren van menselijke tussenkomst, of de categorie van medewerkers die periodiek controleren of de gebruikte dataset in een AI-systeem nog actueel en niet bevooroordeeld is. Deze medewerkers hebben een ander kennisniveau nodig dan de medewerkers die hooguit eens aan een Large Language Model vragen of dat model in staat is om een leuk programma voor het aankomende bedrijfsuitje in elkaar te flansen.
Wat volgens artikel 4 AI Act voor AI-geletterdheid bovendien van belang is, zijn de personen of groepen personen ten aanzien van wie de AI-systemen gebruikt zullen worden (de ‘geraakte personen’). Als organisatie moet je dus kijken naar het publiek dat je (normaal gesproken) met je diensten bedient. Overheidsorganisaties zullen in ieder geval de verhouding tussen burger en overheid in overweging moeten nemen. In die verhouding kunnen er per overheidsdienst verschillen bestaan, zo is de groep personen waar het UWV doorgaans mee in aanraking komt niet dezelfde als de groep personen die relevant is voor het Huis voor Klokkenluiders. Ondernemingen zullen een eigen inschatting moeten maken van hun ‘gemiddelde klant’. Vanuit het consumentenrecht moeten ondernemingen bovendien aan allerlei transparantieverplichtingen voldoen. Ook vanuit dit perspectief hebben ondernemingen die AI willen inzetten baat bij AI-geletterde medewerkers, aangezien ze in dat geval beter in staat zijn om consumenten passend te informeren.
Wanneer is een organisatie ‘AI-geletterd’?
De AI Act geeft geen meetlat waarlangs je als organisatie je AI-geletterdheid kunt beoordelen. Dat is jammer, want die meetlat zou voor februari 2025 absoluut van pas zijn gekomen. Ook vanuit het AI-bureau en de Europese Commissie zijn er (nog) geen richtlijnen waarmee de verplichting tot AI-geletterdheid ingekleurd kan worden. Tot die tijd zullen organisaties het dus moeten doen met de definitie van AI geletterdheid en de verplichting uit artikel 4. Hoe vertaal je dat nu naar een effectief AI-geletterdheidsprogramma?
Je moet natuurlijk ergens beginnen. Wat mij betreft ben je als organisatie ‘begonnen’ op het moment dat je begrijpt dat je niet alles van AI kunt begrijpen. Dat klinkt paradoxaal, maar dat valt wel mee: wat van belang is, is dat je het bereiken van AI-geletterdheid ondanks de complexiteit van AI zo simpel mogelijk houdt. Een bedrijfsbrede cursus over deep learning en neurale netwerken is echt niet nodig. Voor AI-geletterdheid is het van belang dat medewerkers bekend zijn met dergelijke termen. Besteed globaal aandacht aan de achterliggende techniek, zodat de medewerker een beeld heeft bij hoe AI werkt. Behandel vervolgens ethische aspecten: hoe kunnen grondrechten van mensen in het geding raken? Wat is bias? Hoe kan een dataset biased raken? Hoe zijn culturele en sociaal-maatschappelijke verschillen van invloed op AI? Zomaar een aantal ethische vraagstukken waarvan de antwoorden bijdragen aan het bereiken van AI-geletterdheid.
Koppel deze techniek en ethiek vervolgens aan de doelgroep die jouw organisatie (normaal gesproken) bedient. Heeft de dienstverlening van jouw organisatie invloed op grondrechten van jouw doelgroep? Zo ja, welke? Welke ethische afwegingen moet jouw organisatie op regelmatige basis maken? Welke rol speelt of gaat AI hierin spelen? Betrek deze vragen in je AI-geletterdheidsprogramma.
AI-geletterdheid is een proces, geen eenmalige oefening. Doorgaans zal je als organisatie niet direct een bepaald moment aan kunnen wijzen waarop je kunt stellen dat je organisatie voldoende AI-geletterd is. Kennissessies en workshops organiseren is nuttig, maar het is niet gegeven dat je organisatie na een X aantal kennissessies AI-geletterd is. Die kennis moet namelijk eerst landen en doordringen. Behandel de technische en ethische aspecten dus altijd gescheiden. Neem in je organisatie bij voorkeur de tijd om medewerkers de benodigde technische kennis te laten verwerken, voordat je de ethische aspecten bij de hoorns vat. Maar bovenal: hou het simpel. Als organisatie pluk je de meeste vruchten van medewerkers die AI, de meest voorkomende technieken, toepassingen en bijbehorende morele dilemma’s kennen, maar ook begrijpen dat ze niet al deze technieken en dilemma’s in detail kunnen begrijpen.
Benieuwd hoe jij je organisatie AI-geletterd krijgt? Wij denken we graag met je mee!
