Uit onderzoek van de Vereniging van Nederlandse Gemeente (VNG) blijkt dat gemeenten op dit moment onvoldoende toegerust zijn op de eisen die de Europese AI-verordening (AI Act) aan ze stelt.
Op 2 februari 2025 zijn de eerste verplichtingen voor gemeenten in werking getreden. Deze omvatten de algemene bepalingen, verbodsbepalingen en vereisten op het gebied van AI-geletterdheid. Voor nieuwe hoog-risico AI-systemen gaan deze verplichtingen pas in vanaf 2 augustus 2026. Gemeenten krijgen wel meer tijd om te voldoen aan de regelgeving voor hoog-risico AI-systemen.
De tijd is nu aangebroken voor gemeenten om echt operationeel te worden als het gaat om de uitvoering van de AI-verordening. Op korte termijn moeten gemeenten drie belangrijke stappen ondernemen. Ten eerste dienen zij een volledige inventarisatie te maken van hun AI-systemen. Ten tweede moeten zij zorgen voor voldoende AI-geletterdheid binnen de organisatie. En ten slotte is het essentieel dat zij hun organisatie inrichten op AI-compliance, zodat zij kunnen voldoen aan alle wettelijke verplichtingen.
AI-systemen inventariseren
Gemeenten moeten allereerst een overzicht maken van alle AI-systemen die zij in gebruik hebben. Vervolgens is het cruciaal om deze systemen in te delen op basis van hun risiconiveau, waarbij onderscheid wordt gemaakt tussen verboden systemen, hoog-risico systemen en systemen met een transparantierisico. Organisaties doen dit door een algoritmeregister aan te leggen, waarin AI-systemen en risiconiveaus worden geïdentificeerd. Voor AI-systemen die onder de verboden categorie vallen, moet het gebruik vóór 2 februari 2025 worden gestaakt. Tot slot dient de gemeente voor elk systeem vast te stellen of zij optreedt als aanbieder of als gebruiksverantwoordelijke, dit heeft consequenties voor de compliance maatregelen die genomen moeten worden.
AI-geletterdheid organiseren
De AI-verordening vereist dat organisaties zorgen voor een adequaat niveau van AI-geletterdheid onder hun personeel. Dit betekent dat medewerkers inzicht moeten hebben in zowel de technische als sociale, ethische en praktische aspecten van AI-systemen die ze gebruiken. Het vereiste kennisniveau verschilt per functie - van basisbegrip voor algemene medewerkers tot diepgaande kennis voor specialistische rollen. Gemeenten moeten het huidige en benodigde AI-kennisniveau in kaart brengen, kennishiaten identificeren en passende training aanbieden. Dit kan variëren van online basiscursussen tot specifieke vakgerichte opleidingen.
AI-compliance officer creëren
Het implementeren van AI-compliance vereist blijvende aandacht van gemeenten. Net zoals andere compliance vraagstukken is dit geen eenmalige actie maar een doorlopend proces. Bij verschillende gemeentes in Nederland ontstaat op dit moment de rol van de AI Compliance Officer. Het kader voor deze functie zal per gemeente verschillen maar het vereist een multidisciplinaire insteek en zet de organisatie aan tot een holistische benadering ten aanzien van compliance. Afhankelijk van de omvang en ambities van de gemeente kan deze rol worden toegewezen aan een bestaande functionaris of kan er een nieuwe functie worden gecreëerd.
Heeft iedere gemeente een AICO nodig?
Iedere gemeente heeft een vorm van AI-compliance nodig. Gezien de complexiteit en reikwijdte van de AI-verordening, de krappe implementatietermijnen, en de huidige ontoereikende voorbereiding van gemeenten, is structureel toezicht op AI-compliance essentieel. Echter, de invulling hiervan kan flexibel zijn en moet passen bij de schaal en behoeften van de gemeente.
Voor kleinere gemeenten kan deze rol worden ondergebracht bij een bestaande functionaris die al verantwoordelijk is voor compliance of informatiebeveiliging. Grotere gemeenten, met meer complexe AI-toepassingen, kunnen ervoor kiezen om een dedicated AICO aan te stellen. Het belangrijkste is dat er iemand eindverantwoordelijk is voor het doorlopende proces van AI-compliance.
Ondersteuning van ICTRecht bij het AI-compliance vraagstuk
ICTRecht biedt uitgebreide ondersteuning bij AI-compliance vraagstukken. We helpen organisaties met kennisdeling en opleiding via diverse trainingen op maat, variërend van diepgaande CAICO-opleidingen, sectorspecifieke studiedagen, tot basistrainingen rondom de vereiste AI-geletterdheid. Daarnaast voeren we volledige AI-inventarisaties uit om systemen te identificeren en te categoriseren. Voor organisaties die de rol van AI-compliance officer nog niet zelf kunnen invullen, bieden we flexibele oplossingen. Deze specialistische functie kan door ICTRecht worden vervuld, zowel op basis van inhuur als op afstand, waarmee we organisaties ontzorgen bij het voldoen aan de nieuwe AI-regelgeving. Meer weten? Bezoek onze website en ontdek wat we voor jouw organisatie kunnen betekenen!
