Spanje heeft de eerste AI-toezichthouder in de Europese Unie opgericht. De Nationale Autoriteit voor het Toezicht op Kunstmatige Intelligentie (Agencia Española de Supervisión de la Inteligencia Artificial, afgekort AESIA) heeft als doel om de impact van AI op de Spaanse samenleving te bewaken en te reguleren. De AESIA is verantwoordelijk voor het ontwikkelen van risicobeoordelingsprotocollen, het auditen van algoritmes en gegevensverwerkingen, en het formuleren van bindende regels voor bedrijven die betrokken zijn bij de creatie en implementatie van AI-systemen. De AESIA zal ook een rol hebben bij de handhaving van de AI Act.
De AI Act vereist dat elke lidstaat een nationale toezichthoudende autoriteit voor AI aanwijst. Er is echter nog geen overeenstemming over of dit één of meerdere autoriteiten per lidstaat kunnen zijn. Het Europees Parlement heeft in haar voorstel de aanwijzing van één nationale toezichthouder voorgesteld, terwijl de Raad heeft voorgesteld om meerdere nationale toezichthouders toe te staan.
In Nederland is de Autoriteit Persoonsgegevens (AP) de onafhankelijke toezichthouder op het gebied van de bescherming van persoonsgegevens. De AP houdt toezicht op de naleving van de AVG en de Uitvoeringswet AVG, die ook gelden voor AI-systemen die persoonsgegevens verwerken. Sinds 2023 heeft de AP ook een nieuwe rol gekregen bij het toezicht op de inzet van algoritmes in Nederland, ook als het gaat om andere gegevens dan persoonsgegevens.
De AP heeft hiervoor een nieuw organisatieonderdeel opgericht, de Directie Coördinatie Algoritmetoezicht (DCA). De DCA werkt samen met andere toezichthouders, zoals rijksinspecties en markttoezichthouders (zoals de AFM, ACM, NZa, etc) om het toezicht op algoritmes te versterken en te harmoniseren. De AP zal ook betrokken zijn bij het toezicht op de AI Act. De AP krijgt een meer faciliterende rol bij het delen van kennis en expertise met andere toezichthouders die met algoritmes te maken krijgen.
De onderhandelingen in de triloog, tussen de instanties van de EU, zullen uit gaan wijzen wat de definitieve tekst van de AI Act omtrent het toezicht op AI zal zijn. Nederland zal dus af moeten welke gevolgen dit zal hebben voor het toezicht op AI op nationaal niveau.
Ben jij ook dagelijks bezig met AI, risico’s en compliance?
Kom dan naar onze training: AI Compliance in de praktijk die wordt gegeven op 12 oktober of 21 november 2023.
