Geschreven door: Mark de Boer (stagiair)
Het gebruik van kunstmatige intelligentie is niet meer weg te denken uit onze samenleving. ‘Slimme systemen’ zijn ons op tal van gebieden steeds vaker behulpzaam. Denk hierbij bijvoorbeeld aan chatbots, zelfrijdende auto’s en de algoritmes die aanbevelingen geven op YouTube. Binnen de Europese Unie was men al geruime tijd van mening dat het nodig is om nadere regels te stellen over kunstmatige intelligentie. Eerder presenteerde de Europese Commissie al een concept-verordening om regels over kunstmatige intelligentie binnen de EU te harmoniseren. Binnenkort zullen ook de onderhandelingen starten voor een nieuw verdrag binnen de Raad van Europa (RvE) dat de ontwikkeling, het ontwerp en de toepassing van AI-systemen reguleert en dat gebaseerd is op de RvE-standaarden op het gebied van mensenrechten, democratie en de rechtsstaat. De Europese Commissie zal – na goedkeuring door de EU-lidstaten – de onderhandelingen namens de EU voeren.
De Europese privacy toezichthouder EDPS (European Data Protection Supervisor) heeft een advies uitgebracht, met een aantal aanbevelingen waar de Europese Commissie tijdens de onderhandelingen over het verdrag extra nadruk op zou moeten leggen. De EDPS ziet kansen om met het nieuwe verdrag de rechten van betrokkenen bij kunstmatige intelligentie te versterken. In dit blog zullen de aanbevelingen van de EDPS onder de loep worden genomen en zal worden bekeken op wat voor manier het advies de bescherming van de mensenrechten hoopt te versterken.
Fundamentele rechten
Volgens de EDPS is het nieuwe verdrag een kans om de bescherming van privacy van personen die door kunstmatige intelligentie worden beïnvloed, te versterken. In het advies wijst de EDPS de Europese Commissie op een aantal belangrijke zaken die in hun ogen meer aandacht verdienen. Zo stellen ze dat binnen het verdrag prioriteit moet worden gegeven aan de bescherming van de grondrechten van betrokkenen. De aanvulling is nodig om ervoor te zorgen dat het nieuwe verdrag aansluit bij belangrijke waarden uit de Europese Unie en dat hetzelfde niveau van bescherming van privacy gehanteerd wordt als in andere regelgeving, zoals de AVG en de AI-verordening. Wanneer de prioriteit bij de bescherming van de fundamentele rechten ligt, vormt het verdrag bovendien een goede aanvulling op de AI-verordening.
Vanwege het onacceptabele risico dat bepaalde AI-systemen inbreuk maken op de fundamentele rechten van betrokkenen, adviseert de EDPS het gebruik van kunstmatige intelligentie in een aantal gevallen te verbieden. Dit is onder meer het geval als het gaat om systemen die gebruik maken van ‘social scoring’. De EDPS geeft aan dat er in aanvulling op de verordening volgens een aantal verboden zouden moeten worden uitgebreid. Zo zijn systemen die gebruik maken van social scoring onder de AI-verordening slechts verboden als ze worden ingezet door publieke organisaties. De EDPS adviseert vanwege de onacceptabele risico’s voor betrokkenen deze systemen in het nieuwe verdrag ook te verbieden als ze worden ingezet door private organisaties.
Social scoring
Social scoring is een techniek waarbij al je handelingen aan de hand van beoordelingscriteria worden beoordeeld met een score. Deze score opent vervolgens de deur naar bepaalde mogelijkheden, terwijl een lage score juist afsluiting van bepaalde mogelijkheden tot gevolg kan hebben. Een bekend en vergaand voorbeeld van deze techniek betreft de invoering van het ‘Social Credit System’ door de Chinese overheid. Binnen dit systeem krijgen de Chinese burgers minpunten als ze zich niet aan de regels of zelfs sociaal gewenste normen houden. Daarnaast krijgen ze juist pluspunten als ze iets goed doen, zoals het verrichten van vrijwilligerswerk. Dergelijke sciencefictionachtige taferelen doen al gauw denken aan de Netflix-serie Black Mirror.
Social scoring wordt echter ook op minder vergaande schaal gebruikt door bedrijven om hun bedrijfsvoering te verbeteren. Zo wordt social scoring bijvoorbeeld toegepast bij Airbnb om het gedrag van toekomstige huurders te voorspellen. Ook de taxiservice Uber maakt gebruik van de techniek in de vorm van reviews die gebruikers aan de chauffeurs kunnen geven. Een lage gemiddelde score van een chauffeur kan er bijvoorbeeld toe leiden dat hem het gebruik van de app wordt ontzegd. Naast social scoring noemt de EDPS ook nog een aantal andere systemen waarvoor het verbod ook moet gelden, zoals AI-systemen die gebruik maken van biometrische identificatie in de openbare ruimte. Deze laatste categorie van systemen is in de verordening slechts verboden als de beelden real time worden bekeken.
Beide vormen van het gebruik van AI-systemen zouden volgens de EDPS moeten worden verboden, omdat bij deze specifieke systemen de noodzaak en proportionaliteit ontbreekt om gegevens op een dergelijke manier te verwerken. Bovendien zouden deze categorieën van systemen kunnen raken aan het recht op menselijke waardigheid.
Transparantie
Om de bescherming van individuen te garanderen is het volgens de EDPS nodig dat er voldoende waarborgen worden opgenomen in het verdrag. Deze waarborgen zouden in ieder geval eisen over transparantie, uitlegbaarheid en auditmogelijkheden moeten bevatten, zo stelt de EDPS. Gebruikers van AI-systemen zouden bijvoorbeeld uitleg moeten geven over hoe AI-systemen werken en welk risico ze inhouden. Mocht de Europese Commissie deze aanbeveling overnemen in de definitieve verordening dan kan dit een lastige opgave worden voor veel organisaties. Veel AI-systemen maken gebruik van ‘machine-learning’, dat betekent dat de werking van het systeem met verloop van tijd kan veranderen, omdat het systeem in staat is te leren van eerdere berekeningen en beoordelingen die het heeft uitgevoerd. Het systeem kan op deze manier taken uitvoeren zonder door een mens geprogrammeerd te zijn om deze uit te voeren. Dit betekent dat organisaties bij het implementeren van nieuwe AI-systemen rekening moeten houden met de vastlegging van de werking daarvan en de traceerbaarheid van door het systeem zelf aangebrachte veranderingen.
Met deze adviezen pleit de EDPS om de bescherming van mensenrechten een prominentere plaats te geven in het debat over regulering van kunstmatige intelligentie in het algemeen en het nieuwe AI-verdrag in het bijzonder. Het is interessant om af te wachten in hoeverre de adviezen van de toezichthouder zich vertalen naar het verdrag. Wij houden u uiteraard op de hoogte via onze blogs!
Meer lezen over dit onderwerp? Lees hier verder:
