Waar de kerntaken van de politie oorspronkelijk vooral bestaan uit opsporing en handhaving, zien we dat er de laatste jaren daarnaast steeds meer focus is komen te liggen op het voorkómen van criminaliteit. Daarvoor worden ook de groeiende mogelijkheden op het gebied van technologie ingezet door de politie, vooral door het gebruik van big data. Hoe gebeurt dit en wordt daarbij onze privacy voldoende gewaarborgd? Dat lees je in deze blog.
De minister aan het woord
“Het gebruik van kunstmatige intelligentie (‘AI’) bij de politie is geen luxe maar noodzaak om effectief te kunnen blijven opereren”, aldus minister Ferd Grapperhaus afgelopen week in antwoord op Kamervragen over de politie en AI. Er waren maar liefst 82 vragen gesteld over het gebruik van AI door de politie. Dit toont aan dat het een onderwerp is waar mensen het benauwd van krijgen. De minister geeft aan dat het gebruik van algoritmen vaak voorkomt bij de politie, maar dat daarbij nog weinig gebruik wordt gemaakt van AI. Pas als het gaat om algoritmes waarbij systemen intelligent gedrag kunnen vertonen en gemaakt zijn om in meer of mindere mate zelfstandig te kunnen leren en acties te kunnen ondernemen, wordt van AI gesproken. Het gebruik van AI moet in de toekomst dus wel flink gaan toenemen, volgens de minister.
CAS en predictive policing
Het gebruik van big data vinden we dus zeker al terug bij politiesystemen. Een van de bekendste systemen op dit moment is het Criminaliteits Anticipatie Systeem (CAS). Daarbij wordt op basis van data uit het verleden een voorspelling gedaan, bijvoorbeeld in welke wijken de kans op criminaliteit het grootst is. CAS geeft een verwachting voor een bepaald gebied en geen output die tot personen te herleiden zijn. Maar het gaat verder. Momenteel is de politie bezig met een proeftuin in Roermond, waar ze op basis van big data een voorspelling doen over criminaliteit bij groepen en personen. Er is weinig bekend over wat daar precies gebeurt. Ook nadat je de vrijgegeven informatie naar aanleiding van een Wob-verzoek hebt doorgelezen, word je niet veel wijzer. Daarnaast is de politie bezig met andere ontwikkelingen op het gebied van big data en AI. De vraag is of bij de inzet van deze methoden alle privacy waarborgen in acht worden genomen.
Juridisch kader
Er zijn meerdere mensenrechten die hierbij een grote rol spelen, waaronder het recht op privacy (onder meer vastgelegd in art. 8 EVRM). Het is belangrijk dat er een afweging wordt gemaakt tussen de belangen van de burgers en de politie. Hoewel de politie gebruik maakt van big data en AI, moet er wel rekening mee worden gehouden dat dit zo min mogelijk inbreuk maakt op onze privacy.
SyRI
Het is best lastig om deze afweging te maken, zeker omdat dit soort vraagstukken niet aan de lopende band door een rechter wordt beoordeeld. Daarom is de uitspraak van de rechtbank Den Haag over SyRI, het instrument van de overheid voor geautomatiseerde opsporing van fraude, erg waardevol. Daarin concludeerde de rechtbank dat SyRI een te grote inbreuk vormt op de privacy van burgers. Het probleem ligt vooral in het gebrek aan transparantie waardoor het systeem moeilijk gecontroleerd kan worden en het risico dat er (onbedoeld) discriminerende effecten optreden.
Hoe denkt de AP hierover?
Volgens Aleid Wolfsen (voorzitter van de AP) vindt de inzet van algoritmes inmiddels op grote schaal plaats. De voorzitter benadrukt dat de grens tussen het aanhouden van verdachten nadat er een concrete verdenking is of mensen voor enige verdenking al profileren als verdachten “bloedlink kan zijn”. Ook door de AP wordt dan ook het belang van transparantie benadrukt. Dit blijft echter lastig uitvoerbaar voor de politie: zij wil immers niet te veel prijsgeven over de gebruikte opsporingsmethoden. Maar met de noodzaak van de inzet van AI voor de politie, is de noodzaak voor het waarborgen van het privacyrecht onlosmakelijk verbonden.
Deze blog is geschreven door Anouk van Rijn, in samenwerking met Beryl Hetharia.
