AI kan grote voordelen opleveren. Veel organisaties zien inmiddels de mogelijkheden en gaan AI ontwikkelen en/of gebruiken. De reis naar een succesvolle AI-implementatie is voor iedere organisatie anders, maar begint met een zorgvuldige aanpak. Dit is de eerste blog in een reeks, waarin we de uitdadingen op het gebied van legal en compliance, en de aanpak van ICTRecht met behulp van onze AI-toolkit bespreken. In deze eerste blog vertel ik je enkele belangrijke eerste stappen die je kan zetten als je organisatie gaat beginnen met AI.
Inventariseer
Voordat je een AI-oplossing gaat ontwikkelen of gebruiken is het van belang om de specifieke behoeften van je organisatie te identificeren. Wat zijn de huidige uitdagingen en waar liggen de kansen voor verbetering? Welke specifieke problemen wil je oplossen en wat voegt je AI-oplossing eigenlijk toe? Als je vervolgens een concrete AI-toepassing voor ogen hebt, breng je de techniek en werking ervan duidelijk in beeld en bepaal je het toepassingsgebied. “Meten is weten”.
In grotere organisaties vereist succesvolle AI-implementatie betrokkenheid van diverse stakeholders. Identificeer wie deze stakeholders zijn en betrek deze zo snel mogelijk bij het project zodat hun input tijdig wordt meegenomen. Het voorkomt onnodig vertraging bij besluitvorming en creëert gelijk draagvlak binnen de organisatie.
Ga zorgvuldig om met data
Data is de brandstof voor AI-modellen. Ga je AI ontwikkelen? Dan is het cruciaal om vooraf te inventariseren welke data je gaat gebruiken voor het trainen van het AI-model. Evalueer vervolgens of de geselecteerde data geschikt is voor je AI-toepassing. Beoordeel deze data onder andere op kwaliteit, representativiteit, diversiteit en natuurlijk de rechtmatigheid van het gebruik ervan. Dit kan een hoop problemen in een later stadium voorkomen.
Ook bij het gebruik van een al bestaande AI-toepassing moet je zorgvuldig zijn met data. Het is ten eerste aan te raden om - voor zover dit mogelijk is – een check uit te voeren op de gebruikte datasets van de aanbieder. Is de AI wel getraind met data die past bij je beoogde gebruik? Stel je het volgende voor: een groenteteler komt bedrogen uit als hij plotseling ziet dat zijn gloednieuwe AI-inspectiesysteem al zijn mooie tomaten afkeurt omdat het AI-systeem toevallig alleen getraind is op aardappelen. Verder is het van belang dat je inzicht krijgt in de data die je in gaat voeren bij het gebruik van de AI-toepassing. Is dit klantdata of bedrijfsgevoelige informatie? Bedenk dan wat er verder nog gebeurt met deze data en of je dit gebruik kan verantwoorden.
Welke wet- en regelgeving is van belang?
Het is weliswaar een open deur, maar bij het ontwikkelen en gebruiken van AI moet je natuurlijk rekening houden met de relevante wet- en regelgeving. Identificeer daarom welke juridische kaders in jouw situatie van toepassing zijn. Het eerste kader waar je waarschijnlijk gelijk aan denkt is de AI Act. Deze veelbesproken Europese verordening is op 1 augustus in werking getreden en staat centraal bij de regulering van AI.
Bij veel AI-toepassingen blijft het echter niet bij de AI Act. Als je met persoonsgegevens werkt dan moet je ook voldoen aan de Algemene Verordening Gegevensbescherming (AVG). Afhankelijke van je specifieke situatie kunnen er ook nog andere wetten en sectorspecifieke normen van toepassing zijn. Zowel op Europees als op nationaal niveau.
Het is daarom belangrijk om je AI-toepassingen zorgvuldig te kwalificeren (en categoriseren) op basis van de toepasselijke wetgeving, zodat je inzichtelijk krijgt aan welke verplichtingen je organisatie moet voldoen.
Beleid en beheer
Afhankelijk van de complexiteit van de AI-toepassing en de grootte van de organisatie zal je intern kaders moeten stellen. Dit kan bijvoorbeeld met behulp van een intern AI-beleid. Hierin bepaal je onder andere de ‘do’s and don’ts’, de mate van menselijk toezicht en de onderlinge verantwoordelijkheden, en de te nemen beheersmaatregelen. Hoe meer je organisatie wilt doen met AI en hoe complexer de AI-toepassingen, des te belangrijker het is om een duidelijke koers te varen.
Zorg voor de juiste expertise
Ik kan het niet vaak genoeg zeggen: zorg voor de juiste expertise op het gebied van AI-governance en -compliance. Je zal namelijk de AI-toepassingen die je ontwikkelt of gebruikt gedurende de gehele levenscyclus moeten monitoren en beheren. Verder schrijft de AI Act voor dat je iedere medewerker die met AI aan de slag gaat voldoende kennis en instructies geeft over deze AI om er verantwoord mee om te gaan. Zorg daarom dat deze mensen weten aan welke regels zij moeten voldoen, wat er met de data gebeurt die de AI-toepassing gebruikt en wat een AI-toepassing kan, maar ook vooral wat de beperkingen ervan zijn. Wie kan deze kar trekken in jouw organisatie?
ICTRecht kan je hierin begeleiden en biedt je de nodige expertise. Onze Certified AI Compliance Officer (CAICO) helpt je bij het navigeren door al deze juridische en ethische AI-vraagstukken. Wil je jezelf (of je medewerkers) verdiepen in AI-compliance en -governance, dan is onze CAICO-opleiding misschien interessant voor je.
Onze AI-toolkit
Bij ICTRecht begrijpen we de complexiteit van de uitdagingen die gepaard gaan met de het ontwikkelen en gebruiken van AI. Wij hebben daarom onze eigen AI-toolkit ontwikkeld. Deze AI-toolkit biedt onze CAICO’s praktische hulpmiddelen om AI-toepassingen, risico’s en compliance op een effectieve manier te beoordelen. Met onze AI-inventarisatie in onze toolkit krijg je inzicht in het AI-landschap van je organisatie en in de werking van de AI-toepassing(en) die je wilt gaan ontwikkelen of gebruiken. Met de AI Act compliance scan, krijg je een gedetailleerd rapport van de geldende normen voor jouw specifieke AI-toepassing(en), de huidige situatie bij jouw organisatie en de stappen die je in het kader van compliance nog moet zetten. Met onze Data Protection Impact Assessment (DPIA) – bekend van de AVG – en onze Fundamental Right Impact Assessment (FRIA) kunnen we de impact op fundamentele rechten van de betrokken mensen beoordelen en voor jouw organisatie passende beheersmaatregelen bedenken.
Wil je meer weten over hoe onze AI-toolkit je organisatie kan helpen bij het ontwikkelen en inkopen van AI? Bezoek dan onze AI-toolkit pagina voor meer informatie, of neem contact op met één van onze experts.
