Dit scenario belandt op je bureau: een online educatieplatform wil gepersonaliseerde leertrajecten aanbieden met behulp van AI-analyses. Bij het onderhandelen met scholen over licentieovereenkomsten duiken vragen op over de bescherming van studentgegevens, het auteursrecht op lesmateriaal en antwoorden, en de onderhoudbaarheid van de software. Hier is de expertise van een ICT-jurist onmisbaar om compliance met wetgeving te borgen én de zakelijke belangen van de platformaanbieder te dienen. Dit vereist naast solide contractuele afspraken een diepgaand begrip van de technologische nuances.
Machine learning gedreven
Het online educatieplatform maakt gebruik van machine learning (ML) modellen om grote datasets van studentenprestaties te verwerken en adaptieve leerpaden te creëren. Het systeem wordt gehost op een Microsoft Azure Virtual Machine en kent vele API-koppelingen met bestaande schoolmanagementsystemen. De dataverwerking vindt plaats via een ETL-proces (Extract, Transform, Load) waarbij de gegevens worden voorbereid voor analyse. Via een app wordt alles ontsloten en aangeboden, inclusief de mogelijkheid tot insluiten van extern lesmateriaal onder toepassing van digitale rechtenbeheer (DRM) om onrechtmatige verspreiding en gebruik te voorkomen.
Vragen om over na te denken
Over dit platform zijn vele vragen te stellen, zoals:
- Welke grondslag onder de AVG is hiervoor te gebruiken? Toestemming gaat niet werken, gezien deze steeds intrekbaar moet zijn. Maar hoe moet het dan wel, en hoe zit het met de positie van ouders of verzorgers bij de minderjarige gebruikers?
- Wat zijn de implicaties van het auteursrecht als lesmateriaal wordt aangepast of zelfs herschreven door AI systemen?
- Welke contracten met Microsoft zijn noodzakelijk en welke aandachtspunten moeten daarin zijn geadresseerd?
- Op welke manier wordt de ict-security van dit systeem praktisch geborgd en hoe wordt dat getoetst? Welke eisen gelden hierbij vanuit de NIS2 regels?
- Welke risico’s omtrent bias, uitsluiting of achterstelling in het ML-systeem kunnen hier zich voordoen en wat impliceert dat vanuit de AI Act?
- Welke clausules moeten worden opgenomen in contracten met externe technologieleveranciers om de veiligheid en privacy van de studentgegevens te waarborgen?
- Hoe worden eventuele bias in de ML-modellen aangepakt om discriminatie in de leerervaring te voorkomen, en wat zijn de juridische gevolgen hiervan?
Tweeledige expertise
Casussen als deze maken het voor juristen essentieel om een tweeledige expertise te hebben: een grondig begrip van ICT-oplossingen én een diepgaande kennis van de finesses van wetgeving en contractuele mogelijkheden. Alleen zo kun je zorgen voor een naadloze en compliant implementatie in diverse sectoren, zoals onderwijs, zorg of het bedrijfsleven.
Voor professionals zoals jij die zich hierin willen verdiepen, hebben wij twee gloednieuwe opleidingen ontwikkeld; Opleiding Beginselen ICT-recht en de Opleiding Specialisatie Contracteren in ICT. Toegespitst op de praktijk met diepgaande aandacht voor de techniek.
