Met de inzet van AI komen de nodige nieuwe risico’s om de hoek kijken. Hoe ga je bijvoorbeeld om met een haperend AI-systeem, wat doe je als je trainingsdata ongeschikt blijken te zijn en wie is verantwoordelijk voor het controleren van de resultaten van een AI-systeem? Deze nieuwe risico’s maken het van belang voor bedrijven om aandacht te besteden aan hun algemene voorwaarden. Waar moet je op letten? Dat laten we je zien.
Gebrekkige technische infrastructuur
De technische infrastructuur vormt het fundament van elk AI-systeem. Gebreken hierin kunnen leiden tot ernstige problemen en zelfs het onbeveiligd functioneren van een AI-systeem. Denk aan het vertragen of zelfs het volledig stilvallen van bedrijfsprocessen of het onjuist en onbeveiligd verwerken van gegevens door een AI-systeem. Het is dan ook van cruciaal belang te investeren in robuuste technische systemen en regelmatig onderhoud wordt gepleegd aan het AI-systeem, om de veiligheid en nauwkeurigheid hiervan te waarborgen. Het aanpassen van je algemene voorwaarden om duidelijk vast te leggen wie hiervoor de verantwoording draagt, is hierbij onontbeerlijk.
Ongepaste content
AI-systemen worden steeds vaker ingezet voor het genereren van content, zoals teksten, broncode, afbeeldingen en video's. Helaas zijn er in de praktijk ook al tal van voorbeelden te vinden waarin dit heeft geleid tot creëren van ongepaste of zelfs schadelijke inhoud. Reputatieschade ligt op de loer, en in ernstige gevallen kunnen bedrijven geconfronteerd worden met schadeclaims vanwege de verspreiding van dit soort ongepast materiaal. Het herzien van algemene voorwaarden om duidelijke verantwoordelijkheden vast te leggen over het genereren en gebruik van de content is dan ook essentieel.
Trainingsdata
De kwaliteit van de data waarmee een AI-systeem wordt getraind, is van cruciaal belang. Het gebruik van onbetrouwbare of bevooroordeelde data kan leiden tot inaccuraatheid van de resultaten. Worden deze resultaten vervolgens gebruikt om beslissingen op te baseren, dan liggen fouten op de loer. Bedrijven moeten dan ook uiterst zorgvuldig omgaan met de keuze en kwaliteit van trainingsdata. Het opnemen van bepalingen in de algemene voorwaarden die de verantwoordelijkheden over de gebruikte data en de minimaal noodzakelijke kwaliteit hiervan vaststellen zijn dan ook van groot belang.
De menselijke schakel
Het succesvol inzetten van AI vereist niet alleen geavanceerde technologie, maar ook voldoende kennis en kunde bij de medewerkers die ermee werken. Onvoldoende getrainde personeelsleden kunnen AI-systemen verkeerd gebruiken of resultaten onjuist interpreteren, met potentieel schadelijke gevolgen. Bedrijven moeten investeren in opleidingen en duidelijke richtlijnen voor het gebruik van AI om juridische complicaties te voorkomen en met name om verantwoord en ethisch gebruik van AI-systemen te bevorderen. Ook in dit geval is het van essentieel belang om duidelijke afspraken te maken over wie de verantwoordelijkheid draagt voor - het opleiden van - de gebruikers van een AI-systeem.
De AI Act en boetes
Het gebruik van AI-systemen wordt gereguleerd door de Europese AI Act. De AI Act heeft als doel de fundamentele rechten van individuen te beschermen en een ethisch kader te bieden voor AI-toepassingen. Niet voldoen aan de eisen van de AI Act kan leiden tot aanzienlijke boetes. Tot 35 miljoen euro per overtreding of 7% van de wereldwijde omzet van het concern waarbinnen een overtreding wordt begaan. Voor 'kleine', administratieve overtredingen is dit 7,5 miljoen euro of 1.5%. Krijgt een organisatie een dergelijke boete door het gebruik van een AI-systeem, dan is een langslepende aansprakelijkheidsdiscussie met de leverancier niet ver verwijderd. Reden te meer om de aansprakelijkheidsbepaling in je algemene voorwaarden kritisch te bekijken, of je nou afnemer of leverancier van het AI-systeem bent.
Conclusie
Kortom, bedrijven die deze uitdagingen en risico’s met vastberadenheid en een doordacht juridisch kader benaderen, zullen niet alleen wettelijke complicaties vermijden, maar ook een solide basis leggen voor succesvol en ethisch gebruik van AI-systemen. Check dan ook nu je algemene voorwaarden!
Hulp nodig bij het controleren of opstellen van jouw algemene voorwaarden op het gebied van AI? Neem contact met ons op, wij helpen je graag hiermee!
