Is een overeenkomst met een AI-agent juridisch bindend?

Stel je voor: je runt een kleine sportschool genaamd FitFitFit B.V. (FitFitFit) en je maakt gebruik van een AI-agent. Deze AI-agent beheert klantcontacten, onderhandelt met leveranciers, publiceert aanbiedingen op de website, stelt overeenkomsten op en sluit deze af met klanten. Op een dag gaat FitFitFit viral op sociale media. Tot je schrik ontdek je dat de AI-agent een abonnementsstructuur heeft samengesteld waarin alle diensten – onbeperkt sporten, gratis eiwitshakes, groepslessen, fysiotherapie en voedingsconsulten – zijn samengevoegd voor slechts €8 per maand. Bovendien zijn er al 2.000 nieuwe klanten die zich hebben ingeschreven en de betaling hebben voltooid. De sportschool kan dit aantal leden niet accommoderen, maar de klanten beschouwen de overeenkomst als bindend (casus FitFitFit).

De centrale vraag is: in hoeverre is FitFitFit gebonden aan een overeenkomst die door zijn AI-agent is gesloten?

Deze blog onderzoekt de juridische implicaties van deze vraag. Eerst wordt toegelicht wat een AI-agent is en welke juridische vereisten gelden voor een rechtsgeldige overeenkomst. Vervolgens wordt ingegaan op wilsovereenstemming, het wilsgebrek oneigenlijke dwaling en het beginsel van gerechtvaardigd vertrouwen. Tot slot volgen praktische aanbevelingen in de conclusie.

Let op: vanwege de beperkte omvang van deze blog worden uitsluitend bovengenoemde aspecten besproken. We zijn ons ervan bewust dat aanvullende juridische leerstukken ook relevant zijn, zoals informatieplichten, menselijk toezicht en bepalingen in algemene voorwaarden. Deze onderwerpen worden in een volgende blog behandeld.

Wat is een AI-agent?

Een AI-agent is een door algoritmes aangestuurd systeem dat zelfstandig beslissingen kan nemen en acties kan uitvoeren binnen een vooraf bepaald kader. AI-agents maken vaak gebruik van machine learning, waardoor zij in staat zijn te leren van eerdere ervaringen en op basis daarvan hun gedrag aan te passen. In het bedrijfsleven kunnen AI-agents worden ingezet voor uiteenlopende taken, zoals klantenservice, data-analyse, en – zoals in casus FitFitFit – het voeren van onderhandelingen en het sluiten van overeenkomsten.

Hoewel AI-agents autonoom kunnen handelen, blijven zij in beginsel instrumenten van een natuurlijk persoon of rechtspersoon. Dit roept vragen op over de juridische status van overeenkomsten die door AI-agents worden gesloten.

Wat zijn de eisen voor een rechtsgeldige overeenkomst?

Voor het sluiten van een rechtsgeldige overeenkomst bestaan er op basis van het Nederlandse contractenrecht een aantal vereisten. Belangrijke eisen in dit kader zijn:

1. Wilsovereenstemming: Er moet sprake zijn van een aanbod en een aanvaarding (art. 6:217 BW). Hierbij geldt dat de wil van een partij overeen moet stemmen met diens verklaring (art. 3:33 BW).

2. Handelingsbekwaam: De partijen moeten in staat zijn om zelfstandig juridische handelingen te verrichten.

Een AI-agent is geen rechtspersoon en niet handelingsbekwaam, waardoor een AI-agent geen juridisch bindende overeenkomst kan sluiten. Er blijft voor een rechtsgeldige overeenkomst altijd een rol weggelegd voor een natuurlijk persoon of rechtspersoon. De vraag in casus FitFitFit is of de overeenkomst voldoet aan de vereiste wilsovereenstemming. Dit hangt samen met de vraag of sprake is van oneigenlijke dwaling en het beginsel van gerechtvaardigd vertrouwen.

Is er sprake van wilsovereenstemming?

Een rechtsgeldige overeenkomst ontstaat wanneer een voldoende bepaald en duidelijk aanbod wordt gedaan en dit aanbod door de wederpartij wordt aanvaard. Hierbij is het belangrijk dat de wil en de uiteindelijk gedane verklaring bij zowel het aanbod als de aanvaarding overeenstemt. Bij menselijke contractanten is het overeenstemmen van een wil en verklaring relatief gemakkelijk vast te stellen door middel van gedragingen, communicatie en bewijsvoering. Bij overeenkomsten gesloten door AI-agents ligt dit echter genuanceerder.

• Wil en verklaring stemmen overeen: Zolang een AI-agent binnen de gestelde parameters handelt (bijvoorbeeld een abonnementsprijs tussen de €50 en €60 euro per maand), en dit naar behoren wordt uitgevoerd, zal hier sprake van zijn. Hoewel de concrete uitkomst onbekend is, heeft de gebruiker de handelingsvrijheid van de AI-agent bepaald, wat een weerspiegeling vormt van zijn wil.

• Wil en verklaring stemmen niet overeen: Als een AI-agent volledig autonoom beslissingen neemt die niet herleidbaar zijn tot de instructies van de eigenaar of als er fouten ontstaan, kan er discussie ontstaan over overeenstemming tussen de wil en de verklaring. Mogelijke oorzaken zijn:
  • Bijgeleerd gedrag: bijvoorbeeld als een AI-agent onbedoeld 80% korting geeft in plaats van 20% door bijgeleerd gedrag.
  • Parameterfouten: bijvoorbeeld als een AI-agent onbedoeld 80% korting geeft in plaats van 20% door verkeerde instellingen van de eigenaar.
  • Fouten in de software: bijvoorbeeld als een bug in de software ervoor zorgt dat de AI-agent gratis extra diensten toevoegt.
  • Externe oorzaak: bijvoorbeeld als hackers de AI-agent manipuleren om onrealistische prijzen aan te bieden.

In casus FitFitFit wijkt de inhoud van de aanbieding sterk af van de wil van de eigenaar. Dit roept de vraag op of de overeenkomst ongeldig is vanwege oneigenlijke dwaling of dat consumenten gerechtvaardigd mochten vertrouwen op het aanbod.

Kan FitFitFit een beroep doen op oneigenlijke dwaling?

Oneigenlijke dwaling treedt op wanneer de wil en de verklaring niet overeenstemmen, waardoor er geen overeenkomst tot stand komt. Dit onderscheidt zich van gewone dwaling (art. 6:228 BW), waarbij een partij een overeenkomst sluit op basis van een onjuiste voorstelling van zaken. Bij oneigenlijke dwaling gaat het niet om een misvatting bij beide partijen, maar om een verklaring die onjuist tot stand is gekomen, bijvoorbeeld door een typfout of een miscommunicatie. Een bekend voorbeeld hiervan is de uitspraak van het Hof in Stichting Postwander/Otto, waarbij een typfout in de prijs van LCD-televisies niet leidde tot een bindende overeenkomst.

Bij een beroep op oneigenlijke dwaling speelt de verantwoordelijkheid van partijen zoals FitFitFit een belangrijke rol. Indien FitFitFit onvoldoende controle en monitoringsmechanismen heeft ingesteld, parameterfouten heeft gemaakt of geen snelle correctieprocedures heeft ingesteld, kan de fout als toerekenbaar worden beschouwd, waardoor een beroep op oneigenlijke dwaling minder kansrijk wordt. Indien de fout echter buiten de macht van de eigenaar is ontstaan (bijvoorbeeld door een hack of een bug die redelijkerwijs niet te voorzien was), is een beroep op oneigenlijke dwaling sterker.

Echter, als de consument gerechtvaardigd mocht vertrouwen op de geldigheid van het aanbod, is een beroep op oneigenlijke dwaling minder kansrijk. Daarom zal worden beoordeeld of consumenten op basis van gerechtvaardigd vertrouwen mochten aannemen dat het aanbod van FitFitFit geldig was.

Kan de consument een beroep doen op gerechtvaardigd vertrouwen?

Het beginsel van gerechtvaardigd vertrouwen houdt in dat een overeenkomst tot stand komt indien de consument redelijkerwijs mocht aannemen dat het aanbod de werkelijke wil van FitFitFit weerspiegelde (art. 3:35 BW). Indien er twijfel bestaat over de juistheid van het aanbod, rust er op de consument een onderzoeksplicht. Dit betekent dat de consument bij een duidelijk afwijkend aanbod moet nagaan of er sprake is van een vergissing. De vraag hierbij is: mocht de consument redelijkerwijs vertrouwen op de juistheid van het aanbod, of waren er omstandigheden die dat vertrouwen ondermijnden?

Uit jurisprudentie blijkt dat bepaalde factoren een beroep op gerechtvaardigd vertrouwen kunnen uitsluiten. Dit is bijvoorbeeld het geval wanneer sprake is van een extreem hoge of lage prijs, of indien er een evidente vergissing in de inhoud van het aanbod is. In dergelijke situaties komt er geen rechtsgeldige overeenkomst tot stand. Het perspectief van een gemiddeld geïnformeerde consument is hierbij leidend: dit betreft een consument die al van plan was het product aan te schaffen en zich enigszins heeft georiënteerd op de eigenschappen en prijzen ervan. Indien sprake is van een objectieve schijn van vertegenwoordigingsbevoegdheid, kan dit er juist voor zorgen dat een beroep op gerechtvaardigd vertrouwen slaagt.

Prijsafwijking en evidente vergissingen

Uit de eerdergenoemde uitspraak van het Hof in Stichting Postwander/Otto volgt dat een consument niet mag vertrouwen op een extreem lage prijs als deze evident afwijkt van marktconforme prijzen. In dat geval had de consument redelijkerwijs moeten begrijpen dat er sprake was van een vergissing. In de casus FitFitFit, waarbij een abonnement voor €8 wordt aangeboden, zal er vanwege de lage prijs een onderzoeksplicht gelden. Aangezien deze prijs aanzienlijk onder de marktconforme tarieven ligt, zal een beroep op gerechtvaardigd vertrouwen in beginsel niet slagen.

Daarentegen schept de inzet van AI-agents extra omstandigheden wat het vertrouwen van een consument op de geldigheid van een aanbod kan versterken. Dit speelt bijvoorbeeld wanneer een consument bij enige twijfel vraagt of het aanbod echt is en de AI-agent zegt: "Ja, het klinkt fantastisch, maar het is echt zo." Daarnaast kan het vertrouwen worden versterkt, omdat er bij AI-agents sprake is van bepaalde interactie wat lijkt op een gesprek. Dit verschilt wezenlijk van een aanbod via een algemene tekst op de website zoals in Hof Stichting Postwander/Otto het geval was. Als gevolg van dit versterkte vertrouwen, kan een overeenkomst toch rechtsgeldig tot stand komen.

Fouten in communicatie door AI

Daarnaast speelt de communicatie van de AI-agent een rol. Stel dat een AI-agent namens FitFitFit communiceert met onbegrijpelijke tekens of inconsistente berichten. Is er dan reden voor de consument om nader te onderzoeken of de AI-agent nog handelt conform de wil van FitFitFit?

Uit HR Kantharos van Stevensweert volgt dat geen beroep op gerechtvaardigd vertrouwen kan worden gedaan wanneer een partij had kunnen weten dat er een fout is gemaakt. Indien de communicatie van de AI-agent duidelijke fouten bevat of afwijkt van gebruikelijke communicatie, wordt van de consument verwacht dat hij nader onderzoek doet. Hierdoor zal een beroep op gerechtvaardigd vertrouwen minder snel slagen. In een recente Canadese uitspraak zijn echter beperkingen gesteld aan deze onderzoeksplicht, die ook in Nederland kunnen gelden. Uit deze uitspraak volgt dat van een consument niet mag worden verwacht dat zij meerdere informatiebronnen op een website raadpleegt wanneer een chatbot iets zegt dat niet overeenstemt met een andere informatiebron. Dit is begrijpelijk, omdat het voor een consument vaak onmogelijk is om vast te stellen welke bewering juist is. In dat geval komt er een overeenkomst tot stand, tenzij er andere omstandigheden zijn die afbreuk doen aan de geldigheid van het aanbod.

AI-agents en schijn van vertegenwoordigingsbevoegdheid

Een andere relevante vraag is of de schijn van vertegenwoordigingsbevoegdheid naar analogie kan worden toegepast op AI-agents. Kan een consument, indien hij vermoedt dat een AI-agent namens FitFitFit handelt, erop vertrouwen dat de wil en de verklaring van FitFitFit overeenstemmen? Volgens artikel 3:61 lid 2 BW en jurisprudentie zoals HR Kribbenbijter en HR ING/Bera Holding mag een contractspartij vertrouwen op een schijn van bevoegdheid als deze objectief is gewekt en toerekenbaar is aan de vertegenwoordigde partij.

In casus FitFitFit kan worden beargumenteerd dat de AI-agent zodanig is ingezet dat de consument redelijkerwijs mocht aannemen dat deze ‘bevoegd’ is, waardoor zij erop mochten vertrouwen dat het aanbod geldig is. Momenteel gaat deze redenatie echter niet op. Allereerst kunnen AI-agents juridisch gezien geen rechtshandelingen verrichten, wat een vereiste is voor vertegenwoordigingsbevoegdheid. Daarnaast volgt uit de eerdergenoemde Canadese uitspraak dat onjuiste uitlatingen van een chatbot direct worden toegeschreven aan een bedrijf.

Conclusie

De casus FitFitFit laat zien welke complexe juridische vraagstukken ontstaan bij overeenkomsten die door AI-agents worden gesloten. Hoewel AI-agents autonoom kunnen opereren, blijft het bedrijf dat de AI-agent inzet in beginsel gebonden aan dergelijke overeenkomst als de consument gerechtvaardigd mocht vertrouwen op de geldigheid van het aanbod. Indien dit niet het geval is en sprake is van oneigenlijke dwaling vanwege een fout of hack die niet te voorzien was, kan dit tot gevolg hebben dat de overeenkomst niet tot stand is gekomen.

Aanbevelingen voor bedrijven die AI-agents inzetten:

• Duidelijk ingestelde parameters: programmeer AI-agents met strikte parameters en voorkom bijgeleerd gedrag door een te grote onderhandelingsvrijheid.
• Controlemechanismen: implementeer controlemechanismen die overeenkomsten identificeren met hoge risico’s (bijvoorbeeld boven een bepaalde waarde of onder een bepaald prijsniveau).
• Menselijke controle: implementeer menselijke controle voordat een bestelbevestiging wordt gestuurd (dit kan bij grote aantallen belastend zijn).
• Monitor en corrigeer: zorg voor continue monitoring en bijstelling van AI-gedreven processen.

Door deze maatregelen te nemen, kunnen bedrijven zoals FitFitFit de risico’s van overeenkomsten die door AI-agents zijn gesloten minimaliseren en juridische geschillen voorkomen.

Maakt jouw organisatie gebruik van AI? Zorg dat je juridisch op het juiste spoor zit. Wij helpen je graag! Neem vrijblijvend contact op om de mogelijkheden te ontdekken.