Een softwarebedrijf had ChatGPT gebruikt om al hun juridische documenten te genereren. Tijdens een review door een grote klant bleek dat veel bepalingen niet geldig waren in Nederland en dat er verwezen werd naar wetgeving en rechtszaken die helemaal niet bestonden. De deal kwam hierdoor onder druk te staan.
Analyse van de documenten
We ontdekten dat de contracten vol zaten met:
- Amerikaanse juridische begrippen zoals hold harmless, specific performance en UCC-garanties, die in Nederland geen werking hebben;
- aansprakelijkheidsclausules die volledig ongeldig of onredelijk bezwarend waren naar Nederlands recht;
- privacybepalingen gebaseerd op Amerikaanse wetgeving zoals HIPAA en CCPA;
- hallucinaties, waaronder fictieve EU-richtlijnen, nep-artikelen en verzonnen ECLI-nummers.
Deze elementen maakten de contracten juridisch onbruikbaar en schadelijk richting klanten.
Dit komt omdat ChatGPT vooral getraind met Amerikaanse juridische data. Dat is goed om in je achterhoofd te houden als je ChatGPT juridisch werk laat doen.
Onze oplossing
We hebben alle documenten herschreven op basis van Nederlands en Europees recht, waaronder een correcte DPA, een realistische SLA, heldere IE-bepalingen en een juridisch geldige aansprakelijkheidsstructuur. Alle Amerikaanse terminologie en hallucinaties zijn volledig verwijderd. Daarnaast hebben we AI-richtlijnen opgesteld zodat medewerkers weten wat zij wel en niet kunnen invoeren in ChatGPT.
Het resultaat
Het softwarebedrijf kon de onderhandelingen met de klant succesvol afronden en beschikt nu over een veilige, consistente en juridisch correcte documentatie. De organisatie gebruikt AI nog steeds, maar op een gecontroleerde en risicovrije manier.
Wil jij je juridische documenten laten controleren die opgesteld zijn met ChatGPT?
Neem dan contact op.
