Advocaten van Morgan & Morgan gesanctioneerd nadat de interne AI-tool van het kantoor jurisprudentie verzon

Het probleem

Advocatenkantoren mogen geen zaken aanhalen die niet bestaan. Rechtbanken verwachten dat de advocaat die een processtuk ondertekent het daarin genoemde recht heeft gecontroleerd. Morgan & Morgan, een groot Amerikaans kantoor voor eisers, wilde dat zijn advocaten met AI sneller werkten en bouwde daarvoor een eigen tool.

Wat ze bouwden

MX2.law, dat de Chief Transformation Officer van het kantoor in een verklaring aan de rechtbank beschreef als een privé juridische AI-assistent die op 15 november 2024 werd gelanceerd. De tool was gebouwd om klantgegevens te beschermen, waaronder gezondheidsinformatie, en om te koppelen aan het documentsysteem van het kantoor. Tot de functies behoorden het samenvatten van documenten, het doorzoeken ervan en hulp bij het opstellen van tekst. Het kantoor waarschuwde gebruikers dat AI-antwoorden fout kunnen zijn en verplichtte advocaten AI-inhoud te controleren voordat ze die gebruikten, en organiseerde een webinar, schriftelijke handleidingen en optionele praktijksessies.

Hoe ze het aanpakten

In een zaak tegen Walmart en Jetson Electric Bikes stelde advocaat Rudwin Ayala motions in limine op, dat zijn verzoeken aan de rechter over welk bewijs de jury mag horen. Hij uploadde het concept naar MX2.law en vroeg de tool jurisprudentie van federale rechtbanken in Wyoming toe te voegen. Hij controleerde de toegevoegde zaken niet. Twee andere advocaten ondertekenden de verzoeken ook zonder ze te controleren.

Wat er misging

De verzoeken, ingediend op 22 januari 2025, haalden negen zaken aan, en acht bestonden niet. De rechter vaardigde op 6 februari 2025 een bevel uit om uitleg te geven. De eisers trokken de verzoeken de volgende dag in. De advocaten gaven daarna toe dat de zaken door een AI-platform waren verzonnen. De rechtbank oordeelde dat alle drie de ondertekenaars de regel hadden geschonden die een redelijk onderzoek van het recht vereist, wees op de signalen dat er iets niet klopte (ontbrekende paginaverwijzingen, vreemd citeerformaat) en zei dat de controleplicht niet aan een collega kan worden overgedragen.

Resultaten

Op 24 februari 2025 legde de rechtbank de heer Ayala een boete van $ 3.000 op en haalde hem van de zaak. Elk van de twee andere advocaten kreeg een boete van $ 1.000. De rechtbank koos ervoor de kantoren niet te bevelen zich te verantwoorden, onder verwijzing naar de training van het kantoor en de nieuwe herinnering op het scherm dat gebruikers AI-uitvoer moeten verifiëren. De rechter noemde de zaak de nieuwste herinnering om niet blind op AI-citaten te vertrouwen.

Wat u kunt overnemen

Maak verificatie een verplichte stap en laat de tool dat zeggen op het moment van gebruik. Houd gebruiksgegevens van de tool bij, zodat u een rechtbank precies kunt laten zien wat er is gebeurd.