Bewijsstandaard

Onze bewijsstandaard

Lumiary documenteert AI die echte organisaties inzetten, zodat u kunt leren van wat werkte en wat niet. Deze pagina zet de regels uiteen waaraan elke case moet voldoen. Het zijn de regels die ons onderzoeksproces volgt, en we publiceren ze zodat u ons eraan kunt houden.

Wie het werk doet

AI-agenten onderzoeken, schrijven, controleren en vertalen elke case. Het zijn taalmodellen die wij laten draaien met schriftelijke instructies, en deze pagina vat die instructies samen.

Een afzonderlijke agent, die de case niet heeft geschreven, controleert elk cijfer aan de hand van de bron voordat de case wordt gepubliceerd. Die agent opent elke bron zelf en bevestigt elk cijfer, elke datum, elke modelnaam en elke bewering. Wat niet kan worden bevestigd, wordt geschrapt, of de case vervalt.

Nieuwe cases verschijnen in batches, en een batch gaat pas live nadat alle automatische controles zijn doorstaan.

Wat in aanmerking komt

We publiceren een case alleen als aan al deze voorwaarden is voldaan:

  • Een bedrijf of overheidsorgaan met naam en toenaam gebruikt generatieve AI of een groot taalmodel in de eigen bedrijfsvoering of het eigen product, in productie of in een pilot met echte gebruikers. Klassieke machine learning, zoals fraudescores of voorspellingen zonder taalmodel, telt niet mee.
  • Het heeft een resultaat gemeld, bij voorkeur een cijfer zoals bespaarde tijd, kosten, volume, nauwkeurigheid of tevredenheid. Een teruggedraaid project, een stopzetting, een uitspraak of een rechtszaak telt ook als resultaat.
  • Minstens één primaire bron die we volledig kunnen openen en lezen: de eigen blog van de organisatie, een persbericht, een resultatenpresentatie, een openbaar document bij een toezichthouder of een lezing op een congres, of een casestudy van een leverancier waarin de klant wordt genoemd.
  • De belangrijkste cijfers staan op een pagina die we kunnen lezen, zodat we ze letterlijk kunnen overnemen.

Waarom we een kandidaat laten vallen

De meeste kandidaten die we onderzoeken worden gepubliceerd, maar veel ook niet. In onze eerste vier onderzoeksbatches publiceerden we 89 cases en lieten we er 61 vallen. De gebruikelijke redenen:

  • De enige cijfers zijn prognoses of verwachte besparingen, geen gemeten resultaten. Een voorbehoud redt een geprojecteerd kerncijfer niet.
  • Er is geen resultaat gemeld, alleen volumes, plannen of algemene lof.
  • Geen enkele bron onderbouwt zelfs maar het jaar waarin de inzet begon.
  • Er is geen primaire bron die we kunnen lezen: alleen berichtgeving in de pers, een artikel achter een betaalmuur of een pagina die we niet kunnen openen.
  • Het kerncijfer is niet te vinden in de bron waaraan het wordt toegeschreven.
  • Er is niet aangetoond dat het om generatieve AI gaat. Tekst die in vaste sjablonen wordt ingevuld, is dat bijvoorbeeld niet.
  • Het is geen inzet in de praktijk. Een toezichthouder die een modelleverancier beboet, of een rechtszaak over trainingsdata, is nieuws over AI, geen case van een organisatie die AI gebruikt.
  • Het dupliceert een case die we al hebben. Een nieuwere bron over dezelfde inzet werkt die case bij.
  • Voordat een kandidaat wegens gebrek aan bewijs wordt geschrapt, moet de agent minstens drie gerichte zoekopdrachten uitvoeren, waaronder in de nieuwskamer van de organisatie en, bij beursgenoteerde bedrijven, in het materiaal over resultaten of het jaarverslag, en ook in de lokale taal zoeken.

Hoe elke case wordt gecontroleerd

De controlerende agent beschouwt elk concept als onjuist totdat het is nagetrokken. Die agent:

  • Opent elke bron zelf, in plaats van af te gaan op de aantekeningen van de schrijver.
  • Bevestigt dat elk cijfer in de aangehaalde bron staat, met hetzelfde getal, dezelfde eenheid en hetzelfde voorbehoud, zoals ongeveer, tot of meer dan.
  • Bevestigt dat een bron het model en de leverancier ervan noemt. Doet geen enkele bron dat, dan vermeldt de case dat het model niet openbaar is gemaakt. We leiden een model nooit af uit een samenwerking.
  • Controleert elke datum aan de hand van de pagina en verwijdert elke datum die de pagina niet vermeldt.
  • Verwijdert elke zin in de samenvatting of de tekst die door geen enkele bron wordt gestaafd, en controleert dat geen enkele zin uit een bron is overgenomen.
  • Controleert dat het bewijsniveau niet te hoog is ingeschat.
  • Laat de case vallen als een kerncijfer niet kan worden bevestigd, als er geen leesbare primaire bron is of als de case niet voldoet aan de toelatingsregels. Een onbevestigd cijfer wordt niet afgezwakt tot vagere bewoordingen.
  • Daarna doorloopt elke case een automatische validator: verplichte velden en onderdelen, een bron bij elk cijfer en cijfers in Engelse notatie.

Niveaus van bewijs

Elke case heeft één label, zodat u ziet wie achter de beweringen staat. Het label beschrijft de bronnen, niet ons oordeel over het resultaat.

Onafhankelijk bevestigd
Een onafhankelijk nieuwsmedium, een gecontroleerde jaarrekening of een gerechtelijk stuk bevestigt de implementatie of de cijfers. Voorbeeld: Air Canada aansprakelijk voor onjuist advies van zijn websitechatbot over rouwtarieven
Gemeld door het bedrijf
Het bedrijf zelf meldt het, in een blogpost, persbericht, resultatenpresentatie of lezing. Niet onafhankelijk bevestigd. Voorbeeld: Klarna zet een op OpenAI gebaseerde assistent in voor klantenservice en haalt daarna weer mensen terug
Gemeld door de leverancier
Een casestudy van een leverancier noemt de klant. Nuttig, maar de leverancier heeft er belang bij de resultaten gunstig voor te stellen. Voorbeeld: Edgeless Systems draait Llama 70B in een versleutelde cloud voor gereguleerde bedrijven en meldt 50% besparing

Hoe we met cijfers omgaan

  • Elk cijfer verwijst naar de bron die het noemt.
  • We nemen cijfers over zoals de bron ze schrijft, met voorbehouden en eenheden. We ronden nooit af, rekenen niets om, berekenen niets en combineren geen cijfers, of ze nu uit één bron komen of uit meerdere.
  • Het label van elk cijfer zegt wat is gemeten, over welk bereik en welke periode, voor zover de bron dat vermeldt.
  • Schrijft een bron een cijfer in de notatie van een andere taal, dan schrijven we het in de Engelse case in Engelse notatie en houden we de bewoordingen aan.
  • Is het model niet openbaar, dan zeggen we dat.

Hoe we met data omgaan

  • We gebruiken alleen data die in de bronnen staan. We leiden nooit een datum af en gebruiken nooit de datum waarop wij een pagina lazen.
  • Geven de bronnen alleen een jaar, dan toont de case alleen het jaar. We kiezen geen maand.
  • Heeft een bronpagina geen datum, dan laten we de datum leeg. De datum van een archiefkopie of een copyrightvermelding is geen publicatiedatum.
  • Elke case toont wanneer we hem hebben toegevoegd en, als hij is bijgewerkt, wanneer hij voor het laatst is bijgewerkt.

Bronnen en citaten

  • We geven de voorkeur aan primaire bronnen en zoeken een onafhankelijke tweede bron, zoals een nieuwsmedium, een officieel document of een gerechtelijk stuk.
  • We accepteren bronnen in elke taal. Veel Europese organisaties publiceren resultaten alleen in hun eigen taal, dus zoeken we in die taal en houden we de titel van de bron in de oorspronkelijke taal.
  • We citeren geen bron die we niet hebben kunnen openen en lezen. Een artikel dat alleen achter een betaalmuur staat, kan een case niet doen kwalificeren. LinkedIn-berichten zijn nooit een bron.
  • Lazen we een pagina via een gearchiveerde kopie omdat de actuele pagina geblokkeerd of offline was, dan vermeldt de case dat.
  • We vatten samen in eigen woorden en citeren per case hooguit één korte zin, van minder dan 15 woorden, met naam van de spreker.

Mislukkingen en teruggedraaide projecten

  • Mislukkingen leren even veel als successen, dus ze komen op dezelfde voorwaarden in aanmerking: een organisatie met naam en toenaam, een echte inzet en een resultaat.
  • Voor een mislukte case is een stuk van een rechtbank of toezichthouder nodig, of een verklaring van de organisatie zelf. Berichtgeving in de pers die alleen op screenshots steunt, volstaat niet.
  • We beschrijven wat er misging, wat de organisatie daarna deed en wat de bronnen ons niet vertellen.

Vertalingen

  • Het Engels is het uitgangspunt. Elke case wordt in het Engels onderzocht, geschreven en gecontroleerd.
  • AI-agenten vertalen elke case naar het Frans, Duits, Spaans, Nederlands, Italiaans en Pools. Daarna leest per taal een afzonderlijke controlerende agent elke vertaling volledig na en vergelijkt die met het Engels.
  • Voordat een vertaling wordt gepubliceerd, worden automatische controles uitgevoerd. Elk cijfer moet zijn waarde behouden, op de lokale manier geschreven. Een datum die in woorden is geschreven, moet haar maand behouden. De onderdelen en het aantal cijfers, lessen en kanttekeningen moeten overeenkomen met het Engels, en de bronnen worden ongewijzigd uit de Engelse case overgenomen.
  • Valt een vertaling door een controle, of is de Engelse case gewijzigd sinds de vertaling, dan toont de site het Engelse origineel.

Correcties en updates

  • Bevat een case een fout, of heeft een organisatie nieuwere resultaten gepubliceerd, dan corrigeren of actualiseren we de case en tonen we de datum van de update erop.
  • Een nieuwere bron over een bestaande case werkt die case bij. Er komt geen tweede case bij.

Wat we niet beweren

  • We auditen de cijfers van organisaties niet. We bevestigen dat een bron een cijfer noemt, niet dat het cijfer juist is.
  • Gemeld door het bedrijf betekent precies dat: de organisatie zegt het, en geen enkele onafhankelijke bron heeft het bevestigd. Gemeld door de leverancier betekent dat een leverancier het zegt, en die heeft er belang bij de resultaten gunstig voor te stellen.
  • Een case vat samen wat openbaar was toen we hem schreven. De resultaten kunnen sindsdien zijn veranderd, dus controleer de bronnen en hun data.
  • Het opnemen van een case is geen aanbeveling van de organisatie, haar leveranciers of hun producten.

Geef kritiek op deze standaard

Deze standaard is bedoeld om te worden aangevochten. Denkt u dat een case onjuist is, of dat een van deze regels te streng, te soepel of onvolledig is, schrijf dan naar corrections@lumiary.ai. Voeg een link naar de case toe of noem de regel, en link naar eventuele bronnen. Verandert een regel, dan staat de wijziging hieronder.

Wijzigingen in deze standaard

  • : Eerste publicatie van deze standaard.
  • : De datum van een inzet mag nu alleen een jaar zijn als de bronnen geen maand geven. Eerder werden zulke cases geschrapt.
  • : Voordat een kandidaat wegens gebrek aan bewijs wordt geschrapt, zoeken agenten nu in de lokale taal en accepteren ze primaire bronnen in die taal.
  • : We vermelden nu wat geen inzet is: een toezichthouder, rechtbank of criticus die optreedt tegen een modelleverancier, bijvoorbeeld met een privacyboete, is geen case van een organisatie die AI gebruikt.
  • : De vertaalcontrole bevestigt nu dat een datum die in woorden is geschreven haar maand behoudt, in elke taal.
  • : De vertaalcontrole accepteert nu een miljard geschreven als duizend miljoen, de gebruikelijke vorm in het Spaans, Italiaans en Pools, mits de waarde gelijk is.

Bekijk alle cases