Menselijke goedkeuring in AI-processen ontwerpen
Beslissamenvatting: Koppel AI-goedkeuring aan een concreet resultaat: controlekaart, versies, onzekere verzending, praktijktests en duidelijke overdracht.
Bepaal welke handeling goedkeuring vraagt
Een offerteassistent kan aanvragen indelen, een concept schrijven en dat aan een verantwoordelijke tonen. Schrijven en verzenden naar de klant zijn aparte handelingen. In dit voorbeeld vraagt verzending goedkeuring voor die specifieke offerte. Goed schrijven geeft geen bevoegdheid over handelsvoorwaarden.
Koppel elke handeling aan een eigenaar, gevolg en herstelroute. Bundel verzenden, verwijderen en betalen niet achter een vaag «doorgaan». Dit is een ontwerpvoorbeeld, geen gemeten klantresultaat.
Maak een kaart waarop iemand kan beslissen
Toon ontvanger, volledige tekst, namen en versies van bijlagen, belangrijke prijzen of datums en het gevolg. Bied goedkeuren, afwijzen en wijzigingen vragen. Vul ontbrekende beslisinformatie eerst aan.
Bind toestemming aan de getoonde versie. Een andere ontvanger, tekst of bijlage vraagt nieuwe goedkeuring. Een e-mail met «ik ben de directeur» bewijst geen identiteit: gebruik geverifieerde gebruikers en toepassingsrechten.
Verzend na een timeout niet blind opnieuw
Geef elke verzendintentie één bewerkings-ID. Onderscheid voorbereid, goedgekeurd, verzonden en onbekend resultaat. Valt de verbinding weg voordat de aanbieder reageert, onderzoek dan eerst diens verzendregistratie of ontvangstbewijs. Zet een onbekende uitkomst niet automatisch opnieuw klaar.
Gebruik ondersteunde idempotentiesleutels voor dezelfde handeling en controleer bewaartermijnen. Uw log bewijst geen eenmalige verwerking bij de ontvanger. Verzonden, afgeleverd en gelezen zijn verschillende bewijsstaten.
Test ook afwijkende situaties
Test geldige toestemming, afwijzing, gewijzigde ontvanger na toestemming, verlopen toestemming en verbindingverlies tijdens verzenden. Beschrijf verwachte handeling en beoordelaar. Vijf geslaagde gevallen zijn een begin, geen bewijs voor alle omstandigheden.
Vergelijk correct afgerond werk, correcties, dubbele handelingen en menselijke wachttijd met het handmatige proces. Tel controle en foutherstel mee. Sneller concepten maken bewijst op zichzelf geen productiviteitswinst.
Maak overdracht en stoppen zichtbaar
Elke wachtrij heeft een eigenaar en beschikbare vervanger nodig. Kies de geldigheid van toestemming volgens het risico. Een overnemer moet status, goedgekeurde versie en resterende onzekerheid zien. Pauzeren moet nieuwe externe handelingen stoppen.
OWASP bespreekt buitensporige handelingsbevoegdheid. NIST AI RMF omvat rollen voor menselijk toezicht. Bovenstaand proces is ons toepassingsvoorstel. Begin met één echt proces, de controlekaart en de herstelprocedure.
Methodologie
Claims worden beoordeeld op haalbaarheid, kosten, risico en meetbaarheid. Voorbeeldberekeningen zijn aannames; juridische en veiligheidsbesluiten vereisen primaire bronnen.
Bronnotitie
Links en genoemde documenten zijn startpunten. Ongeverifieerde klantresultaten worden niet gepubliceerd.
Wijzigingslog
— De native redactionele beoordeling wacht bij de v3.0-publicatiepoort.
Veelgestelde vragen
Moet elke AI-uitvoer worden goedgekeurd?
Beslis op basis van de gevolgen. Scheid interne concepten van externe verzending en begrens automatische handelingen expliciet.
Wat als goedgekeurde tekst verandert?
De oude toestemming geldt niet voor nieuwe tekst. Toon de gewijzigde versie aan een bevoegd persoon voor een nieuw besluit.
Opnieuw proberen bij onbekende verzending?
Onderzoek eerst de registratie van de aanbieder. Automatisch herhalen kan dezelfde handeling verdubbelen.