Human in the loop

Wanneer menselijke beoordeling werkelijk waarde toevoegt

Een menselijke goedkeuring achter een AI-uitkomst lijkt een veilige oplossing. Het systeem doet een voorstel, een medewerker controleert het en pas daarna wordt de handeling uitgevoerd. Daarmee blijft de mens verantwoordelijk en is de automatisering onder controle.

In de praktijk is die redenering te eenvoudig.

Wie honderden voorstellen achter elkaar moet beoordelen, gaat patronen volgen. Wie alleen de aanbeveling ziet en niet de onderliggende bronnen, kan weinig controleren. Wie geen tijd, bevoegdheid of alternatief heeft, kan een uitkomst hooguit bevestigen. En wanneer het systeem bijna altijd gelijk heeft, wordt juist de zeldzame fout steeds moeilijker opgemerkt.

Een mens in het proces is daarom nog geen menselijke controle. De relevante vraag is niet óf ergens een medewerker op een knop drukt, maar welke bijdrage die medewerker op dat moment kan leveren.

Human in the loop moet worden ontworpen als onderdeel van het totale proces. Waar kan AI zelfstandig interpreteren of handelen? Waar kan een vaste controle de juistheid bewaken? Wanneer is aanvullende context, professioneel oordeel of formele bevoegdheid nodig? En wat moet een mens kunnen zien en doen om de uitkomst werkelijk te beïnvloeden?

De kern is:

Menselijke controle is pas werkelijk controle wanneer de mens de uitkomst kan begrijpen, betwisten en veranderen — en daarvoor de informatie, tijd en bevoegdheid heeft.

Wat betekent human in the loop?

De loop is de cyclus waarin informatie wordt ontvangen, geïnterpreteerd, omgezet in een besluit of handeling en vervolgens teruggekoppeld naar het proces. Een mens kan op verschillende plaatsen in die cyclus betrokken zijn.

Bij human in the loop beoordeelt of beïnvloedt een mens een afzonderlijke uitkomst voordat het proces verdergaat. Een medewerker controleert bijvoorbeeld een voorgestelde factuurcodering, kiest tussen meerdere mogelijke matches of autoriseert een voorbereide handeling.

Bij human on the loop handelt het systeem binnen afgesproken grenzen en bewaakt een mens de werking op procesniveau. De medewerker beoordeelt niet iedere transactie, maar volgt prestaties, afwijkingen, steekproeven en incidenten en kan ingrijpen wanneer het systeem zich onverwacht gedraagt.

Bij human out of the loop vindt tijdens de operationele verwerking geen menselijke tussenkomst plaats. Dat betekent niet dat mensen geen rol hebben. Zij hebben het proces ontworpen, de grenzen bepaald en blijven verantwoordelijk voor monitoring, wijzigingen en gevolgen. Alleen de afzonderlijke transactie wordt zonder menselijke beoordeling afgehandeld.

De begrippen worden niet overal precies hetzelfde gebruikt. Belangrijker dan het label is daarom de concrete rol van de mens:

• beoordeelt de mens één voorgestelde uitkomst;
• geeft de mens formele toestemming voor een handeling;
• behandelt de mens alleen gesignaleerde afwijkingen;
• bewaakt de mens de werking van een reeks automatische beslissingen;
• of gebruikt de organisatie menselijke feedback om het systeem later te verbeteren?

Die laatste activiteit wordt eveneens vaak human in the loop genoemd, maar is wezenlijk anders. Een medewerker die vandaag een boekingsvoorstel controleert, neemt deel aan de operationele besliscyclus. Een specialist die achteraf correcties analyseert om regels of modellen te verbeteren, neemt deel aan de leer- en beheercyclus. Een proceseigenaar die foutpatronen en steekproeven beoordeelt, houdt toezicht op het systeem als geheel.

Deze rollen kunnen door verschillende mensen worden uitgevoerd en vragen om verschillende informatie, bevoegdheden en vaardigheden. Ze samenbrengen onder één algemeen controlevinkje maakt niet duidelijk wie wat behoort te doen.

Mens en AI zijn niet automatisch complementair

Human in the loop wordt vaak gebaseerd op een aantrekkelijke taakverdeling. Automatisering is snel, consistent en schaalbaar; mensen kunnen context begrijpen, uitzonderingen herkennen en professioneel oordelen. Door beide te combineren zouden de sterke kanten elkaar aanvullen.

Dat kan gebeuren, maar alleen onder bepaalde voorwaarden.

Een menselijke beoordeling voegt weinig toe wanneer de medewerker precies dezelfde beperkte informatie ziet als het model. Hetzelfde geldt wanneer de uitkomst alleen kan worden bevestigd, de benodigde vakkennis ontbreekt of de beschikbare tijd onvoldoende is om de bronnen te controleren. De mens vertraagt het proces dan wel, maar maakt het niet aantoonbaar beter.

Complementariteit ontstaat pas wanneer mens en systeem verschillende foutpatronen hebben en de medewerker kan herkennen wanneer de AI-uitkomst niet moet worden gevolgd. De mens moet dus iets kunnen inbrengen wat niet al volledig in de modeluitkomst besloten ligt: aanvullende procescontext, kennis van een relatie, inzicht in een uitzonderlijke gebeurtenis, een belangenafweging of bevoegdheid om van een standaardroute af te wijken.

Ook dan blijft de samenwerking kwetsbaar voor twee tegengestelde reacties.

Automation bias ontstaat wanneer mensen een automatische aanbeveling te gemakkelijk volgen, juist omdat het systeem doorgaans betrouwbaar oogt. Een plausibele uitleg of hoge score kan dit vertrouwen verder versterken. De medewerker zoekt dan vooral naar bevestiging en merkt informatie die de aanbeveling tegenspreekt minder snel op.

Algorithm aversion is het spiegelbeeld: een medewerker verwerpt bruikbare aanbevelingen omdat het systeem eerder een zichtbare fout heeft gemaakt of omdat menselijk oordeel principieel betrouwbaarder wordt geacht. Daardoor blijft onnodig handwerk bestaan en wordt de waarde van de automatisering niet benut.

Het doel is dus niet maximaal vertrouwen en evenmin permanent wantrouwen. Het doel is passend vertrouwen: een juiste aanbeveling volgen en een onjuiste aanbeveling kunnen herkennen en corrigeren.

Onderzoek naar AI-ondersteunde besluitvorming laat zien dat dit moeilijker is dan alleen een verklaring of betrouwbaarheidsscore tonen. Een uitleg helpt vooral wanneer zij de controle daadwerkelijk eenvoudiger maakt. Een lange, overtuigend geformuleerde toelichting kan juist extra gezag uitstralen zonder dat de juistheid beter verifieerbaar wordt. Een betrouwbaarheidsscore kan het vertrouwen beter afstemmen, maar verbetert de gezamenlijke beslissing alleen wanneer de mens daarnaast relevante eigen kennis kan inbrengen.

Human in the loop is daarmee geen simpele optelsom van machinekracht en menselijk inzicht. Het is een afzonderlijk systeem met eigen foutbronnen.

Wanneer is menselijke beoordeling nodig?

Niet iedere AI-uitkomst hoeft door een mens te worden beoordeeld. Dat zou een groot deel van de schaalbaarheid tenietdoen en kan de kwaliteit van de controle juist verlagen. Wie voortdurend juiste standaardgevallen moet bevestigen, houdt minder aandacht over voor de gevallen waarin beoordeling wel nodig is.

De noodzaak van menselijke tussenkomst hangt niet alleen af van de onzekerheid van het model. Minstens zo belangrijk zijn de gevolgen van de handeling, de beschikbare vaste controles, de mogelijkheid om een fout te herstellen en de aard van het gevraagde oordeel.

Menselijke beoordeling is vooral waardevol in de volgende situaties.

1. De informatie is onvolledig, tegenstrijdig of ambigu

AI kan variatie interpreteren en mogelijke verbanden afleiden, maar soms blijven meerdere verklaringen aannemelijk. Een factuur kan inhoudelijk bij verschillende kostenplaatsen passen. Een betaling kan op meerdere combinaties van openstaande posten aansluiten. Een bericht van een leverancier kan zowel een vraag als een formeel dispuut bevatten.

Een mens kan dan aanvullende context zoeken, verschillende belangen wegen of vaststellen dat eerst nieuwe informatie nodig is. De waarde zit niet in het opnieuw uitvoeren van dezelfde voorspelling, maar in het verbreden van de beschikbare context.

2. De uitkomst vraagt om professioneel oordeel

Sommige beslissingen zijn niet volledig terug te brengen tot het herkennen van patronen of toepassen van vaste regels. Ze vragen om een beoordeling van intentie, redelijkheid, bewijs, materialiteit of de economische betekenis van een gebeurtenis.

AI kan relevante informatie ordenen en een voorstel voorbereiden. Het professionele oordeel blijft nodig wanneer meerdere verdedigbare uitkomsten bestaan of wanneer beleid bewust ruimte laat voor een gemotiveerde afwijking.

3. De handeling heeft materiële of moeilijk omkeerbare gevolgen

Een fout in een interne classificatie die eenvoudig kan worden hersteld, heeft een ander risicoprofiel dan het wijzigen van betaalgegevens, aangaan van een externe verplichting of uitvoeren van een materiële betaling.

Een hoge verwachte nauwkeurigheid is bij zulke acties onvoldoende als enige basis voor autonomie. De mogelijke schade van de zeldzame fout kan zwaarder wegen dan de gemiddelde prestatie. Formele autorisatie of een onafhankelijke beoordeling kan daarom nodig blijven, ook wanneer het model veel zekerheid toont.

4. Het geval valt buiten de bekende procesvariatie

Modellen presteren het best binnen omstandigheden die voldoende lijken op de data en situaties waarop zij zijn getest. Nieuwe documenttypen, gewijzigde wetgeving, een reorganisatie, afwijkend klantgedrag of een onverwachte combinatie van gebeurtenissen kan de geldigheid van een eerdere prestatiemeting aantasten.

Het systeem hoeft niet zelf perfect te kunnen vaststellen dat een geval nieuw is. Ook vaste signalen kunnen een menselijke route activeren: een nieuwe leverancier, ongebruikelijke valuta, ontbrekende historie, plotseling gewijzigde volumes of conflicterende uitkomsten van verschillende controles.

5. De uitkomst raakt een relatie, recht of betwiste positie

Een automatisch voorstel kan inhoudelijk aannemelijk zijn en toch een menselijke afweging vragen vanwege de context waarin het wordt gebruikt. Denk aan het afwijzen van een claim, escaleren van een dispuut, beperken van krediet of communiceren van een standpunt met financiële gevolgen.

Daar is niet alleen feitelijke juistheid relevant. Ook proportionaliteit, consistentie, toon, hoor en wederhoor en de mogelijkheid om een uitkomst te betwisten kunnen een rol spelen.

Niet alleen zekerheid, maar ook impact

Een veelgebruikte inrichting is een betrouwbaarheidsdrempel: boven een bepaalde score wordt de uitkomst automatisch verwerkt, daaronder volgt menselijke controle. Dat is nuttig, maar te beperkt als algemeen beslismodel.

Een score zegt iets over de onzekerheid van een specifieke modeluitkomst, voor zover die score goed is gekalibreerd. Zij zegt niet automatisch iets over de financiële impact van een fout, de omkeerbaarheid van de actie of de volledigheid van de aangeboden context. Een model kan bovendien zeer zeker zijn van een onjuiste uitkomst.

De routering naar mens of automatisering moet daarom meerdere signalen combineren:

• modelonzekerheid en verschil tussen plausibele alternatieven;
• uitkomsten van vaste validaties en bedrijfsregels;
• financiële materialiteit;
• omkeerbaarheid en herstelkosten;
• nieuwheid of afwijking van het geval;
• mogelijke gevolgen voor klanten, leveranciers of medewerkers;
• vereiste functiescheiding of formele bevoegdheid.

Dat leidt tot een genuanceerdere verdeling:

Deze tabel is geen universele beslisregel. Zij maakt wel zichtbaar waarom een lage score niet de enige reden voor interventie is en een hoge score geen algemene toestemming tot zelfstandig handelen vormt.

Plaats de mens op het beslissende moment

Menselijke controle wordt vaak aan het einde van het proces toegevoegd: AI verzamelt informatie, redeneert, kiest een actie en presenteert vervolgens een knop om die actie goed te keuren. Dat is niet altijd het moment waarop de mens de meeste waarde kan toevoegen.

Bij een onvolledig document kan de belangrijkste menselijke bijdrage aan het begin liggen: bepalen welke bron betrouwbaar is of welke informatie moet worden opgevraagd. Bij meerdere mogelijke matches kan de bijdrage in het midden liggen: aangeven welke procescontext doorslaggevend is. Bij een materiële handeling kan de mens juist vlak voor uitvoering nodig zijn om formele bevoegdheid uit te oefenen.

Het juiste interventiemoment hangt dus samen met het doel:

Bij AI-agents wordt die plaatsing extra belangrijk. Een algemene opdracht aan het begin van een lange actieketen is geen betekenisvolle goedkeuring van iedere latere handeling. Een agent kan informatie ophalen, tussenstappen plannen, andere agents inschakelen en op basis daarvan een nieuwe actie voorbereiden. De uiteindelijke handeling kan verder gaan dan de mens bij de oorspronkelijke opdracht kon overzien.

Daarom hoort menselijke autorisatie zo dicht mogelijk te liggen bij het beslissende overgangspunt: het moment waarop een analyse verandert in een materiële, externe of moeilijk omkeerbare actie. De beoordelaar moet dan niet de volledige technische keten hoeven reconstrueren, maar wel de gebruikte bronnen, relevante controles, voorgestelde actie en te verwachten gevolgen kunnen zien.

Dat betekent niet dat iedere betaling, boeking of communicatie door een mens moet worden goedgekeurd. Veel financiële processen bevatten al betrouwbare, regelgestuurde automatisering. Het betekent dat autonomie bewust per overgang wordt toegekend. Een agent mag bijvoorbeeld zelfstandig informatie verzamelen en een antwoord voorbereiden, terwijl een toezegging, wijziging of verzending met materiële gevolgen een afzonderlijke bevoegdheid vereist.

Ontwerp voor een echte beoordeling

Een beoordelaar kan alleen goed handelen wanneer de werkomgeving dat mogelijk maakt. Een effectieve controle bevat ten minste vijf elementen.

Een heldere beslisvraag

De medewerker moet weten wat precies wordt gevraagd. Gaat het om de juistheid van herkende gegevens, de keuze tussen mogelijke coderingen, het toestaan van een uitzondering of de formele autorisatie van een al gecontroleerde handeling?

Een algemene vraag als “Klopt dit?” vermengt verschillende verantwoordelijkheden. Zij maakt achteraf evenmin duidelijk wat de goedkeuring betekende.

Controleerbare bronnen

De relevante broninformatie moet direct beschikbaar zijn en duidelijk gescheiden blijven van de door AI gegenereerde interpretatie. Bij een boekingsvoorstel kan dat de oorspronkelijke factuur, bestelling en toepasselijke boekingsregel zijn. Bij een rapportagetoelichting zijn dat de onderliggende cijfers, definities en perioden.

Een gegenereerde uitleg is geen vervanging voor bewijs. De interface moet vooral de controlekosten verlagen: relevante passages tonen, afwijkende waarden markeren, ontbrekende informatie benoemen en zichtbaar maken welke vaste controles al zijn uitgevoerd.

Betekenisvolle keuzemogelijkheden

De mens moet kunnen accepteren, corrigeren, afwijzen, aanvullende informatie vragen, escaleren of het proces stoppen. Welke mogelijkheden nodig zijn, hangt af van de toegewezen rol. Een correctierol zonder mogelijkheid tot correctie is slechts symbolisch.

Ook moet een medewerker een aanbeveling kunnen negeren zonder onnodige organisatorische druk. Wanneer afwijking altijd extra werk, verantwoording of vertraging oplevert, stuurt het proces impliciet naar bevestiging.

Tijd, deskundigheid en onafhankelijkheid

Een formeel bevoegde medewerker is niet automatisch een effectieve beoordelaar. De persoon moet de procescontext, betekenis van de output en beperkingen van het systeem begrijpen. Daar hoort kennis van automation bias bij, maar ook praktische ervaring met de gevallen die ter beoordeling worden aangeboden.

Tijd is eveneens een beheersmaatregel. Een wachtrij die sneller groeit dan zij zorgvuldig kan worden beoordeeld, verandert menselijke controle in administratieve doorvoer. Capaciteit en serviceniveaus moeten daarom passen bij de verwachte uitval en zwaarte van de beoordeling.

Registratie met betekenis

Niet iedere bevestiging vraagt om een uitgebreid verslag. Bij correcties, afwijzingen en gemotiveerde uitzonderingen is het wel nuttig om de reden vast te leggen. Daarmee wordt zichtbaar of het model, de brondata, een procesregel of de aangeboden context tekortschiet.

Alleen een klik op goedgekeurd bewijst niet dat een inhoudelijke controle heeft plaatsgevonden. Een bruikbare registratie laat zien welke rol de medewerker vervulde, welke informatie beschikbaar was, welke verandering is aangebracht en welke actie daarna is uitgevoerd.

Voorkom de menselijke stempelmachine

Hoe betrouwbaarder een systeem wordt, hoe lastiger doorlopend toezicht kan worden. De medewerker ziet lange reeksen juiste voorstellen en leert dat bevestigen meestal de juiste en snelste reactie is. Juist daardoor kan een overtuigende fout passeren.

Enkele ontwerpkeuzes kunnen deze automatische volgzaamheid verminderen.

Bij materiële of complexe beslissingen kan de medewerker eerst de broninformatie beoordelen voordat de AI-aanbeveling zichtbaar wordt. Zo ontstaat een onafhankelijke eerste indruk en minder verankering aan het voorstel. Een andere mogelijkheid is de medewerker expliciet te laten aangeven welk gegeven of welke regel doorslaggevend is, in plaats van alleen om een bevestiging te vragen.

Deze vormen van bewuste vertraging worden ook wel cognitive forcing genoemd. Onderzoek laat zien dat zij overmatig vertrouwen kunnen verminderen, maar ook meer tijd en mentale inspanning vragen en door gebruikers minder prettig worden gevonden. Ze horen daarom niet bij ieder standaardgeval. De extra inspanning is vooral te rechtvaardigen waar de impact groot is of waar misleidende aanbevelingen moeilijk herkenbaar zijn.

Ook uitleg moet selectief worden ontworpen. Meer tekst is niet hetzelfde als meer inzicht. Een medewerker heeft meer aan controleerbare verschillen, bronverwijzingen en ontbrekende gegevens dan aan een vloeiende redenering die vooral plausibel klinkt.

Tot slot moet de mens niet de kreukelzone van het systeem worden: de persoon die bij fouten verantwoordelijkheid krijgt omdat die als laatste op goedkeuren heeft gedrukt, terwijl ontwerpers, eigenaren en leidinggevenden de werking, werkdruk en bevoegdheden bepaalden. Verantwoordelijkheid moet aansluiten op werkelijke controle. Een beoordelaar is verantwoordelijk voor de toegewezen beoordeling, maar neemt niet automatisch het eigenaarschap van het volledige AI-systeem over.

Menselijke feedback is niet automatisch de waarheid

Een correctie door een medewerker is waardevolle informatie, maar niet zonder meer betrouwbare trainingsdata. Mensen maken eveneens fouten, verschillen van oordeel en kunnen door de oorspronkelijke AI-aanbeveling zijn beïnvloed. Wanneer iedere goedgekeurde of gecorrigeerde uitkomst automatisch als nieuwe waarheid wordt gebruikt, kan het systeem zowel model- als menselijke fouten versterken.

Een goede feedbackcyclus bewaart daarom meer dan de uiteindelijke keuze:

• welke oorspronkelijke input en context beschikbaar waren;
• welke aanbeveling en alternatieven het systeem gaf;
• welke vaste controles slaagden of faalden;
• wat de medewerker wijzigde en om welke reden;
• welke uiteindelijke procesuitkomst later als juist of onjuist kon worden vastgesteld.

Niet alle feedback hoeft rechtstreeks naar het model. Soms ligt de oplossing in betere stamgegevens, een duidelijkere procesregel, een aangepaste workflow of aanvullende informatie aan de gebruiker. Menselijke interventies zijn daarmee niet alleen leermateriaal voor AI, maar signalen over de kwaliteit van het hele proces.

Er is bovendien een blinde vlek wanneer uitsluitend gevallen met lage zekerheid worden beoordeeld. Zelfverzekerde fouten blijven dan in de automatische stroom en verschijnen niet in de feedbackdata. Gerichte steekproeven uit automatisch verwerkte gevallen zijn daarom noodzakelijk, aangevuld met extra aandacht voor nieuwe categorieën, gewijzigde omstandigheden en groepen waarin fouten grotere gevolgen hebben.

Human in the loop en human on the loop vullen elkaar hier aan. De eerste corrigeert afzonderlijke gevallen. De tweede onderzoekt of de routering zelf nog klopt en of er categorieën bestaan waarin het systeem ten onrechte geen menselijke aandacht vraagt.

Meet de samenwerking, niet alleen het model

De nauwkeurigheid van een model zegt niet hoeveel kwaliteit menselijke beoordeling toevoegt. Ook het percentage goedgekeurde voorstellen is geen betrouwbare maatstaf. Een hoog goedkeuringspercentage kan betekenen dat de voorstellen goed zijn, maar ook dat medewerkers ze zonder voldoende controle overnemen.

De relevante eenheid is de gezamenlijke procesuitkomst. Daarbij passen onder meer de volgende maatstaven:

• fouten die na automatische verwerking of menselijke goedkeuring alsnog worden ontdekt;
• onjuiste AI-uitkomsten die correct door medewerkers worden verworpen;
• juiste AI-uitkomsten die onnodig worden afgewezen;
• correcties, escalaties en redenen daarvoor;
• verschillen in uitkomsten tussen beoordelaars;
• doorlooptijd, werkvoorraad en beschikbare beoordelingstijd;
• fouten die in steekproeven van de automatische stroom worden gevonden;
• terugboekingen, disputen of andere gevolgen na de oorspronkelijke beslissing;
• prestaties per documenttype, entiteit, procesvariant en risicoklasse;
• veranderingen na een nieuw model, andere instructie of gewijzigde databron.

Een override is daarbij niet vanzelf goed of fout. Veel overrides kunnen wijzen op een slecht model, maar ook op een gezonde kritische cultuur of een gewijzigde procesomgeving. Weinig overrides kunnen wijzen op hoge kwaliteit, maar ook op automation bias. De cijfers krijgen pas betekenis wanneer de uiteindelijke juistheid en context worden onderzocht.

Ook de menselijke controle zelf moet dus worden getest. Begrijpen medewerkers de getoonde informatie? Herkennen zij bekende fouttypen? Hebben zij voldoende tijd? Werkt de escalatieroute? Kunnen zij bij onverwacht gedrag daadwerkelijk stoppen of terugvallen op een veilige route?

NIST adviseert daarom niet alleen menselijke toezichtrollen vast te leggen, maar ook de effectiviteit ervan vóór ingebruikname en tijdens gebruik te evalueren. Het systeem moet worden getest als combinatie van technologie, interface, workflow en menselijk handelen.

De rol van de financeprofessional verandert

Wanneer AI meer standaardgevallen verwerkt, verschuift menselijk werk naar afwijkende en zwaardere gevallen. Dat klinkt aantrekkelijk, maar heeft een keerzijde: de resterende werkvoorraad wordt complexer en minder voorspelbaar. Tegelijkertijd ziet de medewerker minder normale gevallen, waardoor routinekennis en gevoel voor de volledige processtroom kunnen afnemen.

Human in the loop vraagt daarom niet alleen om training in het gebruik van een toepassing. Financeprofessionals moeten begrijpen:

• voor welke taak het systeem is ontworpen;
• welke informatie het wel en niet gebruikt;
• in welke situaties de uitkomst minder betrouwbaar is;
• welke vaste controles al zijn uitgevoerd;
• welke beoordeling en bevoegdheid van hen wordt verwacht;
• hoe zij een uitkomst kunnen corrigeren, escaleren of betwisten;
• welke signalen op een structureel probleem wijzen.

Daarnaast blijft blootstelling aan de automatische stroom nodig. Steekproeven, periodieke analyses en bespreking van incidenten voorkomen dat proceskennis volledig verdwijnt. Menselijke deskundigheid kan niet uitsluitend worden onderhouden met de moeilijkste uitzonderingen.

De individuele beoordelaar staat daarbij niet alleen. Op operationeel niveau beoordeelt iemand een geval. Op procesniveau bewaakt een supervisor de verdeling, kwaliteit en werkvoorraad. De proceseigenaar bepaalt uiteindelijk of de combinatie van mens en automatisering nog binnen de afgesproken doelen en risico’s functioneert.

Dat onderscheid sluit aan op het governanceprincipe uit het vorige artikel: een mens kan een concrete beslissing nemen, maar het eigenaarschap van de toepassing blijft bij de organisatie en de aangewezen verantwoordelijken.

Menselijke controle als procesontwerp

De Europese AI Act stelt voor hoog-risicosystemen dat menselijke toezichtmaatregelen in verhouding moeten staan tot het risico, de autonomie en de gebruikscontext. De aangewezen personen moeten de mogelijkheden en beperkingen van het systeem kunnen begrijpen, alert zijn op automation bias, de output kunnen interpreteren, deze kunnen negeren of terugdraaien en zo nodig het systeem veilig kunnen stoppen.

Niet iedere AI-toepassing in finance valt onder die hoog-risicocategorie. Als ontwerpprincipes zijn deze voorwaarden echter breder bruikbaar. Ze maken duidelijk dat human oversight meer vraagt dan aanwezigheid: de mens moet daadwerkelijk handelingsbekwaam zijn.

De European Data Protection Supervisor vat betekenisvolle menselijke controle vergelijkbaar op als menselijke betrokkenheid die een tastbare, positieve invloed op de uitkomst kan hebben. Dat is een nuttige toets voor ieder financieel proces:

Zou deze beslissing anders kunnen uitvallen doordat deze medewerker hier betrokken is?

Als het antwoord nee is, moet worden onderzocht waarom de mens in de lus zit. Misschien kan een vaste controle de betreffende fout betrouwbaarder voorkomen. Misschien is toezicht op steekproeven en trends effectiever dan individuele goedkeuring. Of misschien ontbreken juist de informatie, bevoegdheid of tijd die nodig zijn om de menselijke rol betekenis te geven.

De beste vorm van menselijke controle is dus niet altijd meer menselijke tussenkomst. Het is de juiste tussenkomst op het juiste moment.

De balans tussen performance, compliance en intelligence

Human in the loop raakt de drie doelen van intelligente finance automation rechtstreeks.

Performance ontstaat wanneer mensen niet ieder standaardgeval hoeven te bevestigen, maar hun aandacht richten op situaties waarin aanvullende context of oordeel werkelijk verschil maakt. Slimme routering vermindert zowel onnodig handwerk als ongecontroleerde uitval.

Compliance vraagt dat menselijke goedkeuring geen symbolische laatste stap is. De beoordelaar moet weten welke controle wordt uitgevoerd, toegang hebben tot betrouwbare bronnen en de bevoegdheid hebben om de uitkomst te wijzigen of te stoppen. Eigenaarschap voor het systeem blijft daarnaast expliciet belegd.

Intelligence ontstaat wanneer patroonherkenning door AI wordt gecombineerd met vakkennis, procescontext en kritische reflectie. De mens voegt niet simpelweg gezond verstand toe aan iedere voorspelling, maar helpt vaststellen wanneer waarschijnlijkheid onvoldoende basis vormt voor een financiële beslissing.

Human in the loop is daarmee geen compromis tussen volledige automatisering en volledig handwerk. Het is een vorm van procesregie waarin verschillende soorten beslissingen een passende route krijgen.

Dat rondt ook de technische lijn van deze reeks af.

RPA voert voorspelbare handelingen uit. Workflows regisseren het proces. AI interpreteert variatie en leidt af wat waarschijnlijk is. Governance bepaalt bronnen, grenzen, bevoegdheden en eigenaarschap. Human in the loop brengt menselijke beoordeling in op de momenten waarop context, professioneel oordeel of verantwoordelijkheid niet verantwoord aan automatisering kan worden overgedragen.

Niet omdat mensen onfeilbaar zijn, maar omdat bepaalde beslissingen meer vragen dan een waarschijnlijke uitkomst.