AI-automatisering blijft fragiel als intentie alleen in hoofden zit

AI maakt overdraagbaarheid van context zichtbaar

Insight: AI is niet alleen een productiviteitstool. Het is ook een diagnose-instrument voor context die de organisatie nooit expliciet heeft gemaakt.

De eerste geautomatiseerde werkstroom lijkt goed te werken, tot er een andere klant, beoordelaar of uitzondering verschijnt. De output klinkt nog steeds aannemelijk, maar is verkeerd. De escalatie komt pas later, nadat de fout al door een deel van het systeem is gelopen.

Dat patroon betekent meestal dat de organisatie leunt op context die mensen impliciet meedragen en die de werkstroom niet kan hergebruiken. AI heeft het probleem niet veroorzaakt. AI maakt zichtbaar dat de intentie nooit overdraagbaar genoeg is gemaakt om overdrachten, variatie en schaal te overleven.

In één minuut

• Als AI-output aannemelijk klinkt maar verschilt tussen vergelijkbare gevallen, zie je vaak ontbrekende context, niet simpelweg modelzwakte.
• De beperking verschuift van “kunnen we dit automatiseren?” naar “is de intentie overdraagbaar genoeg om betrouwbaar te automatiseren?”
• Begin met één besluittype: maak termen, beperkingen en escalatietriggers expliciet en test ze tegen een kleine set echte gevallen.

Waar “net verkeerde” output vandaan komt

Het patroon verschijnt vaak in een herkenbaar moment: iemand vraagt een team om “de werkstroom te automatiseren” of “een agent de verzoeken te laten afhandelen”. De opdracht klinkt redelijk: “triageer urgente tickets”, “lever de fix op”, “sluit wanneer klaar”.

Mensen horen zulke woorden en passen stilzwijgend een gedeeld mentaal model toe. Urgent voor wie? Voor getroffen klanten of voor een interne deadline? Welke risicotolerantie geldt? Welke klanten vallen onder strengere regels? Welke beloftes zijn al gedaan? Wie mag afwijken van de standaard en in welk overleg?

Een AI-systeem kan die regels niet raden zoals mensen van binnen dat doen. Het voert de letterlijke opdracht uit. Soms voelt het antwoord direct verkeerd. Soms lijkt het prima, totdat een randgeval langskomt of twee vergelijkbare gevallen verschillende uitkomsten krijgen.

De reflex is om het model de schuld te geven. De nuttiger lezing is eenvoudiger: de opdracht vertrouwde op impliciete context die niet meereisde.

In de praktijk wordt iemand dan vertaler. Die persoon herschrijft prompts, voegt ter plekke beperkingen toe, plakt eerdere besluiten erbij en loopt uitzonderingen handmatig door. Het werk komt nog steeds af, maar de waarheid wordt duidelijk: de automatisering hangt aan iemand die de ontbrekende context kent.

Daar verschuift het knelpunt. De beperking is niet langer technologie. De beperking is of de intentie achter een besluit kan reizen tussen mensen, teams, weken en hulpmiddelen zonder telkens opnieuw te worden geïnterpreteerd.

Contextoverdraagbaarheid is een ontwerpeigenschap

Met contextoverdraagbaarheid bedoel ik dat de minimale aannames en beslisregels die nodig zijn om een besluit te herhalen expliciet genoeg zijn voor iemand, of iets, buiten de oorspronkelijke kamer om met dezelfde intentie te handelen.

Dit is geen documentatieprobleem. Het is een ontwerpprobleem. Als kritieke besluiten afhangen van mensen die het “gewoon weten”, wordt de organisatie kwetsbaar. Schaal vergroot misalignment, verloop vergroot risico en werk tussen teams vergroot onderhandelingskosten. AI haalt bovendien de economische en menselijke vertaalbuffer weg die impliciete intentie eerder compenseerde.

Het mechanisme is eenvoudig:

• Mensen comprimeren betekenis om snel te kunnen praten en vullen gaten met gedeelde geschiedenis.
• Goedkope automatisering maakt die gaten zichtbaar, omdat ze intentie niet kan reconstrueren uit lokale voorkennis.
• Elke “net verkeerde” output is een overdraagbaarheidstest: ze laat zien welke definities, beperkingen en bevoegdheidsgrenzen nooit operationeel zijn gemaakt.

Het besliscontract maakt intentie overdraagbaar. Dat is geen stapel documentatie, maar de minimale uitvoeringsspecificatie voor een besluit: genoeg om nieuwe mensen, nieuwe hulpmiddelen en nieuwe weken te overleven.

Dit probleem is minder scherp bij besluiten met lage impact, stabiele teams en werk dat binnen één gedeelde context blijft. Het wordt urgent wanneer werk functies, risicogrenzen en tijdshorizonnen kruist, of wanneer je automatisering wilt opschalen buiten de oorspronkelijke groep mensen die de context kent.

De kans is niet om alle stilzwijgende kennis uit te bannen. Expertise blijft nodig. De kans is om te bepalen welk deel van die kennis overdraagbaar moet worden om betrouwbaar te automatiseren. Overdraagbaarheid houdt intentie consistent wanneer variatie toeneemt.

Signalen dat context niet overdraagbaar is

Zoek naar signalen in escalatielogs, heropeningen van tickets, vergaderverslagen, onboardingmateriaal en de promptbibliotheken die mensen zelf opbouwen. Overdraagbaarheidsproblemen laten operationele sporen achter.

Prompts hangen aan één persoon. De “beste prompt” leeft in iemands privécollectie, niet in een gedeelde afspraak die anderen kunnen hergebruiken. Dat is context die vastzit in individuen. Begin door de belangrijkste snippets om te zetten in een gedeeld besliscontract met eigenaar en versies.

Aannemelijke inconsistentie. Vergelijkbare gevallen krijgen verschillende uitkomsten afhankelijk van wie de prompt schreef, welke voorbeelden zijn geplakt of op welke dag het systeem draaide. Dat is geen pure willekeur. Het zijn ontbrekende beslisregels. Begin met een kleine set echte gevallen voor één werkstroom en gebruik die als regressietest voor het contract.

Terugkerende discussies over basiswoorden. Dezelfde termen komen steeds terug in reviews: “urgent”, “klaar”, “acceptabel risico”, “VIP-klant”. Wanneer definities verschuiven, fragmenteert uitvoering. Maak voor één werkstroom een korte begrippenlijst en verplicht één overleg om die twee weken te gebruiken.

Escalaties clusteren rond dezelfde uitzonderingen. Handmatige goedkeuringen en overrides keren terug voor dezelfde randgevallen: gereguleerde klant, hoge refund, security-uitzondering. Dat is vaak onzichtbaar beleid. Leg uitzonderingen vast met eigenaar en einddatum en beslis daarna of ze echte regel worden of tijdelijke schuld.

Inwerken vraagt meelopen. Nieuwe mensen leren vooral door shadowing, omdat de organisatie geen compact document heeft dat uitlegt hoe besluiten worden genomen. Dat is lage contextoverdraagbaarheid. Leg de minimale beslisregels voor één terugkerend besluit vast en gebruik die als inwerkreferentie.

Maak intentie overdraagbaar en automatiseer daarna

Dit zijn suggesties. Kies er één voor één of twee weken en bespreek wat je leert.

Schrijf een besliscontract voor één werkstroom

Kies één terugkerend besluittype dat je wilt automatiseren: triage, refunds, toegangsverzoeken of risico-uitzonderingen. Schrijf een besliscontract van één pagina: definities die niet mogen verschuiven, beperkingen die altijd gelden en grensvoorbeelden die duidelijk maken wat wel en niet binnen het besluit valt. Dit werkt omdat de snelste manier om AI-uitkomsten te verbeteren vaak niet meer prompts is, maar minder interpretatieruimte.

Begin met het besluit dat het meeste herstelwerk oplevert. Let op minder “wat bedoelen we precies?”-lussen en minder escalaties door basisambiguïteit.

Maak van escalaties een overdraagbaarheidsbacklog

Behandel elke net verkeerde output, inconsistente uitkomst en handmatige override als data. Leg vast welke definitie of beperking ontbrak, voeg die toe aan het besliscontract en versieer de wijziging. Houd een kleine set echte gevallen bij zodat je die opnieuw kunt draaien wanneer het contract verandert. Dit werkt omdat overdraagbaarheid ontstaat uit echte gevallen, niet uit een abstracte poging om alles vooraf compleet te beschrijven.

Begin met één week escalaties en verzamel ongeveer twintig eerdere gevallen met gewenste uitkomst. Kijk naar herhaling van dezelfde uitzondering en variatie tussen vergelijkbare gevallen, niet alleen of de werkstroom “draait”.

Ontwerp bevoegdheidsgrenzen en escalatietriggers

Maak expliciet wie waarvan mag afwijken en welke escalatietriggers veilig en goedkoop zijn: drempels, risicosignalen, klantklassen of wettelijke grenzen. Dit werkt omdat betrouwbaarheid komt uit bekende grenzen, niet uit perfecte voorspelling.

Begin met één grens die nu als folklore leeft en maak er een regel van met eigenaar en reviewritme. Kijk naar het aantal overrides, besluitvertraging en of het team de standaard genoeg vertrouwt om niet elk geval opnieuw te bespreken.

Dit wordt nog moeilijker wanneer interne modellen niet meer worden gevormd en oordeelsvorming dunner wordt.

---

AI maakt veel werk automatiseerbaar en vroege winst kan echt zijn. De valkuil is denken dat het model de beperkende factor is. In veel organisaties is de beperkende factor dat intentie niet reist: betekenis wordt samengedrukt, definities verschuiven en beslisregels blijven lokaal bij de mensen en overleggen waar ze zijn ontstaan.

Als je AI als diagnose gebruikt, krijg je een nieuwe moderniseringshefboom. Waar prompts mensen van binnen nodig hebben om intentie te vertalen, heb je een overdraagbaarheidskloof gevonden. Het werk is dan om te herontwerpen totdat de minimale context voor het besluit overdraagbaar is en iemand er eigenaar van is.

Welke terugkerende beslissing heeft bij jullie nog iemand van binnen nodig om de intentie betrouwbaar te vertalen?