AI-automatisering: waar ik een mens laat beslissen

Een AI-assistent die een volgende stap kan bedenken, heeft nog geen toestemming om die uit te voeren. Zodra een koppeling gegevens kan wijzigen, wordt dat onderscheid praktisch. Mag de assistent informatie verzamelen, een voorstel klaarzetten of ook een definitief besluit vastleggen? Bij AI-automatisering begint de technische keuze voor mij met die vragen.

Voor een ondernemer of producteigenaar is vooral van belang wat er daadwerkelijk verandert. Een functie kan zelfstandig veel voorbereiden en toch een duidelijke menselijke beslisstap behouden. Mijn uitgangspunt als developer en ondernemer is dat de bevoegdheid bij de taak moet passen. Meer toegang is pas nuttig wanneer duidelijk is waarvoor die nodig is en welke gevolgen ermee mogelijk worden.

AI-automatisering begint bij één concrete opdracht

‘Help met de administratie’ is een brede wens. ‘Maak een wijzigingsvoorstel voor deze beschrijving’ is een afgebakende opdracht. Bij die tweede formulering is beter te bepalen welke gegevens nodig zijn, welke uitkomst verwacht wordt en wanneer het werk klaar is. De functie hoeft dan geen toegang te krijgen tot alle mogelijkheden van de toepassing.

Die afbakening helpt ook bij koppelingen waarmee een assistent functies van een ander systeem aanroept. Een technisch protocol regelt hoe een opdracht wordt doorgegeven. Het ontvangende systeem moet zelf controleren wat de aanvrager mag doen. Een werkende verbinding zegt dus nog weinig over de juiste verdeling van bevoegdheden.

Een voorstel mag bestaand werk laten staan

Bij de ontwikkeling van Trustbird is een route gebouwd waarin een externe AI-assistent wijzigingen kan voorstellen. Een voorstel voor een bestaand gegeven vervangt dat gegeven niet direct. Het krijgt een eigen status en wordt later in het gebruikerspaneel beoordeeld. De beslislaag vereist daarvoor een ingelogde persoon.

Als medeoprichter vind ik die scheiding passend bij het soort informatie dat het platform beheert. Een assistent kan bijvoorbeeld helpen een beschrijving te verbeteren. Daaruit volgt nog niet dat de vastgestelde beschrijving moet worden vervangen. De gebruiker kan het voorstel vergelijken met wat er al staat en beoordelen of de wijziging past bij de organisatie.

De extra stap moet iets opleveren

Een beoordeling vraagt aandacht. Daarom wil ik die stap koppelen aan een herkenbare verandering, niet aan een algemene vraag of iemand akkoord gaat met een lange tekst. De kans is dat de voorbereiding eenvoudiger wordt. Het obstakel is dat de toepassing ook moet helpen om het voorstel te begrijpen en de gevolgen ervan te overzien.

Rechten moeten gelden voor elke ingang

Een instructie aan de assistent kan beschrijven wat deze hoort te doen. De toepassing moet vervolgens afdwingen wat mogelijk is. Anders hangt de grens af van de vraag of het model een instructie goed interpreteert. Voor taken die gegevens wijzigen is dat een te zwakke basis.

In mijn werk aan de toegangslaag van Trustbird zijn controles aangescherpt op de organisatie van betrokken personen en rechten. Ook degene die een recht toekent, moet bij de juiste organisatie horen. Onbekende rechten worden geweigerd. Dat zijn concrete grenzen die blijven gelden, ongeacht via welke toegestane route de opdracht binnenkomt.

Voor een producteigenaar is de vertaling eenvoudig: geef een functie toegang tot de informatie en handelingen die zij nodig heeft. Laat een opdracht om tekst voor te bereiden bijvoorbeeld niet automatisch ook gegevens verwijderen of besluiten vastleggen.

Herhaalde opdrachten mogen geen verrassingen geven

Een praktische vraag bij automatisering is wat er gebeurt als dezelfde opdracht nogmaals binnenkomt. Een gebruiker kan opnieuw klikken. Een koppeling kan een opdracht herhalen omdat een antwoord uitblijft. Dan moet duidelijk zijn of er nog iets bijkomt of dat de bestaande uitkomst wordt hergebruikt.

Een recht eenmaal toekennen

Bij de toegangslaag zijn roltoekenningen en toegekende rechten zo aangepast dat herhaling niet onbedoeld een tweede toekenning maakt. Daarbij wordt de bestaande toekenning bijgewerkt wanneer dezelfde combinatie opnieuw wordt aangeboden. Dat geeft een beter te begrijpen resultaat dan bij iedere aanroep een nieuwe toekenning aanmaken.

Ook een ongeldige opdracht moet herkenbaar mislukken. Als een systeem alleen de geldige onderdelen uitvoert en de rest stil negeert, kan de assistent het werk als afgerond presenteren terwijl er iets ontbreekt. Expliciet teruggeven wat niet kan, is daarom onderdeel van een bruikbare automatische functie.

Een afgebakende toepassing in vier stappen

Voor mij is een goede start een taak waarvan de invoer, uitkomst en bevoegdheid te overzien zijn. Daarbij helpen de volgende vragen als ontwerpvolgorde. Ze helpen om een brede automatiseringswens terug te brengen tot iets dat te bouwen en te beoordelen is:

1. Benoem de handeling. Kies bijvoorbeeld informatie ophalen of één wijzigingsvoorstel maken, in plaats van een volledig proces zelfstandig laten afhandelen.
2. Beperk de bevoegdheid. Bepaal welke gegevens en functies daarvoor nodig zijn en wat de koppeling niet hoeft te kunnen.
3. Ontwerp herhaling en uitval. Maak duidelijk wat opnieuw uitvoeren betekent en wat er gebeurt als een opdracht niet geldig of niet volledig is.
4. Wijs de beslissing toe. Laat zien wie een voorstel beoordeelt en bewaar de herkomst naast de latere beslissing.

Bij Trustbird worden AI-voorstellen en de latere beslissing apart vastgelegd. Zo kan iemand terugzoeken wat is voorgesteld en wie het heeft overgenomen. Die vindbaarheid helpt ook wanneer verschillende mensen in hetzelfde proces werken.

Autonomie groeit met duidelijke verantwoordelijkheden

AI-automatisering wordt bruikbaar wanneer een functie precies genoeg mag om haar taak uit te voeren. Een kleine toepassing kan al voorbereidend werk wegnemen. Daarvoor hoeft de assistent niet meteen het hele proces te beheersen. Bij besluiten over beleid, risico’s of verantwoordelijkheden blijft een bewuste menselijke afweging onderdeel van de oplossing.

Mijn aandacht gaat daarom naar taken die duidelijk te begrenzen zijn, met begrijpelijke uitkomsten en een aangewezen beslisser. Wil je onderzoeken welk onderdeel van jouw proces daarvoor geschikt is? Mail me met de taak die je wilt automatiseren.