Waarom risicogebaseerde AI governance innovatie mogelijk maakt 

De toepassing van kunstmatige intelligentie (AI) binnen organisaties neemt in hoog tempo toe. Van chatbots met directe klantinteractie, tot fraudeonderzoek en dynamic pricing, de mogelijkheden lijken eindeloos. Tegelijkertijd brengt elke AI-implementatie juridische, ethische en operationele risico’s met zich mee. 

Door Noah de Groot – Management Consultant bij ITDS

Veel organisaties hanteren momenteel nog een ‘one-size-fits-all’ governance raamwerk om verantwoordelijk AI te ontwikkelen en implementeren. Relatief eenvoudige, laag-risico projecten worden onderworpen aan dezelfde intensieve toetsings- en goedkeuringsprocedures als kritieke, hoog-risico toepassingen. Dit leidt tot langere doorlooptijden, overbelasting van tweede lijnsfuncties zoals Risk en Legal, en vertraging in innovatie. Een risicogebaseerde governanceaanpak biedt hiervoor een oplossing. 

Van uniform naar risicogebaseerd toezicht 

De EU AI Act onderscheidt AI-toepassingen op basis van risicocategorieën, variërend van minimaal tot onaanvaardbaar risico. Voor een effectieve interne governance is het echter noodzakelijk deze wettelijke kaders te combineren met organisatie specifieke parameters, zoals: 

• Datatype: Worden persoonsgegevens, gevoelige bedrijfsinformatie of vertrouwelijke datasets gebruikt? 

• Impact van fouten: Wat zijn de mogelijke gevolgen van onjuiste uitkomsten voor individuen en voor de organisatie? 

• Operationele afhankelijkheid: Kan de organisatie functioneren indien het AI-systeem faalt? 

• Reputatierisico: Hoe groot is de kans op reputatieschade bij fouten of bias? 

Door deze parameters te combineren, kan elk AI-initiatief worden ingedeeld in een risicocategorie die het uitgangspunt vormt voor het bijbehorende governanceproces. 

 

Voorbeelden van risicogebaseerde governance 

Risiconiveau	Voorbeeldtoepassing	Governance-aanpak
Laag	AI die interne rapportages samenvat zonder persoonsgegevens	Zelfbeoordeling door het projectteam en beknopte interne toetsing
Middel	AI die klantvragen op de website beantwoordt	Bias-check, databeoordeling door data steward, beperkte toets door Legal
Hoog	AI die medische diagnoses ondersteunt	Uitgebreide documentatie, impactanalyse, externe audit, ethische commissie
Onacceptabel	AI voor sociale scoring	Directe stopzetting conform AI Act

 

Voordelen van risicogebasseerde governance 

Een risicogebaseerde aanpak levert zowel snelheid als naleving op: 

1. Snellere realisatie van laag- en middel-risico projecten
   Door deze projecten via gestroomlijnde processen af te handelen, worden onnodige vertragingen voorkomen. 

1. Gerichte inzet van Risk, Legal en Compliance
   Tweede lijnsfuncties hoeven zich niet langer over elk project te buigen, maar kunnen hun capaciteit richten op hoog-risico toepassingen waar hun expertise het meest noodzakelijk is. 

1. Compliance-by-design
   Risicobeoordeling en wettelijke kaders worden vanaf de start van elk project toegepast, waardoor naleving wordt ingebouwd in het ontwikkelproces in plaats van achteraf toegevoegd. 

1. Verbeterde samenwerking en draagvlak
   Ontwikkelteams ervaren governance niet als een bureaucratische hindernis, maar als een faciliterend proces dat risicogebaseerd is aan het werkelijke risico. Als de kaders duidelijk zijn ervaren ze zelf meer autonomie in hun werk. 

Versnelling én compliance 

De implementatie van een risicogebasseerd governance framework snijdt voor organisaties aan twee kanten. Het zorgt voor versnelling in doorlooptijd en ontwikkeling van lage/ midden risico initiatieven door ze aan een minder zwaar governance proces te onderwerpen. Dit scheelt ontzettend in tijd van ontwikkelteams, maar ook voor afdelingen als Risk en Legal betekent deze werkwijze een aanzienlijke ontlasting. Laag-risico initiatieven worden grotendeels in de eerste lijn afgehandeld, ondersteund door standaardtemplates en vooraf vastgestelde beoordelingscriteria. Dit creëert ruimte om resources te concentreren op hoog-risico toepassingen met grotere juridische, ethische en maatschappelijke impact. Daarmee worden deze hoog risico projecten aan de juiste checks & balances onderworpen, en kunnen ze met vertrouwen worden ingezet in de processen van organisaties. 

Risicogebaseerde AI-governance versnelt innovatie, zonder concessies te doen aan compliance en ethiek. Het stelt organisaties in staat om: 

• Laag-risico AI-toepassingen snel en efficiënt in te voeren 

• Hoog-risico projecten grondig en zorgvuldig te toetsen 

• De inzet van interne resources te optimaliseren 

• Wet- en regelgeving, zoals de AI Act, structureel te integreren in het ontwikkelproces 

Met deze aanpak wordt AI-governance een strategische en versnellende factor, in plaats van een belemmering voor innovatie.