Onder welke risicoklasse valt jouw AI?
De AI Act kent vier risicoklassen. Hoe je vaststelt in welke jouw toepassing valt, en wat elke uitkomst betekent voor wat je mag bouwen.
Luis Gravestein, Oprichter · , bijgewerkt · 6 min
De vraag komt bijna altijd te laat: er draait al een tool, en dan pas komt de vraag of hij mag. De AI Act werkt met risicoklassen, en die klasse bepaalt wat je moet vastleggen, wie er toezicht houdt en of je überhaupt mag bouwen. Classificeren doe je vooraf, per toepassing. Een systeem achteraf ontmantelen raakt het hele project.
Vier klassen, en de sprong ertussen is groot
Onaanvaardbaar risico staat in artikel 5: praktijken die niet mogen, hoe goed je ze ook documenteert. Daaronder vallen onder meer sociale scoring, gedragsbeïnvloeding die iemands vrije wil ondermijnt, en het afleiden van emoties op de werkvloer of in het onderwijs. Artikel 5 kent een paar smalle uitzonderingen (emotieherkenning mag bijvoorbeeld wel om medische of veiligheidsredenen) maar die zijn niet bedoeld voor een bedrijfsproces. Kom je hier uit, dan is het antwoord in de praktijk: niet bouwen.
Hoog risico is de zwaarste categorie die wél mag. Er zijn twee routes naar hoog risico. De eerste is bijlage III, met daarin punt 4 over werk: AI voor het plaatsen van vacatures, het filteren van sollicitaties en het beoordelen van kandidaten. De tweede is artikel 6 lid 1: AI die als veiligheidscomponent in een gereguleerd product zit, bijvoorbeeld in een machine.
Beperkt risico gaat niet over wat het systeem beslist, maar over of de mens weet dat hij met AI te maken heeft. Artikel 50 verdeelt de plicht. De aanbieder van het systeem markeert gegenereerde audio, beeld, video en tekst machineleesbaar (lid 2) en zorgt dat een chatbot zich als chatbot presenteert (lid 1). Gebruik je zo'n tool zelf, dan maak je bekend dat het materiaal kunstmatig is gemaakt of gemanipuleerd (lid 4). Dat is geen dossierplicht maar een plicht om duidelijk te zijn.
De vierde klasse is de rest: minimaal risico. Een spamfilter, een voorraadvoorspelling, routeplanning voor servicebezoeken. Veel van wat een middelgroot bedrijf automatiseert komt hier terecht. De AI Act legt hier geen productverplichtingen op, maar de AI-geletterdheid van artikel 4 geldt voor elk gebruik, ongeacht de klasse. En de AVG geldt onverkort: geen AI Act-dossierplicht is geen vrijbrief voor persoonsgegevens.
Classificeren doe je op de toepassing, niet op de tool
Een model heeft geen risicoklasse, een toepassing wel. Hetzelfde taalmodel is minimaal risico als het een offertetekst opmaakt en hoog risico als het sollicitanten rangschikt. Classificeer dus per gebruik en schrijf dat gebruik op als één zin: wie gebruikt het, waarvoor, en welke beslissing hangt eraan vast. Wie die zin niet rond krijgt, heeft geen classificatieprobleem maar een procesprobleem.
- Valt het onder artikel 5? Zo ja, stop hier.
- Staat het in bijlage III, of is het een veiligheidscomponent in een gereguleerd product (artikel 6 lid 1)?
- Wat is je rol: aanbieder of gebruiksverantwoordelijke?
- Raakt de uitkomst een mens direct, met een afwijzing, een prijs of een beoordeling, of is het alleen een voorzet?
- Geldt er hoe dan ook een transparantieplicht uit artikel 50?
Aanbieder ben je als je het systeem bouwt of onder je eigen naam op de markt brengt. Koop je het in, dan ben je gebruiksverantwoordelijke, met een lichter maar niet leeg takenpakket. Let op artikel 25: zet je je eigen naam op een hoog-risicosysteem, verander je het beoogde doel of pas je het ingrijpend aan, dan word je alsnog aanbieder. Dat gebeurt bijvoorbeeld wanneer een standaardtool met eigen prompts en eigen data een selectie-instrument wordt.
Bijlage III is niet automatisch het eindstation. Artikel 6 lid 3 kent een uitzondering voor systemen die alleen een enge procedurele taak uitvoeren, het resultaat van eerder menselijk werk verbeteren, een beslissingspatroon signaleren zonder het menselijk oordeel te vervangen, of louter voorbereidend werk doen. De uitzondering is smal, en profilering van natuurlijke personen valt er nooit onder. Wie zich erop beroept, moet die beoordeling vastleggen vóórdat het systeem in gebruik gaat.
Hoog risico: wat er in het dossier hoort
- Technische documentatie volgens bijlage IV: doel, architectuur, data, prestaties en bekende beperkingen.
- Een risicobeheersysteem dat je onderhoudt zolang het systeem draait, niet één keer bij oplevering.
- Datagovernance: waar trainings- en invoerdata vandaan komen en hoe je op vertekening controleert.
- Automatische logging, zodat achteraf herleidbaar is welk geval welke uitkomst kreeg.
- Menselijk toezicht dat is ingebouwd: iemand die de uitkomst kan negeren, en de bevoegdheid heeft dat te doen.
- Een gebruiksaanwijzing voor de gebruiksverantwoordelijke, plus conformiteitsbeoordeling, CE-markering en registratie in de EU-databank.
Ben je gebruiksverantwoordelijke, dan is de lijst korter: gebruik het systeem volgens de instructies, leg het toezicht bij iemand die bekwaam is en er tijd voor heeft, bewaar de logs en meld ernstige incidenten. Eén verplichting staat zelden in het projectplan. Gebruik je een hoog-risicosysteem op de werkvloer, dan informeer je de betrokken werknemers en hun vertegenwoordigers vóórdat je het in gebruik neemt (artikel 26 lid 7).
Wat de uitkomst betekent voor de bouw
Hoog risico betekent niet dat je niet bouwt, maar dat de volgorde verandert. Logging, versiebeheer van prompts en modellen en een expliciet beslispunt voor een mens zijn dan architectuur, geen laag die je er later bij plakt. In zulke projecten zetten wij het menselijke oordeel als verplichte stap in de datastroom, zodat het systeem zonder die stap geen uitkomst wegschrijft. Er later iets tussen schuiven betekent de datastroom opnieuw ontwerpen.
Wat we afraden: de classificatie omlaag praten door de AI op papier net iets minder te laten beslissen dan hij feitelijk doet. Belt de recruiter in de praktijk altijd de bovenste drie uit de lijst, dan is de rangschikking de beslissing. Ook afgeraden: een generieke AI-tool bedrijfsbreed uitrollen en de classificatie per afdeling later doen. Dan sta je twintig toepassingen tegelijk te documenteren en zit er één tussen die onder bijlage III valt.
Begin met een inventarisatie. Noteer elke plek waar AI in je proces zit, met per plek één zin over gebruik en beslissing, en zet daar de vier klassen naast. Het meeste valt meteen op zijn plek. Wat overblijft zijn de twijfelgevallen, en dat is het echte werk. Leg de uitkomst vast, ook als die minimaal risico is, en herzie hem zodra het doel of de data verandert. Voor een twijfelgeval hoort een jurist aan tafel: deze tekst helpt bij het classificeren, maar vervangt geen juridisch advies.