Risicoclassificatie onder de AI-verordening

Het juridisch kader

De AI-verordening (Verordening (EU) 2024/1689) koppelt verplichtingen aan de risicoklasse van een systeem. Classificeren is dus je eerste juridische vraag. Het antwoord hangt af van het beoogde doel van het systeem en de context van het gebruik, niet van de technologie als zodanig.

Verboden praktijken

Artikel 5 verbiedt onder meer manipulatieve of uitbuitende technieken die aanzienlijke schade veroorzaken, social scoring, het ongericht scrapen van gezichtsafbeeldingen, emotieherkenning op de werkplek en in het onderwijs (behalve om medische of veiligheidsredenen) en bepaalde vormen van biometrische identificatie. Verordening (EU) 2026/1744 voegt twee verboden toe voor AI-systemen die niet-consensuele intieme beelden of materiaal van seksueel kindermisbruik genereren; die gelden vanaf 2 december 2026.

Hoogrisicosystemen

Artikel 6 kent twee wegen. Ten eerste een AI-systeem dat een veiligheidscomponent van een product is, of zelf een product is, onder de Europese harmonisatiewetgeving uit bijlage I (machines, medische hulpmiddelen, speelgoed en andere) en waarvoor een conformiteitsbeoordeling door een derde vereist is. Ten tweede een systeem dat in bijlage III staat, die acht domeinen omvat:

• biometrie;
• kritieke infrastructuur;
• onderwijs en beroepsopleiding;
• werkgelegenheid en personeelsbeheer;
• toegang tot essentiële private en publieke diensten, waaronder kredietscoring en prijszetting van levens- en ziektekostenverzekeringen;
• rechtshandhaving;
• migratie, asiel en grenscontrole;
• rechtsbedeling en democratische processen.

Een systeem uit bijlage III is volgens artikel 6, lid 3 niet hoogrisico als het geen significant risico op schade voor gezondheid, veiligheid of grondrechten inhoudt. Bijvoorbeeld omdat het alleen een beperkte procedurele taak uitvoert, het resultaat van een eerder voltooide menselijke activiteit verbetert, afwijkingen van eerdere beslissingspatronen opspoort of een voorbereidende taak uitvoert. Een systeem dat natuurlijke personen profileert, is altijd hoogrisico. Beroep je je als aanbieder op de uitzondering, dan moet je je beoordeling documenteren voordat het systeem in de handel komt, en het systeem registreren.

Transparantieverplichtingen

Artikel 50 bepaalt dat mensen worden ingelicht als ze met een AI-systeem communiceren, dat synthetische audio, beelden, video of tekst als kunstmatig gegenereerd wordt gemarkeerd, dat gebruiksverantwoordelijken van emotieherkenning of biometrische categorisering de blootgestelde personen informeren en dat deepfakes bekend worden gemaakt. Die plichten kunnen bovenop elke andere klasse komen.

De rest

Systemen die in geen van deze categorieën vallen, zoals spamfilters of AI in videogames, hebben geen specifieke verplichtingen. Artikel 4 over AI-geletterdheid blijft wel gelden.

In de praktijk

Een Vlaamse bank gebruikt een AI-model om aanvragen voor consumentenkrediet te beoordelen. De kredietwaardigheidsbeoordeling van natuurlijke personen staat in bijlage III, punt 5, en het model maakt een profiel van de aanvrager, dus de uitzondering van artikel 6, lid 3 geldt niet. Het systeem is hoogrisico.

Dezelfde bank zet een chatbot in voor algemene vragen. Die staat niet in bijlage III en is dus geen hoogrisico, maar artikel 50 eist dat klanten te horen krijgen dat ze met een AI-systeem praten.

Een logistiek bedrijf gebruikt een AI-tool die binnenkomende facturen in mappen sorteert. De tool voert een louter voorbereidende taak uit zonder beslissing over personen en valt hoe dan ook niet onder een domein van bijlage III. Er gelden geen specifieke verplichtingen, behalve AI-geletterdheid.

Een wervingsbureau gebruikt software die cv's scoort. Dat valt onder werkgelegenheid in bijlage III en omvat profilering, dus het is hoogrisico. Zie AI bij werving en selectie.

Schrijf elke conclusie op, met de redenering erbij. Verwerkt een hoogrisicosysteem persoonsgegevens, dan heb je vaak ook een gegevensbeschermingseffectbeoordeling nodig.

Handig is een korte classificatienota per systeem: het beoogde doel, het domein uit bijlage III (indien van toepassing), de redenering over artikel 6, lid 3, de transparantieplichten die gelden en wie de conclusie heeft goedgekeurd. Verandert het systeem of het gebruik? Dan werk je de nota bij.

Veelgestelde vragen

Wanneer gelden de hoogrisicoregels?

Na Verordening (EU) 2026/1744 vanaf 2 december 2027 voor systemen uit bijlage III en vanaf 2 augustus 2028 voor systemen uit bijlage I. Verboden en transparantieplichten zijn niet uitgesteld. Zie de tijdlijn.

Kan de Commissie de lijsten wijzigen?

Ja. De Commissie kan bijlage III wijzigen via gedelegeerde handelingen en richtsnoeren over classificatie uitvaardigen, dus hou de lijsten in de gaten.

Wat als ik twijfel over de klasse?

Maak een gedocumenteerde beoordeling van het beoogde doel, het toepassingsgebied en het effect op personen. Blijft er twijfel, behandel het systeem dan als hoogrisico tot een jurist anders bevestigt.

Hangt de klasse af van het model of van het gebruik?

Van het gebruik. Hetzelfde onderliggende model kan in de ene toepassing minimaal risico hebben en in een andere hoogrisico.

Hoe dit samenhangt

Ons AI Act-register legt elke classificatie vast, samen met de artikelen waarop ze steunt, en in onze dienstverlening AI Act-compliance bevestigt een advocaat ze. Is een systeem hoogrisico, dan is de volgende vraag jouw rol, die aan bod komt in aanbieder of gebruiksverantwoordelijke.