Artikel 4 van de EU AI Act heeft een verplichting ingevoerd die minder aandacht heeft gekregen dan de vereisten voor hoog-risico AI of de verboden praktijken, maar die breed van toepassing is op alle organisaties die AI-systemen aanbieden of inzetten: de verplichting om adequate AI-geletterdheid te waarborgen. Providers en deployers moeten maatregelen nemen om te waarborgen dat hun personeel en eventuele andere personen die namens hen AI-systemen bedienen of gebruiken, over een voldoende niveau van AI-geletterdheid beschikken — gedefinieerd als vaardigheden, kennis en begrip die mensen in staat stellen om AI-systemen doordacht te gebruiken en zich bewust te zijn van de kansen en risico's die zij met zich meebrengen.
Deze verplichting is niet gekoppeld aan de vraag of de AI-systemen van een organisatie hoog-risico, beperkt-risico of minimaal-risico zijn. Zij is van toepassing op elke organisatie die binnen het toepassingsgebied van de AI Act valt omdat zij AI-systemen ontwikkelt of inzet, ongeacht hun risicoklassificatie. Voor veel organisaties is AI-geletterdheid al gedeeltelijk geadresseerd via interne trainingsprogramma's, technologie-onboarding of HR-initiatieven — maar deze zijn mogelijk niet ontworpen met de specifieke vereisten van de AI Act in gedachten, en zij kunnen lacunes vertonen in zowel technisch begrip, juridisch bewustzijn, of beide.
De AI Act specificeert geen uniforme AI-geletterdheidsstandaard. In plaats daarvan specificeert artikel 4 dat het passende geletterdheidsniveau afhankelijk is van de context: de technische kennis, ervaring, opleiding en training van de betrokken personen; de mate van hun betrokkenheid bij AI-systemen; en het type, de aard en het beoogde doel van de AI-systemen waarmee zij werken. Dit betekent dat AI-geletterdheid geen eenmalig te volgen trainingsmodule is — het is een geleidelijke, rolspecifieke competentievereiste die moet worden afgestemd op de feitelijke verantwoordelijkheden van elke categorie medewerkers.
Voor medewerkers die hoog-risico AI-systemen bedienen en beslissingen nemen of beïnvloeden op basis van hun output, omvat AI-geletterdheid: begrijpen hoe het systeem werkt op een niveau dat voldoende is om afwijkende outputs te identificeren; de beperkingen van het systeem, storingmodellen en de typen inputs waarvoor het slecht presteert kennen; weten hoe de mechanismen voor menselijk toezicht te activeren; en begrijpen wanneer zorgen over de prestaties of output van een systeem dienen te worden geëscaleerd. Voor managers die verantwoordelijk zijn voor AI-governance en nalevingsbeslissingen, betekent AI-geletterdheid het regelgevingskader begrijpen, de risicoklassificatie van inzette systemen kennen, en de verplichtingen die aan elk zijn verbonden. Voor technisch personeel dat AI-systemen ontwikkelt of configureert, betekent het zowel de technische vereisten van de AI Act als de ontwerpkeuzes begrijpen die de naleving beïnvloeden.
De AI-geletterdheidsplicht wordt systematisch onderschat in nalevingsprogramma's om drie redenen. Ten eerste is ze minder zichtbaar dan de hoog-risico AI-verplichtingen — ze staat niet in de grote koppen van de AI Act over conformiteitsbeoordelingen en verboden praktijken. Ten tweede vereist ze continue investering in mensen in plaats van een eenmalige documentatieoefening, wat het moeilijker maakt om haar als afvinkpunt te behandelen. Ten derde zijn haar vereisten contextueel en gradueel, wat betekent dat er geen kant-en-klare oplossing is — elk AI-geletterdheidsregisterprogramma van een organisatie moet worden afgestemd op haar specifieke AI-portfolio en personeelsbestand.
De commerciële en operationele gevolgen van onvoldoende AI-geletterdheid reiken verder dan regelgevingsblootstelling. Organisaties waarvan het personeel de AI-systemen waarmee zij werken niet begrijpt, nemen slechtere beslissingen: zij vertrouwen te sterk op AI-outputs zonder hun beperkingen te herkennen, slagen er niet in te identificeren wanneer een systeem bevooroordeelde of onjuiste resultaten produceert, en missen de signalen die menselijke interventie of systeembeoordeling zouden moeten triggeren. AI-geletterdheid is niet alleen een nalevingsvereiste — het is een voorwaarde voor het realiseren van waarde uit AI-inzet terwijl de operationele en reputatierisico's die slecht begrepen AI creërt, worden beheerd.
Een effectief AI-geletterdheids-programma heeft vier componenten. Ten eerste, een geletterdheidsaudit: het in kaart brengen van de AI-systemen van de organisatie tegenover de personeelsrollen die ermee in contact komen, het identificeren van de competentievereisten voor elke rol, en het beoordelen van de huidige geletterdheidsniveaus aan de hand van die vereisten. Ten tweede, rolspecifieke training: het ontwerpen of sourcen van trainingsinhoud die de in de audit geïdentificeerde specifieke kennislacunes adresseert, afgestemd op elke rolcategorie (technisch personeel, operationeel personeel, management, governance-functies). Ten derde, documentatie: het bijhouden van dossiers van de genomen geletterdheidmaatregelen, de verstrekte training en de beoordeelde competentieniveaus — de AI Act vereist dat dit aantoonbaar is. Ten vierde, continue evaluatie: AI-systemen en hun gebruik evolueren; geletterdheids-programma's moeten worden bijgewerkt wanneer systemen veranderen, wanneer nieuwe systemen worden ingezet en wanneer het regelgevingskader zich ontwikkelt.
Ja. De geletterdheidsplicht van artikel 4 is van toepassing op alle providers en deployers binnen het toepassingsgebied van de AI Act, niet alleen op degenen die hoog-risico systemen exploiteren. Een organisatie die uitsluitend minimaal-risico AI gebruikt (spamfilters, aanbevelingsengines, eenvoudige chatbots) heeft nog steeds de verplichting om te waarborgen dat het relevante personeel over een voldoende geletterdheidsniveau beschikt om die systemen doordacht te gebruiken en hun kansen en risico's te begrijpen. De vereiste diepgang van geletterdheid is lager voor minimaal-risico systemen dan voor hoog-risico systemen, maar de verplichting bestaat.
Documentatie van AI-geletterdheidmaatregelen dient te registreren: welke rollen zijn geïdentificeerd als geletterdheid-vereisend, de specifieke geletterdheids-vereisten voor elke rol, de verstrekte training of andere genomen maatregelen, de data en het gedekte personeel, en enige beoordeling of de maatregelen toereikend zijn. Deze documentatie dient te worden bijgehouden als onderdeel van de AI-governancedossiers van de organisatie en dient op verzoek beschikbaar te zijn voor markttoezichthouders of gegevensbeschermingsautoriteiten.
Het niet nemen van adequate maatregelen om AI-geletterdheid te waarborgen is een schending van artikel 4 van de AI Act. Als schending van een andere bepaling dan de verboden praktijken is zij onderworpen aan boetes van maximaal €15 miljoen of 3% van de jaarlijkse mondiale omzet, naargelang welke hoger is. In de praktijk zal de handhaving van de geletterdheidsplicht zich waarschijnlijk richten op systemisch falen — organisaties zonder geletterdheids-programma en zonder gedocumenteerde maatregelen — in plaats van op marginale tekortkomingen in de trainingsinhoud. Maar het ontbreken van enig gedocumenteerd programma is een duidelijke nalevingslacune.
Ja, en dit is vaak efficiënt. De geletterdheids-vereisten van de AI Act overlappen aanzienlijk met de GDPR-trainingsverplichtingen in de context van AI — beide vereisen dat medewerkers begrijpen hoe AI-systemen persoonsgegevens verwerken, wat geautomatiseerde besluitvorming betekent en hoe zij verzoeken van betrokkenen moeten afhandelen. Een gecombineerd AI-geletterdheids- en gegevensbeschermingsprogramma kan de vereisten van beide kaders tegelijkertijd adresseren, terwijl het waarborgt dat medewerkers begrijpen hoe de AI Act en de GDPR in de praktijk op elkaar inwerken, in plaats van ze als afzonderlijke regelgevingssystemen te behandelen.
%402x.svg){kind=small}
%402x.svg){kind=icon}
%402x.svg){kind=icon}
