Hoog-risico AI-systemen staan centraal in de Europese AI-verordening (Verordening (EU) 2024/1689), doorgaans aangeduid als de AI Act, die een risicogebaseerd kader introduceert voor het ontwikkelen, aanbieden en gebruiken van systemen met kunstmatige intelligentie (AI). Hoe hoger het risico voor gezondheid, veiligheid en grondrechten, hoe zwaarder de verplichtingen.
Voor organisaties begint naleving daarom niet bij het opstellen van technische documentatie, maar bij een juiste classificatie. Eerst moet worden vastgesteld welke AI-systemen binnen de organisatie worden ontwikkeld, ingekocht of gebruikt. Vervolgens moet worden beoordeeld of een systeem verboden is, hoog risico vormt, onder transparantieverplichtingen valt of buiten specifieke verplichtingen blijft.
In deze blog bespreken wij wanneer een AI-systeem als hoog risico kan worden aangemerkt, welke verplichtingen gelden voor aanbieders en gebruiksverantwoordelijken en welke stappen organisaties nu al kunnen zetten. Ook komt de actuele tijdlijn aan bod, waaronder de wijzigingen uit het Digital Omnibus-traject. Peildatum van dit artikel is 25 juli 2026.
Wanneer is een AI-systeem hoog risico?
De beoordeling van hoog-risico AI-systemen vindt in hoofdzaak plaats aan de hand van artikel 6 en de Bijlagen I en III van de AI Act. Er zijn twee routes.
De eerste route ziet op AI-systemen die onderdeel zijn van producten waarop de in Bijlage I genoemde Europese productregelgeving van toepassing is en waarvoor een conformiteitsbeoordeling door een derde partij is vereist. Denk aan bepaalde medische hulpmiddelen, machines, liften en speelgoed. Voor deze systemen sluit de AI Act aan bij het bestaande conformiteitsbeoordelingstraject.
De tweede route betreft AI-systemen die worden gebruikt in de in Bijlage III genoemde domeinen: biometrie, kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, toegang tot essentiële particuliere en publieke diensten, rechtshandhaving, migratie, asiel en grensbeheer, en rechtspleging en democratische processen. Niet ieder gebruik binnen zo’n domein leidt automatisch tot classificatie als hoog-risico AI-systemen: ook de concrete functie van het systeem en de voorwaarden van artikel 6 moeten worden beoordeeld.
De uitzondering van artikel 6 lid 3
Een systeem dat binnen een Bijlage III-domein valt, hoeft niet automatisch tot de hoog-risico AI-systemen te worden gerekend wanneer het geen wezenlijk risico vormt voor de gezondheid, veiligheid of grondrechten van personen en de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. Dat kan aan de orde zijn wanneer het systeem uitsluitend een enge, procedurele taak vervult, een reeds door een mens verrichte activiteit slechts verbetert, enkel afwijkingen ten opzichte van eerdere menselijke besluitvorming signaleert zonder die beoordeling te vervangen, of uitsluitend een voorbereidende taak uitvoert.
Een beroep op deze uitzondering moet zorgvuldig worden gemotiveerd en gedocumenteerd. De organisatie legt dus niet alleen de conclusie vast, maar ook de feiten en de beoordeling waarop die conclusie berust. Een aanbieder die meent dat een Bijlage III-systeem niet tot de hoog-risico AI-systemen behoort, moet die beoordeling documenteren vóórdat het systeem op de markt wordt gebracht of in gebruik wordt genomen, en is daarnaast onderworpen aan de registratieverplichting van artikel 49 lid 2.
Op één punt is de verordening absoluut. Artikel 6 lid 3 bepaalt dat een in Bijlage III genoemd AI-systeem altijd wordt gerekend tot de hoog-risico AI-systemen wanneer het profilering van natuurlijke personen verricht. De uitzondering kan in dat geval niet worden ingeroepen.
Welke rol heeft uw organisatie?
De AI Act onderscheidt verschillende rollen in de keten. Voor de meeste organisaties zijn twee daarvan van belang. Wie een AI-systeem ontwikkelt of onder eigen naam of merk op de markt brengt, geldt als aanbieder. Wie een AI-systeem gebruikt in het kader van de eigen bedrijfsvoering zonder het zelf te hebben ontwikkeld, geldt doorgaans als gebruiksverantwoordelijke.
Die rolverdeling is niet statisch. Een organisatie die een ingekocht systeem substantieel wijzigt, het onder eigen naam of merk doorlevert, of het beoogde doel ervan verandert, kan alsnog als aanbieder worden aangemerkt en daarmee onder het zwaardere verplichtingenpakket vallen. Stel daarom per systeem vast welke rol u vervult, en leg die vaststelling vast.
De belangrijkste verplichtingen
Voor aanbieders van hoog-risico AI-systemen gelden onder meer de verplichtingen uit de artikelen 8 tot en met 17, 43 en 47 tot en met 49:
- een risicomanagementsysteem dat de gehele levenscyclus bestrijkt
- datagovernance, waaronder het opsporen en corrigeren van vertekeningen in de gebruikte gegevens, waaronder trainings-, validatie- en testgegevens
- technische documentatie conform Bijlage IV en registratie van gebeurtenissen (logging)
- duidelijke gebruiksinstructies voor gebruiksverantwoordelijken
- een ontwerp dat doeltreffend menselijk toezicht mogelijk maakt
- eisen op het gebied van nauwkeurigheid, robuustheid en cyberbeveiliging
- een kwaliteitsmanagementsysteem, een conformiteitsbeoordeling, een EU-conformiteitsverklaring, CE-markering en registratie in de EU-databank
Voor hoog-risico AI-systemen voor biometrische identificatie op afstand als bedoeld in Bijlage III, punt 1, onder a, stelt artikel 14 lid 5 een aanvullende eis aan het menselijk toezicht: er mag geen actie of besluit op de identificatie worden gebaseerd zonder afzonderlijke verificatie en bevestiging door ten minste twee natuurlijke personen die daartoe bekwaam, opgeleid en bevoegd zijn. Dit staat bekend als het vier-ogen-principe.
Voor gebruiksverantwoordelijken gelden de lichtere, maar niet minder belangrijke verplichtingen van de artikelen 26 en 27: gebruik conform de gebruiksinstructies, bekwaam menselijk toezicht, monitoring van het functioneren, melding van risico’s en ernstige incidenten, en het bewaren van de logbestanden gedurende ten minste zes maanden. Werknemers die met het systeem gaan werken en de personen op wie het wordt toegepast, moeten vooraf worden geïnformeerd.
Bepaalde gebruiksverantwoordelijken moeten daarnaast een grondrechteneffectbeoordeling uitvoeren, de Fundamental Rights Impact Assessment van artikel 27. Dit geldt in ieder geval voor publiekrechtelijke instellingen, voor private aanbieders van publieke diensten, en voor gebruiksverantwoordelijken die systemen inzetten voor kredietscoring of voor het beoordelen van verzekeringsrisico’s bij levens- en zorgverzekeringen.
Tijdlijn en actuele status
De AI Act is op 1 augustus 2024 in werking getreden en wordt gefaseerd van toepassing. Voor de praktijk is het van belang onderscheid te maken tussen verplichtingen die al gelden, verplichtingen met een toekomstige toepassingsdatum, en aangekondigde wijzigingen waarvan de formele inwerkingtreding nog niet is voltooid.
Verboden praktijken (artikel 5): Van toepassing sinds 2 februari 2025
AI-geletterdheid (artikel 4): Van toepassing sinds 2 februari 2025
AI-modellen voor algemene doeleinden: Van toepassing sinds 2 augustus 2025
Transparantieverplichtingen (artikel 50): Van toepassing vanaf 2 augustus 2026; niet uitgesteld
Hoog risico via Bijlage III: Formeel nog 2 augustus 2026; na inwerkingtreding van de Omnibus uiterlijk 2 december 2027
Hoog risico via Bijlage I: Formeel nog 2 augustus 2027; na inwerkingtreding van de Omnibus uiterlijk 2 augustus 2028
De Europese Commissie publiceerde op 19 november 2025 het Digital Omnibus-pakket, met daarin een voorstel om de toepassing van de verplichtingen voor hoog-risico AI-systemen uit te stellen. Op 7 mei 2026 werd daarover een voorlopig politiek akkoord bereikt. Het Europees Parlement stemde op 16 juni 2026 in en de Raad gaf op 29 juni 2026 zijn definitieve goedkeuring.
Op de peildatum van dit artikel is de publicatie in het Publicatieblad van de Europese Unie echter nog niet voltooid. De wijziging treedt in werking op de derde dag na die publicatie. Tot dat moment blijft de oorspronkelijke tijdlijn van de AI Act het geldende recht, met 2 augustus 2026 als toepassingsdatum voor de hoog-risicoverplichtingen uit Bijlage III. Publicatie vóór die datum wordt algemeen verwacht, maar is op dit moment nog niet bevestigd.
Het uitstel is bovendien voorwaardelijk vormgegeven. De verplichtingen voor hoog-risico AI-systemen worden gekoppeld aan een besluit van de Commissie waarin wordt vastgesteld dat de benodigde geharmoniseerde normen en ondersteunende instrumenten beschikbaar zijn, met daarna een overgangstermijn. De genoemde data van 2 december 2027 en 2 augustus 2028 fungeren daarbij als uiterste vangnetdata, niet als eenvoudige verschuiving.
Twee punten verdienen aparte aandacht. Ten eerste zijn de transparantieverplichtingen van artikel 50 en de AI-geletterdheidsverplichting van artikel 4 niet uitgesteld: die blijven op hun oorspronkelijke tijdlijn staan. Ten tweede voegt het pakket een nieuw verbod toe in artikel 5, gericht op AI-toepassingen voor het genereren van niet-consensuele intieme beelden en op AI-gegenereerd materiaal van seksueel kindermisbruik.
Voor organisaties betekent dit dat plannen tegen december 2027 verstandig is, maar dat de vastlegging voorlopig moet worden ingericht alsof augustus 2026 nog bindt, totdat het Publicatieblad anders uitwijst.
Toezicht en sancties
In Nederland ontbreekt op de peildatum van dit artikel nog een uitvoeringswet voor de AI Act. Verwacht wordt dat de Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens een centrale, coördinerende rol krijgen, waarbij sectorale toezichthouders verantwoordelijk blijven binnen hun eigen domein. De precieze bevoegdheidsverdeling en de wettelijke verankering daarvan moeten echter worden vastgesteld aan de hand van de definitieve Nederlandse uitvoeringswetgeving.
De AI Act voorziet in artikel 99 in verschillende maximale boetecategorieën. De hoogte hangt af van de aard van de overtreding en, waar relevant, van de wereldwijde jaaromzet van de onderneming. Voor overtreding van de verboden praktijken van artikel 5 geldt het hoogste maximum; voor overtreding van de overige verplichtingen, waaronder die voor aanbieders en gebruiksverantwoordelijken van hoog-risico AI-systemen, geldt een lager maximum; en voor het verstrekken van onjuiste, onvolledige of misleidende informatie aan autoriteiten geldt het laagste. Voor het midden- en kleinbedrijf (mkb), waaronder start-ups, geldt een gunstiger regime. De concrete sanctie wordt bepaald met inachtneming van de toepasselijke sanctieregels en de omstandigheden van het geval.
Praktisch stappenplan
- Inventariseer alle AI-systemen die uw organisatie ontwikkelt, inkoopt of gebruikt.
- Stel per systeem vast welke rol u vervult: aanbieder of gebruiksverantwoordelijke.
- Bepaal per systeem de risicocategorie en documenteer die beoordeling, inclusief een eventueel beroep op de uitzondering van artikel 6 lid 3.
- Richt AI-governance in en wijs een verantwoordelijke functionaris aan.
- Borg de AI-geletterdheid van medewerkers die met deze systemen werken; die verplichting geldt al.
- Bereid de transparantiemaatregelen van artikel 50 voor met het oog op 2 augustus 2026.
- Start tijdig met de technische documentatie en, waar vereist, de grondrechteneffectbeoordeling.
- Toets leverancierscontracten op rolverdeling, informatieverstrekking en auditrechten.
- Houd de publicatie van het Omnibus-pakket in het Publicatieblad in de gaten en pas uw planning daarop aan.
Conclusie
De AI Act raakt de wijze waarop organisaties AI ontwikkelen, inkopen en gebruiken fundamenteel. Het aangekondigde uitstel van de hoog-risicoverplichtingen biedt extra tijd, maar is op dit moment nog geen geldend recht, en de verplichtingen die al gelden of op 2 augustus 2026 ingaan zijn daardoor niet geraakt. Een prudente aanpak is dan ook om te plannen tegen de nieuwe data en tegelijk voorbereid te zijn op de oude. Voor een breder overzicht van de regelgeving, zie onze De AI-verordening: Volledige Gids, die dit artikel over hoog-risico AI-systemen aanvult.
Law & More helpt organisaties bij het inventariseren en classificeren van hun AI-systemen, het bepalen van hun rol als aanbieder of gebruiksverantwoordelijke, het beoordelen en opstellen van contracten met AI-leveranciers en de inrichting van AI-governance. Wilt u weten welke verplichtingen op dit moment op uw organisatie rusten en welke stappen prioriteit verdienen? Neem gerust contact op voor een vrijblijvend gesprek.
Veelgestelde vragen
Hieronder beantwoorden wij de vragen die ons over dit onderwerp het vaakst worden gesteld.
Wat is de AI Act?
De Europese AI-verordening (Verordening (EU) 2024/1689). Zij is op 1 augustus 2024 in werking getreden en wordt gefaseerd van toepassing, met verplichtingen die zwaarder worden naarmate het risico van een AI-systeem groter is.
Wanneer is een AI-systeem hoog risico?
Via twee routes: als onderdeel van een product onder de in Bijlage I genoemde productregelgeving, of bij gebruik binnen een van de in Bijlage III genoemde domeinen. In dat laatste geval is het domein alleen niet beslissend; ook de concrete functie en de voorwaarden van artikel 6 tellen mee.
Kan een Bijlage III-systeem toch buiten de hoog-risicocategorie vallen?
Ja, wanneer het geen wezenlijk risico vormt en de besluitvorming niet wezenlijk beïnvloedt, bijvoorbeeld bij een enge procedurele of uitsluitend voorbereidende taak. Die beoordeling moet worden gedocumenteerd. Verricht het systeem profilering van natuurlijke personen, dan is de uitzondering nooit van toepassing.
Ben ik aanbieder of gebruiksverantwoordelijke?
U bent aanbieder als u het systeem ontwikkelt of onder eigen naam of merk op de markt brengt, en doorgaans gebruiksverantwoordelijke als u een ingekocht systeem gebruikt. Wijzigt u een ingekocht systeem substantieel of levert u het onder eigen naam door, dan kunt u alsnog aanbieder worden.
Welke verplichtingen gelden voor aanbieders?
Onder meer risicomanagement, datagovernance, technische documentatie, logging, gebruiksinstructies, menselijk toezicht, eisen rond nauwkeurigheid en cyberbeveiliging, een kwaliteitsmanagementsysteem, een conformiteitsbeoordeling, CE-markering en registratie in de EU-databank.
Welke verplichtingen gelden voor gebruiksverantwoordelijken?
Gebruik conform de instructies, bekwaam menselijk toezicht, monitoring, melding van risico’s en ernstige incidenten, en bewaring van logbestanden gedurende ten minste zes maanden. Betrokken werknemers en de personen op wie het systeem wordt toegepast, moeten vooraf worden geïnformeerd.
Wanneer moet een grondrechteneffectbeoordeling worden uitgevoerd?
Artikel 27 verplicht daartoe onder meer publiekrechtelijke instellingen, private aanbieders van publieke diensten en gebruiksverantwoordelijken die systemen inzetten voor kredietscoring of voor het beoordelen van verzekeringsrisico’s bij levens- en zorgverzekeringen.
Zijn de hoog-risicoverplichtingen uitgesteld?
Er ligt een aangenomen wijziging die de toepassing uitstelt tot uiterlijk 2 december 2027 voor Bijlage III en 2 augustus 2028 voor Bijlage I. Op de peildatum van dit artikel is die wijziging nog niet in het Publicatieblad gepubliceerd, zodat de oorspronkelijke datum van 2 augustus 2026 formeel nog geldt.
Wat geldt op dit moment al wel?
De verboden praktijken van artikel 5 en de AI-geletterdheidsverplichting sinds 2 februari 2025, en de regels voor AI-modellen voor algemene doeleinden sinds 2 augustus 2025. De transparantieverplichtingen van artikel 50 gaan in op 2 augustus 2026 en zijn niet uitgesteld.
Wie houdt in Nederland toezicht?
Een uitvoeringswet ontbreekt nog. Verwacht wordt dat de Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens een centrale, coördinerende rol krijgen, naast sectorale toezichthouders. De definitieve bevoegdheidsverdeling volgt uit de Nederlandse uitvoeringswetgeving.
Wat moet mijn organisatie nu doen?
Begin met een inventarisatie van alle AI-systemen die u ontwikkelt, inkoopt of gebruikt. Leg per systeem vast welke rol u heeft, welke risicocategorie van toepassing is en welke verplichtingen daaruit volgen. Richt daarnaast AI-governance in, borg de AI-geletterdheid en controleer leverancierscontracten op rolverdeling, informatieverstrekking en auditrechten.
