Gepubliceerd op 9 november 2025 · Laatst bijgewerkt op 9 oktober 2026
Een school die AI-tools gebruikt, is onder de AI-verordening (Verordening (EU) 2024/1689) meestal gebruiksverantwoordelijke en moet sinds 2 februari 2025 zorgen voor AI-geletterdheid van haar personeel. Alleen AI die toelating, beoordeling, niveauplaatsing of toetstoezicht regelt, geldt als hoog risico; voor die systemen gelden de zwaarste eisen vanaf 2 december 2027.
Daarnaast blijft de AVG volledig van toepassing op elke AI-tool die gegevens van leerlingen of medewerkers verwerkt. In dit artikel leest u welke regels gelden, welke toepassingen verboden zijn en wat een school concreet moet regelen.
Inhoudsopgave
Welke rol heeft een school onder de AI-verordening?
De AI-verordening onderscheidt de aanbieder, die een AI-systeem ontwikkelt of op de markt brengt, en de gebruiksverantwoordelijke, die het systeem onder eigen verantwoordelijkheid inzet. Een school die een chatbot, adaptief leerplatform of nakijktool van een leverancier gebruikt, is gebruiksverantwoordelijke.
Een school wordt zelf aanbieder als zij een AI-systeem laat ontwikkelen en onder eigen naam in gebruik neemt, of een bestaand hoog-risicosysteem ingrijpend wijzigt (artikel 25 AI-verordening). Dan gelden veel zwaardere eisen, zoals een conformiteitsbeoordeling. Leg daarom per tool vast welke rol de school heeft. Meer over de verordening zelf leest u in onze gids over de AI Act.
Wat houdt de plicht tot AI-geletterdheid in?
Artikel 4 AI-verordening verplicht aanbieders en gebruiksverantwoordelijken om de AI-geletterdheid te bevorderen van medewerkers die met AI-systemen werken. Die plicht geldt sinds 2 februari 2025 en is gericht op personeel en andere mensen die namens de school AI gebruiken, niet rechtstreeks op leerlingen.
Sinds de wijziging door de Digital Omnibus on AI (Verordening (EU) 2026/1744) schrijft artikel 4 geen vast kennisniveau meer voor. De school moet wel passende maatregelen nemen, afgestemd op de kennis van de medewerkers en de manier waarop zij de tools gebruiken. Denk aan een korte training voor docenten die AI-nakijktools gebruiken en een interne richtlijn over wat wel en niet in een chatbot mag worden ingevoerd. Leg vast wat de school heeft gedaan; dat helpt bij vragen van de toezichthouder.
Welke AI-toepassingen in het onderwijs zijn hoog risico?
Niet elke AI in de klas is hoog risico. Bijlage III, punt 3 van de AI-verordening noemt vier specifieke toepassingen in onderwijs en beroepsopleiding:
- AI die bepaalt of iemand wordt toegelaten tot een opleiding of in welke instelling of opleiding hij wordt geplaatst;
- AI die leerresultaten beoordeelt, ook als die beoordeling het leerproces stuurt;
- AI die beoordeelt welk onderwijsniveau iemand krijgt of kan volgen;
- AI die tijdens toetsen en examens ongeoorloofd gedrag van leerlingen of studenten opspoort, zoals online proctoring.
Een algemene chatbot die docenten helpt lessen voor te bereiden, valt daar meestal niet onder. Ook een systeem uit deze lijst is geen hoog risico als het slechts een beperkte voorbereidende taak uitvoert en het menselijke oordeel niet wezenlijk beïnvloedt (artikel 6 lid 3), maar die uitzondering geldt niet als het systeem mensen profileert.
Door de Digital Omnibus on AI gelden de verplichtingen voor deze hoog-risicosystemen pas vanaf 2 december 2027 in plaats van 2 augustus 2026.
Welke AI-toepassingen zijn verboden op school?
Sinds 2 februari 2025 is emotieherkenning in onderwijsinstellingen verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 sub f AI-verordening). Een systeem dat via de webcam meet of leerlingen zich vervelen of gestrest zijn, mag een school dus niet inzetten.
Ook andere verboden van artikel 5 gelden voor scholen, zoals manipulatieve technieken die misbruik maken van de kwetsbaarheid van kinderen en biometrische categorisering op grond van gevoelige kenmerken. Op overtreding van de verboden staan de hoogste boetes van de verordening.
Wat moet een school doen bij een hoog-risicosysteem?
Als gebruiksverantwoordelijke moet de school het systeem volgens de gebruiksaanwijzing van de aanbieder gebruiken en zorgen voor menselijk toezicht door bekwame medewerkers (artikel 26 AI-verordening). Ook moet zij de werking volgen, ernstige incidenten melden en automatisch gegenereerde logs ten minste zes maanden bewaren.
Verder moet de school leerlingen en ouders informeren als een hoog-risicosysteem helpt bij een beslissing over hen (artikel 26 lid 11). Publiekrechtelijke instellingen en private organisaties die een openbare dienst verlenen, moeten vóór gebruik bovendien een beoordeling van de gevolgen voor de grondrechten uitvoeren (artikel 27). Een leerling heeft daarnaast recht op uitleg over de rol van het systeem bij een beslissing die hem aanzienlijk raakt (artikel 86).
Wanneer moet een school transparant zijn over AI?
Vanaf 2 augustus 2026 gelden de transparantieregels van artikel 50 AI-verordening. Aanbieders moeten chatbots zo ontwerpen dat gebruikers weten dat zij met AI communiceren, en gebruiksverantwoordelijken moeten deepfakes als zodanig herkenbaar maken.
Voor een school betekent dit onder meer: maak duidelijk wanneer leerlingen of ouders met een chatbot praten, en vermeld het als beeld- of geluidsmateriaal met AI is gemaakt of bewerkt. Leg in het schoolbeleid vast hoe docenten en leerlingen AI mogen gebruiken, bijvoorbeeld bij werkstukken en toetsen. Zie ook ons artikel over de juridische risico’s van AI op de werkvloer.
Welke AVG-regels gelden bij AI-tools?
Verwerkt een AI-tool persoonsgegevens van leerlingen of medewerkers, dan heeft de school een grondslag nodig (artikel 6 AVG) en sluit zij een verwerkersovereenkomst met de leverancier (artikel 28 AVG). Bij nieuwe technologie met gevoelige gegevens of gegevens van kinderen is vaak eerst een DPIA nodig (artikel 35 AVG).
Controleer ook of de leverancier ingevoerde gegevens gebruikt om zijn eigen model te trainen en of gegevens buiten de Europese Economische Ruimte worden opgeslagen. Een volledig geautomatiseerd besluit met grote gevolgen voor een leerling, zoals een afwijzing zonder menselijke tussenkomst, is in beginsel verboden (artikel 22 AVG). Meer hierover leest u in ons artikel over het verwerkingsregister en de DPIA.
Waar let u als school op bij een AI-tool?
- Maak een overzicht van alle AI-tools in gebruik en bepaal per tool of de school aanbieder of gebruiksverantwoordelijke is.
- Toets per tool of het onder bijlage III, punt 3 valt of onder een verbod van artikel 5.
- Controleer of er een verwerkersovereenkomst is en of de leverancier gegevens voor training gebruikt.
- Voer bij gevoelige gegevens of gegevens van kinderen een DPIA uit vóór ingebruikname.
- Leg de maatregelen voor AI-geletterdheid van medewerkers schriftelijk vast.
Wat kunnen wij voor u doen bij AI in het onderwijs?
Onze advocaten ICT-recht adviseren schoolbesturen en onderwijsinstellingen over de AI-verordening en de AVG.
- Wij beoordelen per AI-tool of het een hoog-risicosysteem is onder bijlage III, punt 3, of onder een verbod van artikel 5 valt.
- Wij toetsen contracten en verwerkersovereenkomsten met AI-leveranciers aan artikel 28 AVG en artikel 26 AI-verordening.
- Wij begeleiden een DPIA en, waar nodig, een beoordeling van de gevolgen voor de grondrechten op grond van artikel 27.
- Wij stellen een AI-beleid en een richtlijn voor AI-geletterdheid op die aansluit bij artikel 4.
- Wij adviseren over de transparantieplichten van artikel 50 en de informatieplicht tegenover leerlingen en ouders.
Samengevat
- Een school is meestal gebruiksverantwoordelijke en moet sinds 2 februari 2025 de AI-geletterdheid van haar medewerkers bevorderen.
- Alleen AI voor toelating, beoordeling, niveauplaatsing en toetstoezicht is hoog risico (bijlage III, punt 3); die eisen gelden vanaf 2 december 2027.
- Emotieherkenning in het onderwijs is verboden, behalve om medische of veiligheidsredenen.
- De transparantieregels voor chatbots en deepfakes gelden vanaf 2 augustus 2026.
- De AVG blijft gelden: grondslag, verwerkersovereenkomst en vaak een DPIA.
Veelgestelde vragen
Is ChatGPT in de klas een hoog-risicosysteem?
Meestal niet. Een algemene chatbot wordt pas hoog risico als de school hem inzet voor een toepassing uit bijlage III, punt 3, zoals het beoordelen van leerresultaten.
Moeten leerlingen ook AI-geletterd zijn?
Artikel 4 richt zich op medewerkers en andere mensen die namens de school AI gebruiken. Aandacht voor AI-vaardigheden van leerlingen is verstandig, maar volgt niet rechtstreeks uit artikel 4.
Mag een school online proctoring met AI gebruiken?
Ja, maar het is een hoog-risicotoepassing (bijlage III, punt 3 sub d) en vereist daarnaast een grondslag en meestal een DPIA onder de AVG. Emotieherkenning tijdens de toets is verboden.
Wie houdt toezicht op AI in het onderwijs?
De Autoriteit Persoonsgegevens houdt toezicht op de AVG en speelt samen met de Rijksinspectie Digitale Infrastructuur een coördinerende rol bij het toezicht op AI.
