De hamvraag "kan een algoritme (mede)strafrechtelijk verantwoordelijk zijn?" heeft eigenlijk een kort en bondig antwoord: nee, een algoritme kan niet de gevangenis in. Software heeft geen rechtspersoonlijkheid en kan daarom niet strafrechtelijk worden vervolgd. De verantwoordelijkheid ligt altijd bij de mensen of organisaties áchter de technologie.

Waarom een algoritme geen verdachte kan zijn

Het idee dat een stuk code voor de rechter moet verschijnen, klinkt als iets uit een sciencefictionfilm. Toch is de vraag heel relevant, want AI-systemen nemen steeds vaker beslissingen met grote gevolgen. Denk aan een zelfrijdende auto die een fataal ongeluk veroorzaakt of een medisch algoritme dat een verkeerde diagnose stelt met ernstige gevolgen.

In zulke gevallen kijken we niet naar de software zelf, maar naar de menselijke actoren die erbij betrokken zijn. Het Nederlandse strafrecht is namelijk volledig gebouwd op het principe dat alleen (rechts)personen strafbare feiten kunnen plegen. Een algoritme kan geen opzet hebben of schuld dragen in de juridische zin van het woord; het mist bewustzijn en een eigen wil. De focus verschuift daarom naar de vraag aan wie de handeling van de AI kan worden toegerekend.

Toerekening: de sleutel tot verantwoordelijkheid

Toerekening is het juridische mechanisme waarmee een handeling van een AI wordt gekoppeld aan een persoon of organisatie. De schuldvraag wordt als het ware verplaatst van de machine naar de mens. Hierbij komen verschillende partijen in beeld, elk met een eigen potentiële verantwoordelijkheid.

Wie kan er dan verantwoordelijk worden gehouden? De meest voor de hand liggende partijen zijn:

• De ontwikkelaar: Had de programmeur kunnen of moeten voorzien dat zijn code tot een strafbaar feit kon leiden? Was er sprake van grove nalatigheid bij het ontwerpen of testen?

• De gebruiker: Heeft een organisatie het AI-systeem ingezet voor een doel waarvoor het niet bedoeld was, of werden duidelijke waarschuwingen en veiligheidsvoorschriften genegeerd?

• De operator: Heeft de persoon die het systeem op dat moment bediende een cruciale fout gemaakt of onvoldoende toezicht gehouden?

Dit concept is overigens niet nieuw. We passen het al decennialang toe op andere complexe technologieën. Een autofabrikant kan bijvoorbeeld aansprakelijk zijn voor een productiefout in een remsysteem, zelfs als de bestuurder uiteindelijk degene was die het ongeluk veroorzaakte.

"Een AI-systeem is in de ogen van het recht niet meer dan een geavanceerd instrument, vergelijkbaar met een hamer of een auto. Het is het gebruik – of het gebrekkige ontwerp – van dat instrument dat tot strafrechtelijke aansprakelijkheid kan leiden, nooit het instrument zelf."

De vraag is dus niet of een algoritme medeverantwoordelijk kan zijn, maar wie er verantwoordelijk is voor het algoritme. Deze verschuiving vormt het fundament voor de rest van dit artikel, waarin we dieper ingaan op de specifieke rollen en de juridische criteria voor opzet en schuld.

Verdeling van verantwoordelijkheid bij AI-incidenten

Om een beter beeld te geven van hoe de verantwoordelijkheid verdeeld kan worden, hebben we een overzicht gemaakt. De tabel hieronder laat zien welke partijen betrokken kunnen zijn en op welke juridische gronden hun aansprakelijkheid mogelijk gebaseerd is.

Betrokken partij	Rol in het proces	Mogelijke basis voor aansprakelijkheid
Ontwikkelaar/Producent	Creëert het AI-systeem en brengt het op de markt.	Productaansprakelijkheid, nalatigheid bij ontwerp, onvoldoende testen.
Gebruiker (bedrijf)	Implementeert het AI-systeem in bedrijfsprocessen.	Functioneel daderschap, onjuist gebruik, negeren van risico's.
Operator (individu)	Bedient het AI-systeem direct.	Culpa (schuld door onvoorzichtigheid), overtreden van protocollen.
Data-leverancier	Verstrekt de data waarmee de AI is getraind.	Leveren van gebrekkige, bevooroordeelde of onjuiste data.

Deze tabel is uiteraard een versimpeling. In de praktijk is de toerekening van schuld vaak een complexe puzzel waarbij de rollen en verantwoordelijkheden van meerdere partijen door elkaar lopen.

De mens achter de machine en de strafrechtelijke schuldvraag

Uiteindelijk ligt de verantwoordelijkheid voor de daden van een AI-systeem dus altijd bij een mens of een organisatie. Maar bij wie precies? Om te bepalen wie strafrechtelijk aansprakelijk is, moeten we de verschillende rollen in de levenscyclus van een algoritme ontleden. De juridische schuldvraag is immers geen bot instrument; het vereist een precieze analyse van wie wat deed, en vooral: wat wist die persoon of had hij moeten weten?

Deze analyse draait om twee centrale begrippen uit ons strafrecht: opzet en culpa. Opzet betekent dat iemand willens en wetens handelt of een bepaald gevolg op de koop toe neemt. Culpa, vaak omschreven als schuld, gaat over verwijtbare onvoorzichtigheid of nalatigheid. In de context van AI en strafrecht krijgen deze klassieke concepten een nieuwe, complexe lading.

De rol van de ontwikkelaar

De ontwikkelaar staat aan de wieg van het algoritme. Deze persoon of dit team schrijft de code, traint het model met data en legt de fundamentele logica van het systeem vast. Juist hier kan de kiem voor latere strafrechtelijke problemen worden gelegd.

Stel je een ontwikkelaar voor die een AI bouwt voor fraudedetectie bij een uitkeringsinstantie. Als hij bewust een dataset gebruikt waarvan hij weet dat deze bepaalde bevolkingsgroepen discrimineert, kan er sprake zijn van opzet. Hij weet dat het systeem onterecht mensen zal benadelen en aanvaardt dat gevolg bewust.

Maar wat als de ontwikkelaar niet bewust discrimineert, maar wel ernstig nalatig is? Denk aan de situatie waarin hij nalaat om de trainingsdata goed te controleren op vooroordelen, terwijl dat wel van hem verwacht mocht worden. Als het systeem daardoor foute beslissingen neemt, kan de ontwikkelaar culpoos (schuldig door onvoorzichtigheid) handelen.

De kernvraag voor de ontwikkelaar is: Heeft u redelijkerwijs alle te voorziene risico's in kaart gebracht en passende maatregelen genomen om schade te voorkomen? Het niet stellen van die vraag kan al de basis voor verwijtbaarheid vormen.

De gebruiker als eindverantwoordelijke

Een perfect ontworpen algoritme kan nog steeds voor onrechtmatige doelen worden ingezet. Hier verschuift de focus naar de gebruiker: de organisatie of persoon die het AI-systeem implementeert. Dit kan een overheidsdienst zijn, een ziekenhuis of een commercieel bedrijf.

De gebruiker heeft een eigen verantwoordelijkheid om te checken of de inzet van een AI-systeem wettelijk mag en ethisch verantwoord is.

• Opzet bij de gebruiker: Een opsporingsdienst die een voorspellend politiesysteem inzet met het doel om in een specifieke wijk extra te surveilleren, wetende dat dit leidt tot etnisch profileren. Het onrechtmatige gevolg (discriminatie) wordt hier bewust aanvaard.

• Culpa bij de gebruiker: Een bedrijf dat een AI-recruitmenttool koopt en implementeert zonder te controleren of het systeem is getest op genderbias. Als de tool vervolgens systematisch vrouwelijke kandidaten afwijst, kan het bedrijf verwijtbaar onzorgvuldig hebben gehandeld.

De gebruiker kan zich dus niet zomaar verschuilen achter de techniek. Het argument "het algoritme deed het" zal in een rechtszaal geen standhouden als de organisatie haar zorgplicht heeft verzaakt.

De operator en het directe toezicht

Tot slot is er de operator: de persoon die het AI-systeem dagelijks bedient. Denk aan de radioloog die de output van een medische scan-AI interpreteert of de politieagent die een alert van een slim camerasysteem opvolgt. Hoewel zij het systeem niet hebben ontworpen of geïmplementeerd, hebben ze wel een cruciale rol in het toezicht.

De strafrechtelijke verantwoordelijkheid van de operator komt in beeld wanneer het menselijk toezicht (human oversight) faalt. Als een AI-systeem duidelijke waarschuwingssignalen geeft dat een beslissing mogelijk onjuist is, en de operator deze signalen bewust of uit grove onoplettendheid negeert, kan hij of zij medeverantwoordelijk zijn voor de gevolgen.

De vraag kan een algoritme medeverantwoordelijk zijn? leidt ons dus onvermijdelijk terug naar de mensen. Of het nu de ontwikkelaar, de gebruiker of de operator is, het strafrecht zoekt altijd naar de menselijke handeling of nalatigheid die aan de basis van de schade ligt.

Hoe de EU AI Act het strafrecht beïnvloedt

De discussie over opzet en schuld bij het gebruik van AI blijft niet beperkt tot de rechtszaal. Ook de Europese wetgever heeft een flinke stap gezet om de meest riskante toepassingen van kunstmatige intelligentie aan banden te leggen. De nieuwe EU AI Act schept een juridisch kader dat directe gevolgen heeft voor het Nederlandse strafrecht, met name door bepaalde AI-systemen simpelweg te verbieden.

Je kunt deze wet zien als een verkeerslicht voor AI. Groen licht voor systemen met een laag risico, oranje voor hoog-risicosystemen waar strenge eisen voor gelden, en een permanent rood licht voor AI met een onaanvaardbaar risico. Het zijn juist deze verboden systemen die het strafrecht het meest direct raken. Het gebruik ervan kan op zichzelf al een onrechtmatige daad zijn.

De verboden zone van de AI Act

De EU AI Act trekt een harde lijn bij technologieën die onze fundamentele rechten en democratische waarden ondergraven. De gedachte is simpel: sommige AI-toepassingen zijn zó schadelijk dat ze geen plek mogen hebben in onze samenleving. Hiermee worden de grenzen van wat juridisch mag, flink aangescherpt.

Een paar van de meest relevante verboden praktijken op een rij:

• Social scoring door overheden: Systemen die burgers een score geven op basis van hun sociale gedrag of persoonlijke kenmerken, wat vervolgens leidt tot een nadelige behandeling.

• Manipulatieve AI: Technologie die het gedrag van mensen onbewust beïnvloedt en hen aanzet tot schadelijke beslissingen.

• Biometrische categorisatie: Het afleiden van gevoelige informatie zoals politieke voorkeur, ras of seksuele geaardheid uit biometrische data.

Deze verboden zijn allesbehalve abstract; ze hebben concrete gevolgen. Een overheidsinstantie die een social scoring-systeem zou gebruiken, handelt direct in strijd met de wet. Dat vormt een stevige basis voor strafrechtelijke vervolging van de verantwoordelijken.

De AI Act werkt als een soort preventieve maatregel binnen het strafrecht. Door de gevaarlijkste AI-toepassingen vooraf te verbieden, probeert de wetgever te voorkomen dat de schade überhaupt ontstaat.

Het verbod op voorspellend politiewerk

Een van de meest controversiële en voor het strafrecht relevante verboden, is dat op ‘predictive policing’ op basis van profilering. Dit raakt de kern van de vraag hoe technologie ingezet mag worden bij opsporing.

Vanaf 2 februari 2025 zijn bepaalde AI-systemen met een onaanvaardbaar risico verboden in de Europese Unie. Het verbod op 'risicobeoordeling van strafbare feiten' verbiedt specifiek het gebruik van AI om te voorspellen of iemand een strafbaar feit zal plegen, maar alleen als dit gebeurt op basis van profilering of persoonlijkheidskenmerken. Een systeem dat criminaliteit voorspelt op basis van objectieve locatiegegevens over eerdere inbraken is dus wél toegestaan. Een systeem dat dit doet op basis van iemands afkomst, sociale kring of psychologisch profiel daarentegen niet. Deze grens is cruciaal om discriminatie en stigmatisering tegen te gaan.

In Nederland is de Autoriteit Persoonsgegevens (AP) de waakhond die toezicht houdt op de naleving van deze regels. De AP kan onderzoeken instellen en boetes opleggen, wat de deur openzet voor verdere juridische stappen. Meer over de input van de AP leest u in hun oproep over de verbodsbepalingen van de AI-verordening.

De AI Act is dus veel meer dan een set technische regels. Het is een fundamentele wet die bepaalt welke rol AI mag spelen in onze maatschappij en die duidelijke rode lijnen trekt. Voor ontwikkelaars en gebruikers in het strafrechtelijke domein betekent dit dat de vraag ‘kan een algoritme medeverantwoordelijk zijn?’ wordt voorafgegaan door een nog belangrijkere vraag: ‘Mogen we dit algoritme überhaupt wel gebruiken?’.

De uitdaging van risicoclassificatie in de praktijk

De theorie achter de EU AI Act, met zijn duidelijke risiconiveaus, is één ding. De praktijk blijkt echter een stuk weerbarstiger. In Nederland zien we nu al een spanningsveld ontstaan tussen de wettelijke vereisten en hoe organisaties, en dan met name de overheid, hun algoritmes momenteel indelen.

Dit verschil tussen theorie en praktijk is cruciaal. Een foute risico-inschatting kan namelijk grote gevolgen hebben. Systemen die als ‘hoog-risico’ zouden moeten worden bestempeld, ontlopen dan de strenge eisen voor transparantie, toezicht en datakwaliteit. Dit ondermijnt niet alleen de bescherming van burgers, maar creëert ook juridische risico’s voor de organisaties zelf.

Het Nederlandse Algoritmeregister en de kritiek

Om meer transparantie te bieden, heeft de Nederlandse overheid het Algoritmeregister in het leven geroepen. Hierin moeten overheidsinstanties de algoritmes die zij gebruiken, openbaar maken. Het doel is nobel: burgers en toezichthouders inzicht geven in hoe de overheid geautomatiseerde beslissingen neemt.

Toch klinkt er kritiek. De manier waarop systemen worden geclassificeerd, lijkt niet altijd aan te sluiten bij de strenge definities van de AI Act. Een zorgwekkend signaal is dat overheidsinstanties zelf aangeven verrassend weinig hoog-risico AI te gebruiken.

Uit een analyse blijkt dat slechts ongeveer 3,5% van de systemen van ministeries werd geclassificeerd als hoog-risico. Dit percentage ligt aanzienlijk lager dan de schatting van de Europese Commissie, die uitgaat van circa 15%. Dit roept de vraag op of algoritmes stelselmatig te laag worden ingeschaald. Lees meer over deze bevindingen op njb.nl.

De Monocam van de politie als voorbeeld

Een perfect voorbeeld van deze classificatie-uitdaging is de Monocam van de Nederlandse politie. Dit is een slim camerasysteem dat bestuurders kan detecteren die tijdens het rijden een mobiel apparaat vasthouden. Gezien de context – rechtshandhaving en geautomatiseerde detectie in de openbare ruimte – zou je dit systeem onder de AI Act al snel als ‘hoog-risico’ bestempelen.

Toch gebeurde dit niet. In het Algoritmeregister werd de Monocam gepubliceerd als een ‘hoog-impact algoritme’, een Nederlandse term die niet dezelfde juridische gevolgen heeft als de ‘hoog-risico’ classificatie onder de EU-wetgeving.

Deze casus illustreert perfect het grijze gebied. Door een andere terminologie te gebruiken, worden de strenge wettelijke verplichtingen van de AI Act mogelijk omzeild. Voor de vraag "kan een algoritme medeverantwoordelijk zijn?" is dit relevant: een lagere classificatie betekent minder verplicht toezicht en documentatie, wat bewijsvoering in een strafzaak bemoeilijkt.

De uitdaging ligt dus niet alleen in het bouwen van eerlijke algoritmes, maar ook in het eerlijk en correct classificeren ervan. Volledige transparantie en een juiste risico-inschatting zijn geen bureaucratische formaliteiten; ze zijn essentieel voor democratische controle en het voorkomen van juridische problemen. Organisaties die hier te lichtzinnig mee omgaan, lopen het risico later alsnog geconfronteerd te worden met de juridische gevolgen van een systeem dat achteraf gezien wel degelijk als hoog-risico had moeten worden aangemerkt.

Algoritmes in de opsporing en de Nederlandse DNA-databank

De vraag wie verantwoordelijk is voor wat een AI-systeem doet, klinkt misschien wat abstract. Laten we het daarom concreet maken met een voorbeeld dat al jarenlang deel uitmaakt van de Nederlandse rechtspraktijk: de Nederlandse DNA-databank (NDD). Dit is geen toekomstmuziek, maar een systeem dat dagelijks een cruciale rol speelt in strafrechtelijke opsporing.

De NDD is de perfecte casus. Het laat zien hoe een algoritmisch systeem op grote schaal direct ingrijpt in de levens van mensen. Naarmate de opsporing zwaarder leunt op geautomatiseerde DNA-matches, wordt het steeds prangender om te bepalen wie de eindverantwoordelijkheid draagt als er iets misgaat.

De impact van geautomatiseerde DNA-matches

De NDD is de afgelopen jaren uitgegroeid tot een onmisbaar instrument. Het systeem vergelijkt DNA-profielen van sporen die op een plaats delict zijn gevonden met profielen van bekende personen in de databank. Dit proces is grotendeels geautomatiseerd en levert elke dag weer resultaten op die een strafzaak kunnen maken of breken.

Het succes van de databank is onmiskenbaar. In een recent jaar werden er maar liefst 3.727 matches gevonden tussen sporen en personen; dat zijn er gemiddeld tien per dag. Ook de effectiviteit neemt toe: zo’n 63% van het ingevoerde sporenmateriaal leidt inmiddels tot een match met een persoon. Meer details over deze cijfers zijn te vinden in het jaarbericht van het NFI.

Deze cijfers laten zien dat de invloed van het algoritme enorm is. Een ‘match’ is vaak het startschot voor een diepgaand onderzoek dat zich volledig richt op één specifieke verdachte.

Een DNA-match is geen onfeilbaar bewijs, maar wel een extreem krachtige aanwijzing die de koers van een onderzoek volledig kan bepalen. De betrouwbaarheid van het algoritme dat die matches produceert, is daarmee van fundamenteel juridisch en maatschappelijk belang.

Foutmarges en juridische gevolgen

Hoewel de technologie indrukwekkend betrouwbaar is, bestaat een perfect systeem niet. De kans op een valse match is extreem klein, maar is nooit nul. Zo’n fout kan allerlei oorzaken hebben:

• Menselijk handelen: Een verkeerd gelabeld monster of contaminatie in het laboratorium.

• Technische imperfecties: Onvolledige DNA-profielen of toevalstreffers, bijvoorbeeld bij verre familieleden.

• Algoritmische interpretatie: De manier waarop het algoritme de statistische waarschijnlijkheid van een match berekent.

Stel je voor dat een onterechte match leidt tot de aanhouding en vervolging van een onschuldig persoon. Dan komt de vraag naar verantwoordelijkheid ineens heel dichtbij. Ligt de schuld dan enkel bij de laborant die een monster verwisselde? Of kan ook de ontwikkelaar van het matchingsalgoritme worden aangesproken als blijkt dat het systeem bekende zwaktes had die niet goed waren afgedekt?

De casus van de NDD maakt pijnlijk duidelijk dat de vraag ‘kan een algoritme medeverantwoordelijk zijn?’ geen theoretische discussie is. Het is een actuele kwestie die raakt aan de fundamenten van onze rechtsstaat. Hoe meer we vertrouwen op geautomatiseerde systemen in het strafrecht, hoe zorgvuldiger we de verantwoordelijkheid moeten beleggen voor de momenten dat het misgaat.

Hoe kunt u juridische risico’s met AI minimaliseren?

We hebben de vraag “kan een algoritme medeverantwoordelijk zijn?” uitgebreid behandeld. Het antwoord is helder: nee, de software zelf kan niet worden vervolgd. De strafrechtelijke verantwoordelijkheid ligt altijd bij de mensen en organisaties die erachter zitten, zoals de ontwikkelaar, gebruiker of operator. De EU AI Act trekt bovendien duidelijke grenzen voor wat überhaupt is toegestaan.

Nu de theorie duidelijk is, rijst de praktische vraag: hoe kunt u als organisatie de juridische risico’s tot een minimum beperken? Het ontwikkelen of inzetten van AI hoeft geen juridisch mijnenveld te zijn, mits u een proactieve en verantwoorde aanpak kiest. Uiteindelijk draait het allemaal om controle, transparantie en het maken van weloverwogen keuzes.

De volgende stappen zijn geen garantie tegen incidenten, maar ze verkleinen de kans op strafrechtelijke aansprakelijkheid aanzienlijk. Ze laten zien dat u uw zorgplicht serieus neemt en niet blindelings op de technologie vertrouwt.

Zorg altijd voor menselijk toezicht

De allerbelangrijkste stap is het waarborgen van betekenisvol menselijk toezicht, ook wel human oversight genoemd. Een AI-systeem mag nooit de uiteindelijke beslissing nemen in situaties met grote gevolgen, zoals in de context van het strafrecht. Een mens moet altijd de eindverantwoordelijkheid dragen en de output van een algoritme kunnen overrulen.

Dit betekent dat er een persoon moet zijn die de context begrijpt, de aanbeveling van de AI kritisch kan beoordelen en de autoriteit heeft om een andere beslissing te nemen. Zonder dit cruciale vangnet wordt het risico dat fouten aan de organisatie worden toegerekend vele malen groter.

"Een algoritme kan een krachtig hulpmiddel zijn, maar het mag nooit meer zijn dan een adviseur. De uiteindelijke beslissing en de verantwoordelijkheid daarvoor moeten altijd in menselijke handen blijven."

Praktische aanbevelingen voor uw organisatie

Om de risico's verder in te dammen, kunt u een reeks concrete maatregelen nemen. Deze stappen helpen niet alleen om aan de wetgeving te voldoen, maar bouwen ook vertrouwen op bij uw klanten en de maatschappij.

• Documenteer ontwerpkeuzes grondig: Leg nauwkeurig vast waarom bepaalde keuzes zijn gemaakt tijdens de ontwikkeling. Waarom is voor een specifiek model gekozen? Welke data is gebruikt en hoe is deze gecontroleerd op mogelijke bias? Goede documentatie is cruciaal voor de bewijsvoering als er iets misgaat.

• Voer een risicoanalyse uit: Breng de potentiële risico’s in kaart voordat u een AI-systeem implementeert. Denk aan de kans op discriminatie, privacyschendingen of simpelweg onjuiste beslissingen. Classificeer het systeem ook volgens de risicocategorieën van de EU AI Act.

• Garandeer transparantie: Wees open over waar en hoe u algoritmes inzet. Maak duidelijk hoe beslissingen tot stand komen en zorg dat de logica van het systeem (tot op zekere hoogte) uitlegbaar is voor de betrokkenen.

• Train uw personeel: Zorg ervoor dat de operators die met de AI werken, goed zijn opgeleid. Zij moeten de beperkingen van het systeem kennen en weten hoe ze moeten handelen bij onverwachte, onlogische of ongewenste output.

Door deze stappen te volgen, creëert u een raamwerk voor verantwoord AI-gebruik. U toont aan dat u de risico's begrijpt en er proactief naar handelt, wat essentieel is om juridische problemen te voorkomen.

Veelgestelde vragen over AI en strafrecht

Om de complexe materie van AI in het strafrecht verder uit te diepen, beantwoorden we hier een paar veelgestelde vragen. Zie deze antwoorden als een praktische samenvatting van de belangrijkste punten uit dit artikel.

Wie is eindverantwoordelijk als een AI-systeem de fout in gaat?

Laat één ding duidelijk zijn: de eindverantwoordelijkheid ligt nooit bij het AI-systeem zelf. Een algoritme heeft juridisch gezien geen wil, geen bewustzijn en kan dus geen opzet of schuld hebben. De verantwoordelijkheid wordt altijd gezocht bij de mensen achter de technologie.

De rechter zal van geval tot geval moeten bepalen bij wie de juridische blaam precies ligt. Dit kan zijn bij:

• De ontwikkelaar, bijvoorbeeld als er sprake is van een rammelend ontwerp of als bekende risico’s, zoals discriminatie, bewust zijn genegeerd.

• De gebruiker (een organisatie), bijvoorbeeld door een systeem verkeerd te implementeren of voor een doel in te zetten waarvoor het niet bedoeld is.

• De operator (een individu), als deze persoon een overduidelijk foute aanbeveling van het systeem klakkeloos heeft overgenomen zonder kritisch na te denken.

Het zijn dus altijd de specifieke omstandigheden van de zaak die bepalen wie er uiteindelijk strafrechtelijk aansprakelijk is.

Wat verandert de EU AI Act concreet voor de Nederlandse politie?

De EU AI Act heeft directe en vergaande gevolgen voor hoe opsporingsdiensten zoals de politie AI mogen inzetten. De wet trekt duidelijke lijnen in het zand, met als belangrijkste doel het beschermen van onze fundamentele rechten.

Een van de meest ingrijpende veranderingen is het verbod op bepaalde AI-toepassingen. Denk aan systemen voor ‘social scoring’ door de overheid of het voorspellen van misdrijven puur op basis van profilering of persoonlijke kenmerken. Dat soort systemen zijn straks simpelweg taboe.

Voor AI die als ‘hoog-risico’ wordt gezien, zoals gezichtsherkenning in de openbare ruimte, gelden bovendien extreem strenge eisen. Organisaties moeten zorgen voor volledige transparantie, menselijk toezicht en een hoge datakwaliteit. Dit dwingt de politie om veel zorgvuldiger na te denken over de implementatie van nieuwe technologieën.

De wet werkt eigenlijk als een preventief kader. De meest riskante AI-toepassingen worden verboden of moeten aan zulke strenge voorwaarden voldoen dat de kans op misbruik en fouten aanzienlijk kleiner wordt.

Kan ik als softwareontwikkelaar persoonlijk aansprakelijk zijn?

Ja, in theorie kan dat zeker, al zal het in de praktijk niet zo’n vaart lopen. Persoonlijke strafrechtelijke aansprakelijkheid voor een ontwikkelaar is mogelijk, maar het hangt sterk af van hoe nauw je betrokken was en hoe verwijtbaar je handelen is geweest.

Persoonlijke aansprakelijkheid komt vooral in beeld als er sprake is van opzet. Bijvoorbeeld als je willens en wetens een systeem bouwt dat onrechtmatige handelingen mogelijk maakt, zoals een algoritme dat bewust discrimineert.

Ook bij grove nalatigheid (culpa) kan aansprakelijkheid een rol spelen. Als je bijvoorbeeld een systeem op de markt brengt met ernstige, voorspelbare veiligheidsrisico’s en daar niets aan doet, kun je daar persoonlijk op worden aangesproken. Naast het strafrecht, waar AI een steeds grotere rol speelt, beïnvloedt kunstmatige intelligentie ook veel andere domeinen. Ontdek bijvoorbeeld de impact van AI op SEO en hoe het de wereld van zoekmachineoptimalisatie verandert.