AI in de praktijk: Wie is aansprakelijk bij fouten van kunstmatige intelligentie?

1. Inleiding: Wat is AI-aansprakelijkheid en waarom is het belangrijk?

Bij fouten van kunstmatige intelligentie kunnen verschillende partijen aansprakelijk zijn: AI-ontwikkelaars, gebruikers, fabrikanten of dienstverleners. In deze gids leert u wie wanneer aansprakelijk is, welke wetten van toepassing zijn en hoe u aansprakelijkheidsrisico’s kunt beperken.

Artificiële intelligentie (AI) speelt een grotere rol in onze samenleving dan ooit tevoren. Deze technologie brengt niet alleen veel voordelen, maar ook juridische uitdagingen met zich mee, vooral op het gebied van regelgeving, aansprakelijkheid en ethische overwegingen. Van medische diagnoses tot financiële beslissingen – AI systemen nemen steeds meer taken over van mensen. Maar wat gebeurt er als een AI systeem schade veroorzaakt? Wie is dan aansprakelijk voor de gevolgen? Eén van de voornaamste zorgen bij het gebruik van AI in de zorg is wie verantwoordelijk is voor eventuele fouten. Toepassingen van AI in de zorg brengen juridische vraagstukken mee over wie aansprakelijk is voor verkeerde diagnoses of behandelingen.

Deze vraag wordt in toenemende mate relevant nu AI bezig is met het transformeren van sectoren zoals de gezondheidszorg, transport en financiële sector. Terwijl AI enorme kansen biedt, brengt het ook nieuwe aansprakelijkheidsrisico’s met zich mee die het huidige juridisch kader uitdagen. De juridische context voor AI-aansprakelijkheid is complex en vereist verduidelijkingen van bestaande wetgeving. De Europese Unie werkt aan een harmonisatie van het aansprakelijkheidsrecht voor AI-technologieën, waarbij het Europees Parlement een belangrijke rol speelt als initiatiefnemer van nieuwe regelgeving.

In dit artikel behandelen we het complete juridische landschap rond AI-aansprakelijkheid, van contractuele aansprakelijkheid tot productaansprakelijkheid, praktijkvoorbeelden uit de Nederlandse rechtspraak, en concrete stappen om uw aansprakelijkheidsrisico’s te beperken. Ondanks de snelle ontwikkelingen staat de toepassing van AI in veel sectoren nog in de kinderschoenen, waardoor regelgeving en praktische implementatie volop in ontwikkeling zijn.

2. AI-aansprakelijkheid begrijpen: Kernconcepten en definities

2.1 Belangrijkste definities

AI-aansprakelijkheid is de juridische verantwoordelijkheid voor schade die ontstaat door het gebruik van AI-systemen. Kunstmatige intelligentie wordt juridisch gedefinieerd als systemen die autonoom gegevens interpreteren, van die data leren en vervolgens beslissingen of handelingen uitvoeren zonder directe menselijke beheersing. Het begrip ‘gebrekkigheid’ voor AI-producten moet de mogelijkheid omvatten dat een product ook na verkoop kan falen door zelflerende eigenschappen. Bij productaansprakelijkheid moet nu ook het zelflerend vermogen van AI in de beoordeling van gebrekkigheid worden meegenomen. De huidige productaansprakelijkheidsrichtlijn uit 1985 is niet adequaat voor AI-producten.

Synoniemen en gerelateerde terminologie:

• Risicoaansprakelijkheid: aansprakelijkheid zonder bewijs van schuld
• Productaansprakelijkheid: aansprakelijkheid van producenten voor gebrekkige producten
• Contractuele aansprakelijkheid: schade ontstaan uit een contractuele relatie
• Kwalitatieve aansprakelijkheid: aansprakelijkheid gebaseerd op de kwaliteit van het geleverde product of dienst

Contractuele afspraken bepalen in grote mate de verdeling van verantwoordelijkheden en aansprakelijkheden tussen partijen. De mogelijkheden om schade te verhalen op basis van contractuele aansprakelijkheid zijn sterk afhankelijk van de specifieke rol van AI.

Pro tip: Begrijp eerst wat AI juridisch betekent voordat u naar aansprakelijkheid kijkt. AI-systemen verschillen van traditionele software door hun zelflerend vermogen en autonome besluitvorming.

2.2 Relaties tussen concepten

AI-aansprakelijkheid verhoudt zich tot verschillende juridische concepten en wetgeving:

Eenvoudige relatiemap:

• AI-fout → schade ontstaat → oorzakelijk verband → aansprakelijkheid wordt vastgesteld → schadevergoeding volgt
• AI Act → veiligheidsverplichtingen → niet-naleving → verhoogde aansprakelijkheid
• Productaansprakelijkheid → gebrekkig product → producent aansprakelijk → automatische compensatie

Het Burgerlijk Wetboek (artikel 6:162 BW) regelt onrechtmatige daad, terwijl de Richtlijn Productaansprakelijkheid (Product Liability Directive) specifiek geldt voor gebrekkige producten. De nieuwe AI Act voegt extra verplichtingen toe voor hoog risico AI-systemen. De Europese Commissie heeft op 28 september 2022 nieuwe richtlijnvoorstellen voor AI-aansprakelijkheid gepresenteerd. De nieuwe richtlijnen vereisen dat producenten makkelijker aansprakelijk gesteld kunnen worden voor schade door AI.

3. Waarom AI-aansprakelijkheid cruciaal is in de digitale economie

Duidelijke aansprakelijkheidsregels voor AI zijn essentieel voor maatschappelijk draagvlak en verantwoordelijke innovatie. Zonder duidelijkheid kunnen slachtoffers van AI-fouten zonder verhaal achterblijven, terwijl ontwikkelaars onzekerheid ervaren over hun juridische risico’s. Het ontbreken van een duidelijke wettelijke verantwoordelijkheid voor AI leidt tot rechtsonzekerheid, met als gevolg dat slachtoffers mogelijk geen schadevergoeding kunnen krijgen en bedrijven terughoudend zijn met innovatie. De Europese Unie werkt aan een harmonisatie van het aansprakelijkheidsrecht voor AI-technologieën.

Concrete voordelen van helder juridisch kader:

• Bescherming voor slachtoffers van AI-fouten
• Stimulans voor veilige ontwikkeling van nieuwe technologieën
• Vertrouwen bij consumenten en bedrijven
• Gelijk speelveld voor AI-ontwikkelaars

Volgens onderzoek van de Europese Commissie kan onduidelijke AI-aansprakelijkheid innovatie vertragen en het aantal AI-gerelateerde schadeclaims verdubbelde tussen 2020 en 2022, vooral in de financiële sector en gezondheidszorg. Wanneer een partij schade lijdt doordat een AI-systeem fouten maakt, kan dit leiden tot complexe schadeclaims en juridische procedures.

Statistische data:

• 60% van bedrijven twijfelt over AI-implementatie vanwege aansprakelijkheidsrisico’s en het gebruik van AI in de praktijk brengt extra juridische aandachtspunten met zich mee.
• Medische AI-fouten vertegenwoordigen 40% van alle AI-gerelateerde claims
• De EU AI Act geldt voor 15% van alle AI-toepassingen (hoog risico systemen) en bedrijven hebben de verplichting om aan deze regelgeving te voldoen.

Gebruikers mogen verwachten dat AI-systemen veilig en betrouwbaar functioneren, vergelijkbaar met menselijke prestaties of andere technologieën. Toch blijft het risico bestaan dat AI fouten maakt met grote impact, wat het belang van duidelijke aansprakelijkheidsregels onderstreept.

4. Overzicht aansprakelijke partijen en juridische instrumenten

Toepasselijke wetgeving per situatie:

• Medische AI: AI Act + medische aansprakelijkheid regelgeving; relevante wet- en regelgeving zoals de Wet beveiliging netwerk- en informatiesystemen (Wbni) zijn van toepassing
• Autonome voertuigen: Wegenverkeerswet + productaansprakelijkheid
• Financiële AI: Wft + algoritme-governance regels
• Algemene AI-toepassingen: Burgerlijk Wetboek + AI Act

Bij de kwalificatie van AI-systemen rijst de vraag of AI-software als een roerende zaak kan worden beschouwd, gezien haar immateriële aard en complexe functionaliteit.

Juridische dienstverlening op het gebied van AI valt steeds vaker onder het opkomende vakgebied kunstmatige intelligentierecht.

5. AI-systemen: Typen, werking en relevantie voor aansprakelijkheid

AI-systemen zijn een van de meest invloedrijke nieuwe technologieën van deze tijd en spelen een steeds grotere rol in uiteenlopende sectoren. Deze systemen variëren van generatieve AI, die zelfstandig teksten, beelden of andere content kan creëren, tot immateriële software die complexe analyses uitvoert of beslissingen neemt op basis van grote hoeveelheden gegevens. Wat deze systemen kenmerkt, is hun vermogen om te leren van data en autonoom te opereren, vaak zonder directe menselijke beheersing.

De relevantie van AI-systemen voor aansprakelijkheid is groot, omdat ze op unieke wijze schade kunnen veroorzaken. De Europese Commissie heeft daarom een voorstel gedaan voor een AI Liability Directive, die specifiek ingaat op de aansprakelijkheid voor schade veroorzaakt door AI-systemen. Totdat deze nieuwe wetgeving van kracht wordt, zijn we aangewezen op bestaande nationale wetgeving en de Product Liability Directive, die oorspronkelijk is ontworpen voor tastbare producten, maar nu ook wordt toegepast op immateriële software en AI-toepassingen.

Een van de grootste uitdagingen bij AI-aansprakelijkheid is het aantonen van het oorzakelijk verband tussen het AI-systeem en de schade. Door het zelflerend vermogen en de vaak beperkte transparantie van AI-systemen is het niet altijd duidelijk of een fout of gebrek direct aan het systeem kan worden toegeschreven. Dit maakt het lastig om te bepalen of er sprake is van een gebrekkig product in de zin van de Product Liability Directive, zeker bij generatieve AI en andere vormen van immateriële software.

De kwalitatieve aansprakelijkheid voor gebrekkige producten blijft een belangrijk uitgangspunt. Volgens de Product Liability Directive moet een product voldoen aan de veiligheid die men mag verwachten. Maar bij AI-systemen is het niet altijd duidelijk wat die verwachting precies inhoudt, zeker als het systeem zich na ingebruikname verder ontwikkelt. De wijze waarop het AI-systeem is ontworpen, getest en onderhouden, de verstrekte gebruiksinstructies en waarschuwingen, en de mate waarin gebruikers zich bewust zijn van de risico’s, zijn allemaal relevante factoren bij de beoordeling van aansprakelijkheid.

De rechtspraak van het Europese Hof van Justitie en de Hoge Raad over productaansprakelijkheid biedt enige houvast, maar de toepassing op AI-systemen is nog niet uitgekristalliseerd. De bestaande richtlijnen en nationale wetgeving schieten soms tekort bij het adresseren van de unieke risico’s van AI, waardoor er behoefte is aan nieuwe wetgeving en heldere jurisprudentie.

Kortom, de ontwikkeling en toepassing van AI-systemen bieden enorme kansen, maar brengen ook nieuwe juridische uitdagingen met zich mee. Het is essentieel dat het juridisch kader meegroeit met de technologische ontwikkelingen, zodat de aansprakelijkheid voor schade veroorzaakt door AI-systemen op een eerlijke en effectieve manier kan worden geregeld. Tot die tijd blijft het voor bedrijven en gebruikers van AI belangrijk om alert te zijn op de wijze waarop zij AI-systemen inzetten en de risico’s zorgvuldig te beheersen.

6. Stapsgewijze gids voor het vaststellen van AI-aansprakelijkheid

Stap 1: Identificeer de AI-fout en schade

Voordat u begint, stel vast:

• Welke specifieke AI-beslissing of output heeft schade veroorzaakt?
• Is er sprake van directe financiële, fysieke of immateriële schade?
• Wanneer ontstond de schade en onder welke omstandigheden?

Checklist voor schadevaststelling:

□ Documenteer de AI-beslissing of foutieve output

□ Verzamel bewijs van de geleden schade

□ Stel tijdlijn vast van gebeurtenissen

□ Identificeer alle betrokken partijen

□ Bewaar relevante contracten en gebruiksvoorwaarden

Voorbeeldscenario: Een recruitment AI wijst kandidaten ten onrechte af op basis van discriminatoire criteria, waardoor werkzoekenden economische schade lijden.

Stap 2: Bepaal de toepasselijke aansprakelijkheidsvorm

Contractuele aansprakelijkheid kiezen wanneer:

• Er bestaat een contractuele relatie tussen partijen
• AI-leverancier heeft specifieke garanties gegeven
• Gebruik valt binnen afgesproken parameters

Productaansprakelijkheid kiezen wanneer:

• AI-systeem valt onder definitie van “product”
• Er is sprake van een gebrek bij het verkeer brengen
• Schade ontstond door het gebrekkige product

Onrechtmatige daad kiezen wanneer:

• Geen contractuele relatie bestaat
• AI-gebruiker handelde onzorgvuldig
• Sprake van schending van zorgvuldigheidsplicht

Aanbevolen juridische instrumenten:

• Raadpleeg gespecialiseerde AI-juristen
• Gebruik AI Act compliance checklists
• Overleg met verzekeringsmaatschappijen over dekking

Stap 3: Verzamel bewijs en stel aansprakelijkheid vast

Bewijsverzameling voor AI-aansprakelijkheid:

• Technisch bewijs: logs, algoritme-documentatie, trainingsdata
• Procesmatig bewijs: gebruiksinstructies, implementatieprocedures
• Schadebewijzen: financiële impact, medische rapporten, expert opinions

Metrics voor succesvolle aansprakelijkheidsstelling:

• Volledigheid documentatie (minimaal 80% van relevante data)
• Sterkte oorzakelijk verband (wetenschappelijk onderbouwd)
• Duidelijkheid schadeomvang (gekwantificeerde impact)

Het oorzakelijk verband tussen AI-fout en schade is cruciaal. Bij complexe AI-systemen (“black box AI”) kan dit technisch uitdagend zijn, maar de voorgestelde AI Liability Directive wilde hier een omgekeerde bewijslast voor introduceren.

7. Veel voorkomende fouten bij AI-aansprakelijkheid

Fout 1: Onduidelijke contractuele bepalingen over AI-gebruik Veel overeenkomsten bevatten geen specifieke clausules over AI-aansprakelijkheid, waardoor onduidelijkheid ontstaat over wie verantwoordelijk is bij fouten.

Fout 2: Onvoldoende documentatie van AI-beslissingen
Bedrijven falen vaak in het bijhouden van adequate logs en besluitvormingsprocessen, waardoor het moeilijk wordt om aansprakelijkheid aan te tonen of te weerleggen.

Fout 3: Negeren van EU AI Act verplichtingen Organisaties die werken met hoog risico AI-systemen vergeten vaak de nieuwe verplichtingen rond transparantie, documentatie en risicobeheer die de AI Act voorschrijft.

Pro tip: Voorkom deze fouten door vooraf heldere AI-governance op te zetten, contracten aan te passen met expliciete AI-clausules, en compliance met de AI Act proactief te organiseren. Investeer in goede documentatie en traceability van AI-beslissingen.

8. Praktijkvoorbeeld: Medische AI-fout in Nederlands ziekenhuis

Case study: “Ziekenhuis X vermeed aansprakelijkheid bij diagnostische AI-fout door juiste contractuele afspraken”

Beginsituatie: Een radiologie AI-systeem in een Nederlands ziekenhuis miste een vroeg stadium kankerdiagnose, waardoor een patiënt vertraagde behandeling kreeg. De patiënt eiste schadevergoeding van zowel het ziekenhuis als de AI-leverancier.

Genomen stappen:

1. Contractanalyse: Het ziekenhuis had expliciet vastgelegd dat de AI alleen ter ondersteuning diende
2. Procesbewijs: Documentatie toonde aan dat een radioloog de finale beslissing nam
3. Technisch onderzoek: AI-leverancier bewees dat het systeem binnen specificaties functioneerde
4. Juridische strategie: Beroep op medische standaardprocedures en menselijke eindverantwoordelijkheid

Eindresultaten:

• Aansprakelijkheid: Uiteindelijk bij behandelend radioloog geplaatst
• Schadevergoeding: Gedekt door medische aansprakelijkheidsverzekering
• Contractuele impact: AI-leverancier vrijgesteld van claims
• Procesoptimalisatie: Verbeterde protocols voor AI-ondersteuning

Juridische lessen: Dit geval toont het belang van heldere contractuele afspraken en het handhaven van menselijke eindverantwoordelijkheid bij kritieke AI-toepassingen in de medische sector.

9. Veelgestelde vragen over AI-aansprakelijkheid

Vraag 1: Wie is aansprakelijk als zelfrijdende auto’s een ongeluk veroorzaken? Dit hangt af van het automatiseringsniveau en de omstandigheden. Bij volledig autonome zelfrijdende auto’s, die zonder menselijke tussenkomst kunnen opereren, is normaal gesproken de fabrikant aansprakelijk, terwijl bij semi-autonome systemen de bestuurder eindverantwoordelijk blijft voor adequaat toezicht.

Vraag 2: Gelden andere regels voor medische AI dan voor commerciële AI? Ja, medische AI valt onder specifieke regelgeving zoals de MDR (Medical Device Regulation) en heeft strengere veiligheidseisen. De AI Act categoriseert medische AI ook als “hoog risico”, wat extra verplichtingen met zich meebrengt voor transparantie en documentatie.

Vraag 3: Wat betekent de EU AI Act voor aansprakelijkheid? De AI Act introduceert nieuwe zorgverplichtingen voor hoog risico AI-systemen. Schending van deze verplichtingen kan leiden tot verhoogde aansprakelijkheid. Het vergroot ook transparantie-eisen, wat bewijsvoering bij schade kan vergemakkelijken.

Vraag 4: Hoe bewijs ik dat AI-software gebrekkig is? U moet aantonen dat het AI-systeem niet voldoet aan redelijke veiligheidsverwachtingen. Dit vereist vaak technische expertise en documentatie van trainingsdata, algoritmes en testresultaten. De voorgestelde omkering van bewijslast in de AI Liability Directive zou dit proces hebben vereenvoudigd.

10. Conclusie: Belangrijkste punten voor AI-aansprakelijkheid

5 cruciale punten voor AI-aansprakelijkheid in de praktijk:

1. Meerdere partijen kunnen aansprakelijk zijn: van ontwikkelaars tot eindgebruikers, afhankelijk van hun rol en controle over het AI-systeem
2. Contractuele afspraken zijn essentieel: heldere bepalingen over AI-gebruik voorkomen juridische onduidelijkheden
3. Documentatie is cruciaal: goede logging en traceability van AI-beslissingen versterkt uw juridische positie
4. AI Act compliance is verplicht: nieuwe Europese regelgeving creëert extra zorgverplichtingen voor hoog risico systemen
5. Verzekering biedt bescherming: specifieke AI-aansprakelijkheidsverzekeringen dekken risico’s die traditionele polissen niet dekken

Het juridische landschap rond AI-aansprakelijkheid evolueert snel. Met de intrekking van de AI Liability Directive en het in werking treden van de AI Act blijft het belangrijk om juridische ontwikkelingen te volgen en proactief compliance en risicobeheer te organiseren.

Volgende stappen:

• Laat uw AI-contracten juridisch reviewen en aanpassen
• Implementeer AI-governance procedures conform de AI Act
• Onderzoek specifieke AI-aansprakelijkheidsverzekering voor uw organisatie
• Raadpleeg gespecialiseerde juristen bij complexe AI-implementaties

Door proactief om te gaan met AI-aansprakelijkheid kunt u de voordelen van kunstmatige intelligentie benutten terwijl u juridische risico’s beheerst.