Steeds meer beslissingen komen tot stand zonder dat een mens eraan te pas komt: een kredietaanvraag die wordt afgewezen, een verzekering die duurder uitvalt, een sollicitatie die er bij de voorselectie uit gaat. De AVG stelt daaraan grenzen.
Wettelijke basis
Artikel 22 AVG geeft betrokkenen het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking gebaseerd besluit, waaronder profilering, waaraan rechtsgevolgen zijn verbonden of dat hen anderszins in aanmerkelijke mate treft. Er zijn drie uitzonderingen: het besluit is noodzakelijk voor de sluiting of uitvoering van een overeenkomst, het is toegestaan bij Unierechtelijke of nationale bepaling, of de betrokkene heeft uitdrukkelijk toestemming gegeven. In de eerste en derde situatie moeten passende waarborgen worden getroffen, waaronder ten minste het recht op menselijke tussenkomst, het recht het standpunt kenbaar te maken en het recht het besluit aan te vechten. De artikelen 13, 14 en 15 AVG verplichten daarnaast tot nuttige informatie over de onderliggende logica. Voor besluiten van bestuursorganen gelden bovendien de motiverings- en zorgvuldigheidseisen van de Algemene wet bestuursrecht.
Hoe het in de praktijk werkt
De vraag is bijna altijd of er werkelijk sprake is van uitsluitend geautomatiseerde besluitvorming. Een medewerker die een voorgesteld besluit alleen aanklikt, vormt geen menselijke tussenkomst; daarvoor is een bevoegde beoordelaar nodig die het besluit daadwerkelijk kan wijzigen. Bij systemen met een hoog risico stelt de AI-verordening aanvullende eisen aan documentatie, toezicht en transparantie.
Waar het misgaat
Drie punten keren terug. Ten eerste de menselijke tussenkomst die op papier bestaat maar in de praktijk een formaliteit is. Ten tweede de uitleg van de logica, die vaak blijft steken in een verwijzing naar een bedrijfsgeheim. Ten derde het ontbreken van een gegevensbeschermingseffectbeoordeling, terwijl die bij systematische geautomatiseerde beoordeling verplicht is.
Verwante begrippen
Geautomatiseerde besluitvorming raakt aan de AI-verordening, aan de DPIA en aan de rechten van betrokkenen.
Wordt u door een algoritme beoordeeld? Onze ICT-recht advocaten vragen de onderbouwing op en vechten het besluit aan.
