Inleiding
De ontwikkeling van kunstmatige intelligentie (AI) heeft wereldwijd vele mogelijkheden geopend voor innovatie, efficiëntie en automatisering. Tegelijkertijd roept het ook belangrijke vragen op over privacy, ethiek en veiligheid. In de Europese Unie wordt de regulering van AI in steeds scherpere focus geplaatst, vooral met de invoering van de AI Act en de bestaande AVG. In artikel 10 leest u wat de AI Act inhoudt en wat het belang ervan is. Hoe de AI Act zich verhoudt tot de AVG, hebben wij eerder in artikel 11 uiteengezet. Beide verordeningen streven immers naar de bescherming van de rechten en fundamentele vrijheden van burgers, maar benaderen dit doel op verschillende manieren. Dit roept o.a. de vraag op of de AI Act en de AVG elkaar mogelijk in de weg staan, vooral als het gaat om de verwerking van persoonsgegevens door AI-systemen. In dit artikel onderzoeken we in hoeverre AI-systemen, de AI Act en de AVG met elkaar op gespannen voet staan.

Waar zitten de spanningen?
Een van de drie hoofddoelen van de AI Act is het bevorderen van mensgerichte en betrouwbare AI, onder meer door innovatie te stimuleren. Daarom bevat de AI Act verschillende bepalingen die expliciet gericht zijn op het ondersteunen van AI-ontwikkeling. Een voorbeeld hiervan is artikel 59 AI Act, dat bepaalt dat voor een andere doeleinden verzamelde persoonsgegevens, onder voorwaarden, mogen worden verwerkt voor het ontwikkelen, trainen en testen van bepaalde AI-systemen binnen een testomgeving voor regelgeving. Dit laat zien dat de AI Act zeer ruime dataverwerking, inclusief verdere verwerking van persoonsgegevens, toestaat ten behoeve van AI-ontwikkeling en innovatie. Echter verbindt de AI Act aan deze dataverwerkingen strikte voorwaarden en hoge zorgvuldigheidseisen. Desondanks zijn AI-systemen in de praktijk vaak complexe en deels ondoorzichtige technologieën die moeilijk uitlegbaar zijn. Zo kunnen deep-learning modellen enorme hoeveelheden berekeningen uitvoeren op basis van duizenden variabelen in meerdere lagen. Dit kan spanningen veroorzaken met de AVG.

AVG is de hogere norm
Wij hebben eerder in artikel 11 opgemerkt dat wanneer in een AI-systeem persoonsgegevens worden verwerkt, dan geldt de AVG als de hoogste norm. Volgens de Europese Commissie moet de AI Act in dat geval worden gezien als een aanvullende regeling op de AVG. Met andere woorden: de bepalingen van de AVG blijven leidend en vormen het uitgangspunt voor rechtmatig gebruik van AI-toepassingen. Niet voldoen aan de AVG betekent in beginsel dat het gebruik van een AI-systeem dat persoonsgegevens verwerkt onrechtmatig is en dus niet toegestaan.
In de praktijk betekent dit dat een organisatie eerst moet voldoen aan de AVG (bijvoorbeeld: rechtmatige grondslag, gegevensminimalisatie, rechten van betrokkenen) en daarbovenop moet zorgen dat het AI-systeem voldoet aan de eisen van de AI Act (bijvoorbeeld: risicoclassificatie, documentatie, menselijk toezicht).

Vraagstelling
Hoewel een AI-systeem dat persoonsgegevens verwerkt primair aan de AVG moet voldoen, rijst de vraag of er desondanks (in de praktijk) spanningen kunnen ontstaan met betrekking tot een aantal onderwerpen uit de AVG. Hieronder wordt dit per onderwerp besproken:

Minimale persoonsgegevensverwerking
AI-systemen presteren doorgaans beter wanneer zij getraind worden met grote hoeveelheden kwalitatief hoogwaardige data. Daarnaast beschikken veel AI-modellen over een vorm van adaptief leervermogen, waardoor vooraf niet altijd duidelijk is hoe zij precies zullen leren. Het AVG-beginsel van minimale gegevensverwerking vereist echter dat uitsluitend die persoonsgegevens worden gebruikt die noodzakelijk zijn voor het beoogde doel. Door het dynamische karakter van AI is het in de praktijk vaak lastig te bepalen welke gegevens daadwerkelijk noodzakelijk zijn. Daardoor botst de behoefte aan ruime en flexibele dataverwerking voor AI-training met het AVG-beginsel dat verwerking van persoonsgegevens tot het strikt noodzakelijke moet worden beperkt.

Bewaartermijnen
Aansluitend op het voorgaande rijst de vraag hoe het AVG-beginsel van minimale gegevensverwerking kan worden gewaarborgd wanneer persoonsgegevens zijn gebruikt om een AI-model te trainen. Dit heeft immers direct betrekking op het uitgangspunt dat persoonsgegevens niet langer mogen worden bewaard dan noodzakelijk is. Wanneer de bewaartermijn verloopt, kan het echter lastig zijn om dit in AI-systemen of -modellen te handhaven, omdat persoonsgegevens vaak diep verweven raken met het getrainde model.

Doelbinding
Het beginsel van doelbinding is essentieel om te kunnen vaststellen welke persoonsgegevens, en voor welke periode, mogen worden verwerkt. Dit vereist dat de doeleinden van de verwerking vooraf duidelijk, specifiek en ondubbelzinnig worden geformuleerd. Dat is een fundamenteel principe van de AVG waarvan in de regel niet mag worden afgeweken. De uitzonderingen hierop (artikel 6 lid 4 AVG) zijn:

1. Betrokkene geeft uitdrukkelijke toestemming voor verder verwerking van zijn persoonsgegeven voor een ander doel;
2. Of de verwerking is noodzakelijk op basis van Unierechtelijk of lidstaatrechtelijk recht, mits dit recht de nodige waarborgen biedt. Een voorbeeld hiervan is de hierboven besproken artikel 59 AI Act.

Buiten deze uitzonderingen kunnen er problemen ontstaan. Immers in de huidige fase van AI-ontwikkeling, waarbij soms gebruik wordt gemaakt van complexe, moeilijk te doorgronden (deep-learning) modellen, is het lastig te bepalen welke gegevens precies nodig zijn voor welk doel. Voor ontwikkelaars zijn de grenzen en vereisten daarom niet altijd op voorhand helder. Het inzetten van persoonsgegevens binnen zulke complexe modellen komt dan ook al snel in conflict met het doelbindingsvereiste van de AVG.

Toestemming van betrokkene
Het verkrijgen van toestemming van de betrokkene is één van de manieren (van artikel 6 AVG) om persoonsgegevens rechtmatig te gebruiken voor het trainen van een AI-model of -systeem. Aan het gebruik van toestemming binnen de context van AI kleven echter verschillende complicaties. De AVG vereist dat toestemming ‘specifiek’ is: de betrokkene mag dus alleen instemmen met de verwerking voor het concrete doel van het trainen van het betreffende AI-model, en niet met een algemene toestemming voor toekomstig hergebruik van de gegevens. Daarnaast moet de toestemming ‘geïnformeerd’ worden gegeven, wat betekent dat de betrokkene voldoende moet begrijpen welke rol zijn of haar persoonsgegevens binnen het AI-systeem of -model zullen krijgen. Dat is in geval van complexe AI-systemen lastig aan betrokkene uit te leggen. Tot slot heeft betrokkene altijd het recht om zijn toestemming in te trekken. Juist dit laatste is in de praktijk het moeilijkst, omdat het intrekken van toestemming impliceert dat de persoonsgegevens van de betreffende persoon niet langer mogen worden gebruikt. Dit is heel lastig te realiseren, omdat deze gegevens al in een getraind AI-model zijn verwerkt.

Rechten van betrokkenen
De uitoefening van rechten van betrokkenen op grond van de AVG, zoals het recht op inzage, rectificatie, verwijdering en dataportabiliteit, vormt een extra uitdaging wanneer persoonsgegevens worden gebruikt binnen AI-systemen. Deze rechten zijn bedoeld om individuen controle te geven over hun eigen persoonsgegevens. Hiervoor is het noodzakelijk dat de gegevens van een specifieke persoon kunnen worden teruggevonden, aangepast of verwijderd. In veel AI-systemen is dat technisch complex, omdat persoonsgegevens vaak worden verwerkt in grote hoeveelheden variabelen en berekeningen die voortdurend veranderen. Daardoor is het isoleren van gegevens die aan één individu toebehoren niet altijd eenvoudig.

Risicobegrip
Het begrip risico krijgt in de AVG een andere betekenis dan in de AI Act. De AVG werkt namelijk niet met vaste risicocategorieën. Een verwerking van persoonsgegevens met een ‘hoog risico’ volgens de AVG is dus niet automatisch gelijk aan een AI-systeem dat in de AI Act als hoog risico wordt aangemerkt. Hoewel de verplichte risicoanalyses (namelijk DPIA o.g.v. de AVG en FRIA o.g.v. de AI Act) uit beide kaders op bepaalde punten overlappen, kunnen ze niet één-op-één worden uitgewisseld. Wel kunnen relevante inzichten worden geïntegreerd of herhaald in zowel de DPIA als de FRIA.

Anonieme gegevens
De AVG is niet van toepassing op persoonsgegevens die volledig anoniem zijn. Dit zijn gegevens die zodanig zijn verwerkt dat een individu er niet meer uit te herleiden is. In dat geval kan de data niet worden gebruikt om iemand persoonlijk te identificeren. Het spanningspunt ontstaat echter wanneer verschillende datasets worden gecombineerd: als uit de samenvoeging van informatie alsnog een persoon kan worden geïdentificeerd, vervalt de anonimiteit. Binnen AI-systemen bestaat dit risico met name wanneer veel trainingsdata over een persoon uit verschillende bronnen worden verzameld. Bijvoorbeeld: een dataset met anonieme gezondheidsgegevens kan gecombineerd worden met een dataset met postcode en leeftijd. Alleen door die combinatie kan het mogelijk worden een specifieke persoon te identificeren. Hierdoor ontstaat een spanningsveld: AI-systemen hebben baat bij grote en rijke datasets, terwijl de AVG bescherming biedt tegen heridentificatie van individuen. Organisaties moeten daarom zorgvuldig afwegen hoe ze anonieme gegevens gebruiken om zowel de bruikbaarheid voor AI als de naleving van de AVG te waarborgen.

Rollen onder AVG en AI ACT
De rolverdelingen uit de AVG sluiten niet zonder meer aan op de rollen die in de AI Act worden gehanteerd. Tussen beide regelgevingskaders bestaat daarom een duidelijke discrepantie. Dit komt doordat de AVG werkt met begrippen zoals ‘verwerkingsverantwoordelijke’ en ‘verwerker’, terwijl de AI Act andere rollen onderscheidt, zoals hoofdzakelijk ‘aanbieder’ en ‘gebruiksverantwoordelijke’ (de AI Act kent ook andere rollen zoals ‘importeur’, ‘distributeur’, ect.). Deze rollen overlappen maar deels met elkaar, waardoor het in de praktijk niet altijd meteen duidelijk is welke verplichtingen voor welke partij gelden wanneer een AI-systeem persoonsgegevens verwerkt.

Tot slot
De verhouding tussen de AVG, AI en de AI Act maakt duidelijk dat organisaties die AI-systemen ontwikkelen of gebruiken zorgvuldig moeten omgaan met de geldende verplichtingen. Hoewel de AVG als hoogste norm geldt bij de verwerking van persoonsgegevens binnen AI-systemen, kunnen onderdelen zoals minimale gegevensverwerking, doelbinding, toestemming en rechten van betrokkenen in de praktijk uitdagingen opleveren. Deze AVG-onderdelen kunnen op bepaalde punten op gespannen voet staan met de werking van AI-systemen en, in sommige gevallen, ook met vereisten uit de AI Act. Het is daarom van belang dat organisaties goed afwegen hoe zij AI inzetten, zodat zowel de privacy van individuen als de naleving van fundamentele rechten wordt gewaarborgd.

Let op: dit artikel bevat algemene informatie die niet gericht is op uw specifieke situatie. Derhalve kunnen er geen rechten aan worden ontleend.