Juridische uitdagingen van AI  

De ontwikkelingen binnen AI brengen juridische uitdagingen met zich mee. AI-systemen kunnen enorm krachtig zijn. Ze zijn in staat om te leren, zich aan te passen en zelfstandig beslissingen te nemen op basis van de gegevens die ze verzamelen. Maar met grote kracht komt grote verantwoordelijkheid, vooral als het gaat om de wet.  

Wat is AI vanuit juridisch perspectief?

Een ‘AI-systeem’ is een machine-gebaseerd systeem ontworpen om met een zekere mate van zelfstandigheid te functioneren. Het kan zich aanpassen als het gebruikt wordt. Dit systeem kan, gebaseerd op de data die het ontvangt, voorspellingen doen, content creëren, aanbevelingen geven of beslissingen nemen die zowel de fysieke als de virtuele wereld kunnen beïnvloeden, allemaal gericht op specifieke doelen. 

Vanuit een juridisch oogpunt is het belangrijk om te begrijpen hoe deze acties binnen de kaders van de wet vallen en hoe ze de fysieke en virtuele wereld beïnvloeden. 

AI Act 

De AI Act is een plan van de Europese Unie om de wereld van kunstmatige intelligentie (AI) een beetje in goede banen te leiden. Ze willen ervoor zorgen dat AI slim en veilig gebruikt wordt, zonder dat het uit de hand loopt. Hiervoor worden AI-systemen in verschillende categorieën geplaatst, afhankelijk van hoeveel risico ze met zich meebrengen, en voor de echt risicovolle systemen hebben ze strenge regels opgesteld. Het idee is om iedereen veilig te houden en tegelijkertijd ruimte te geven voor nieuwe, slimme uitvindingen. Het is nog een werk in uitvoering, maar het zet de toon voor hoe we in de toekomst met AI omgaan. 

Verboden 

Op 1 mei 2024 in waarschijnlijk de werkelijke intreding van de AI Act. Vanaf 1 oktober 2024 worden er een aantal dingen verboden: 

• Trucjes en misleiding die ervoor zorgen dat iemand zonder het echt te snappen een keuze maakt die uiteindelijk meer kwaad dan goed doet. 
• Discriminatie op basis van leeftijd, handicap of sociale of economische situatie, waardoor gedrag verandert, dat schade aanricht (ook social scoring). 
• Op basis van karakter of (voorspeld) sociaal gedrag, nadelig behandelen buiten de context waar de data vandaan komt of wanneer dat disproportioneel is (ook social scoring). 
• In hokjes worden gestopt op basis van unieke lichamelijke kenmerken. 
• Het gebruik van software om gezichten te herkennen en te identificeren. 

Risiconiveaus 

Vóór 1 mei 2026 moeten organisaties ervoor zorgen dat hun AI-systemen voldoen aan de risiconiveaus vastgesteld door de AI Act. Hierin zijn vier risiconiveaus gedefinieerd: 

• High Risk: veel verplichtingen, gebruik het liever niet. Gebruik AI liever niet om personen te beoordelen. Denk hierbij aan AI laten bepalen of iemand een ziekteverzekering krijgt en tegen welk bedrag of automatische kredietwaardigheidscheck. 
• Limited Risk: transparantie bieden, goed informeren. Dit kun je prima gebruiken voor infomeren. Denk hierbij aan chatbots, deepfakes of gepersonaliseerde advertenties. 
• Low/No Risk: vrij gebruiken, geen verplichtingen. Denk hierbij aan data-analyse, spamfilters of niet gepersonaliseerde marketing automation. 

Auteursrecht en AI

Het auteursrecht is ook een belangrijk aspect binnen de AI Act. Zo wordt een opt-out mogelijkheid verplicht voor tekst- en datamining. Wat betekent dit? 

Stel je voor dat iemand een slimme computer gebruikt om door een hele berg boeken of internetpagina’s te spitten, op zoek naar speciale informatie of patronen. Dit heet tekst- en datamining. Als iemand anders zegt: “Hé, ik wil niet dat je mijn boek of pagina hiervoor gebruikt,” dan moet de computergebruiker luisteren en dat boek of die pagina overslaan. Dat heet de opt-out mogelijkheid, en die moet er zijn zodat mensen kunnen zeggen of ze wel of niet mee willen doen. 

Naast de opt-out mogelijkheid moeten auteursrechten respecteert worden en met AI gegenereerde content moet door machines herkenbaar zijn.  

Trainen van AI 

 Er zijn specifieke situaties waarin het trainen van AI als een inbreuk op het auteursrecht kan worden beschouwd, maar ook waar dat niet het geval is. Let hierbij altijd op dat de wetgeving per land kan verschillen. 

Situaties waarin het trainen van AI mogelijk inbreuk maakt op auteursrecht: 

• Gebruik van beschermde werken zonder toestemming: Als een AI wordt getraind met auteursrechtelijk beschermd materiaal (teksten, afbeeldingen, muziek, enz.) zonder toestemming van de auteursrechthouders, kan dit als een inbreuk worden beschouwd. 
• Zelfstandig gebruik van beschermde werken: Zelfs als het materiaal wordt gebruikt om een AI te trainen en niet direct wordt gekopieerd of verspreid, kan het zelfstandig gebruik van beschermde werken zonder licentie of toestemming onder bepaalde omstandigheden nog steeds als een inbreuk gelden. 

Situaties waarin het trainen van AI mogelijk niet inbreuk maakt op auteursrecht: 

• Fair use: In sommige landen, zoals de Verenigde Staten, kan het gebruik van auteursrechtelijk beschermd materiaal voor bepaalde doeleinden, zoals onderzoek of onderwijs, onder de uitzondering van fair use vallen. Dit hangt af van het gebruik, het doel, de hoeveelheid gebruikte materiaal en het effect op de markt voor het originele werk. 
• Gebruik van openbare of gelicenseerde data: Als de data die voor training wordt gebruikt openbaar is of onder een licentie valt die het gebruik voor AI-training toestaat, dan is er geen sprake van inbreuk. 

Goed om te onthouden 

AI is slechts een middel. Wetten zijn techniekneutraal, waardoor ze allemaal van toepassing kunnen zijn op AI. Denk hierbij aan AVG/GDPR, consumentenrecht, de Nederlandse Reclame Code, etc. Kijk dus vooral uit met AI stemmen, AI influencers en eigenlijk alles wat ‘nep’ is. 

Jouw to-do lijst 

Als je organisatie met AI werkt, is het tijd om actie te ondernemen. Controleer je AI-software, maak intern beleid en processen, zorg voor een goede administratie rondom auteursrecht, pas je documenten aan, en maak duidelijke disclaimers. Dit zal niet alleen helpen om juridische problemen te voorkomen, maar ook het vertrouwen van je gebruikers en de gemeenschap versterken. 

Dit artikel is geschreven op basis van de sessie ‘Juridische gevaren van AI herkennen en omzeilen’ van Charlotte Meindersma op het AI in Marketing Congres.