Wat houdt de AI Act precies in?

AI is in een razend tempo enorm populair geworden. Daarom krijgt Europa te maken met een nieuwe wetgeving, die het eerlijke gebruik ervan moet stimuleren.

Waarschijnlijk heeft iedereen, al is het maar uit nieuwsgierigheid, inmiddels weleens een AI-applicatie gebruikt. Artificial Intelligence, oorspronkelijk ontwikkeld om de werkdruk te verminderen en te fungeren als een virtuele assistent, is echter al enige tijd het middelpunt van flinke discussies. 

Veel critici vinden het namelijk deels onverantwoord: waar haalt de AI zijn data vandaan? Talloze incidenten hebben inmiddels al plaatsgevonden, waarin auteurs en kunstenaars hun onvrede uitspraken over AI’s die gebruikmaken van hun werk om gebruikers van antwoorden te voorzien. In sommige gevallen liep dit zelfs uit tot een rechtszaak. Om meer grip te krijgen op kunstmatige intelligentie, werd dus de AI Act uitgewerkt.

Langdurig proces

In eerste instantie werd de nieuwe regelgeving al in mei 2023 goedgekeurd door het Europese Parlement. Toen het de beurt was aan de Europese Commissie, waar alle lidstaten van de Europese Unie deel van uitmaken, bleef het akkoord echter uit. Duitsland, Frankrijk en Italië vonden het namelijk zorgelijk dat de ontwikkelaars van AI-applicaties dusdanig zouden worden beperkt.

Een onverwachte, maar niet geheel ongebruikelijke wending in de al hectische geschiedenis van de AI Act. Al sinds 2018 is het Europees Parlement namelijk bezig met de totstandkoming ervan. Toen men in 2021 eindelijk met een conceptwet kwam, bleek dit van korte duur te worden. Het inmiddels razend populaire ChatGPT deed de beleidsmakers namelijk beseffen dat de nieuwe wetgeving totaal niet voorbereid was op AI-applicaties van dat kaliber. 

Toen het uiteindelijke plan begin deze maand eindelijk op tafel lag, waren daar dus de bezwaren van de eerder genoemde lidstaten. Na lang overleg en de nodige compromissen was daar vorige week dan toch eindelijk de witte rook: een voorlopig akkoord over de AI Act. 

De AI Act

De AI Act deelt AI-applicaties in op het (potentiële) risico dat ze met zich meebrengen. Hoe groter het risico, hoe strenger de regels. Het doel van deze maatregel is om het veilige en verantwoorde gebruik van kunstmatige intelligentie (AI) te stimuleren. Niet alleen in het gebruik, maar het begint in principe dus al bij de ontwikkelaars. 

Het bekendste voorbeeld van een systeem dat verboden zal worden, is het burgervolgsysteem dat in onder andere China wordt gebruikt. Deze systemen maken gebruik van gezichtsherkenning, waardoor camera’s mensen op straat bijvoorbeeld kunnen volgen en identificeren. 

De AI Act wordt concreet onderverdeeld in vier categorieën. Deze zijn gebaseerd op het potentiële risico:

#1 - Onaanvaardbaar risico. Deze systemen, zoals het burgervolgsysteem, zullen dus worden verboden.

#2 - Hoog risico. Dit zijn applicaties waarbij de verkeerde info grote gevolgen kan hebben. Denk bijvoorbeeld aan sectoren die te maken hebben met de productie en het onderhoud van auto’s, of de luchtvaart. Ook de applicaties binnen het onderwijs en justitie zullen onder deze categorie vallen.

#3. Generatieve AI. ChatGPT is het bekendste voorbeeld van generatieve AI. Deze applicaties dienen met de ingang van de AI Act aan te tonen welke data en bronnen het heeft geraadpleegd om tot het antwoord te komen.

#4. Laag risico. Dit zijn applicaties waar de AI slechts een kleine, onschuldige rol speelt. Denk bijvoorbeeld aan een app die de resolutie van uw foto’s kan verbeteren. Voor deze applicaties geldt dat ze enkel hoeven te vermelden, dat er gebruik wordt gemaakt van Artificial Intelligence.

Ontwikkelaars die niet volgens deze nieuwe regels zullen gaan spelen, riskeren flinke boetes. Boetes kunnen oplopen tot maximaal 35 miljoen euro, of 7% van de wereldwijde omzet. Dit hangt natuurlijk ook af van de overtreding en de omvang van de organisatie.

Gerelateerd: “Overheid investeert in Nederlands AI-taalmodel: GPT-NL”

Meer over kunstmatige intelligentie

Meer weten over kunstmatige intelligentie? Neem dan een kijkje op onze nieuwspagina, waar we u met regelmaat voorzien van alle ins en outs op het gebied van Artificiële Intelligentie.

Bronnen

RTL Nieuws: ‘Akkoord over regels rond kunstmatige intelligentie in Europa’ - Malini Witlox, 9 december 2023.

RTL Nieuws: ‘EU werkt aan AI-wetgeving, maar Frankrijk en Duitsland liggen dwars’ - Jan Douwe Krist, 7 december 2023.

TechCrunch: ‘EU lawmakers bag late night deal on ‘global first’ AI rules’ - Natasha Lomas, 9 december 2023.