EU bereikt voorlopig akkoord rond AI regels

Geschreven door

Martin Scholten

Gecontroleerd door

Jolien

Bijgewerkt op

14 december 2023

[addtoany] ×

Er zijn niet veel zaken waar het merendeel van de 8 miljard mensen op aarde het over eens zijn. Dat de opkomende technologieën die tezamen bekend staan als “AI” snel de aandacht van wetgevers behoeft, is er toch wel een van. Van critici tot, ironisch genoeg, de chef van het grootste bedrijf op het gebied, Sam Altman, allemaal stellen ze dat de technologie in potentie te gevaarlijk is om zijn gang te laten gaan. In Amerika, bakermat van “AI” komen dergelijke kreten nog tot niets concreets. Maar de Europese Unie heeft op de valreep van 2023 een voorlopig akkoord bereikt wat betreft “AI” wetgeving.

Eerste set “AI” regels ter wereld

2023 is bijna voorbij. Vanaf het begin van dit jaar draait het merendeel van het technieuws over “AI.”  OpenAI beet eind 2022 al de spits af. De eerste paar maanden van 2023 zagen we vooral enthousiasme over de chatbot van het bedrijf. Maar al snel klonk er een kritische noot. Soms zelfs van mensen die aan de wieg van de technologie stonden. In september gingen leiders van de sector in gesprek met de Amerikaanse overheid specifiek over “AI.”

Doorgaans is het een gegeven dat wetgevers een flink eind achter de actualiteiten aan lopen. De EU bediscussieert het onderwerp “AI” ondertussen al twee en een half jaar. Maar met de komst van veel krachtigere generatieve modellen als ChatGPT en Dall-E, lijkt er wat meer vaart in de zaak te zijn gekomen. Het akkoord beslaat onderwerpen als de legale aard van “AI” trainingsdata, het gebruik van gezichtsherkenningssoftware door politie en richt zijn pijlen specifiek op zogenaamde “foundation models” als ChatGPT.

Vorm definitieve versie vrijwel zeker

Het betreft dus een voorlopig akkoord, maar laat dat je niet misleiden. De uiteindelijke vorm van de wet zal er niet aanzienlijk van afwijken. Europese Commissielid Thierry Breton hoefde dan ook niet veel woorden vuil te maken toen de laatste zitting er op zat. Hij tweette maar een enkel woord: “Deal!” Zowel politici als lobbyisten zijn te spreken over het resultaat. Brando Benifei, een Italiaanse wetgever die leiding geeft aan de onderhandelingen, geeft toe dat er compromissen zijn gesloten. Het eindresultaat is “erg, erg goed” te noemen.

Wat betreft de technische details zullen we nog even moeten wachten. Die worden de komende weken bekend gemaakt. Maar de grote lijnen van het akkoord zijn al zichtbaar. Net als de beoogde middelen die naleving van de wet moeten afdwingen. Zo kunnen bedrijven boetes worden opgelegd van maximaal 7% van de jaarlijkse inkomsten. Invoering van de wet moet ook nog even op zich laten wachten. Benifei verwacht dat de wet niet eerder dan 2025 in zal gaan.

Transparantie en geen uitzonderingen

Wellicht het grootste vraagteken dat boven “AI” hangt betreft het auteursrecht. De EU geeft nu aan dat er van de ontwikkelaars van “AI” modellen wordt geëist dat men transparant is wat betreft trainingsdata. Zodoende kan naleving van de geldende auteursrechten worden gehandhaafd. Dat betekent ontwikkelaars van “AI” het gebruik van auteursrechtelijk beschermd materiaal niet meer met de mantel der liefde kunnen bedekken. Zij vergeleken het met hoe een menselijke kunstenaar ideeën leent van bestaand materiaal. Die vlieger gaat straks dus niet meer op. Of de status van het door “AI” gegenereerde materiaal ook door de wet wordt aangehaald is bij tijde van het schrijven van dit artikel nog onbekend.

Wat betreft de inzet van “AI” bij gezichtsherkenning worden er vergelijkbare eisen gesteld. De inzet moet volledig transparant zijn en zich houden aan de geldende privacywetgeving. De ontwikkelaars van herkenningssoftware beloven de wereld. Toch valt de technologie soms nog door de mand. Het herkennen van emoties en afkomst zou in het verschiet moeten liggen, maar de overwegend witte en mannelijke aard van trainingsdata zorgt er voor dat mensen buiten die parameters veel vaker foutief worden herkend.

De wet legt het gebruik van dergelijke software voor de zekerheid dan ook maar aan banden. Inzet is alleen toegestaan in uitzonderlijke gevallen, zoals een concrete terroristische dreiging. Ongericht scannen van foto’s en beelden, zowel on- als offline, wordt strikt verboden. Begin volgend jaar gaat het Parlement stemmen over de wet, daarna ligt de bal bij de lidstaten.