Het Europees Parlement heeft de Wet op de Kunstmatige Intelligentie goedgekeurd, een reeks nieuwe regels die enerzijds bedoeld zijn om de ontwikkeling van AI in de EU te bevorderen en anderzijds de rechten van burgers te beschermen. Deskundigen waarschuwen echter dat ook de belangen van technologiegiganten zijn behartigd, wat risico’s met zich meebrengt.
De zogenaamde AI-wet werd met een overweldigende meerderheid van 523 stemmen aangenomen, terwijl 46 leden tegenstemden en 49 zich van stemming onthielden.
De nieuwe regelgeving omvat onder andere een verbod op bepaalde vormen van AI-gebruik die de rechten van burgers in gevaar brengen. Dit omvat systemen voor biometrische categorisatie die gebruik maken van gevoelige kenmerken en het ongericht verzamelen van gezichtsbeelden van internet of camerabeelden om databanken voor gezichtsherkenning te creëren.
Ook het herkennen van emoties door AI op de werkplek en in onderwijsinstellingen, evenals het voorspellen van criminaliteit uitsluitend op basis van profilering of het beoordelen van iemands kenmerken, wordt verboden. Daarnaast zal AI die het gedrag van mensen manipuleert of hun zwakheden uitbuit, niet worden toegestaan.
Voor wetshandhavingsinstanties geldt een algemeen verbod op het gebruik van biometrische identificatiesystemen, hoewel er enkele nauw gedefinieerde uitzonderingen zijn.
De regelgeving legt specifieke verantwoordelijkheden op voor hoogrisico-AI-systemen, die worden gebruikt in onder andere kritieke infrastructuur, onderwijs, werkgelegenheid en basisdiensten zoals gezondheidszorg en banken. Deze systemen moeten risico’s beoordelen en beperken, transparant en accuraat zijn, en onder menselijke controle staan.
Bovendien vereist de regelgeving dat niet-authentieke of gemanipuleerde afbeeldingen, audio of video, de zogenaamde deepfakes, duidelijk worden aangegeven.
Concessies aan technologiebedrijven
Verschillende technologiebedrijven die gebruik maken van AI waren nauw betrokken bij het vormgeven van de nieuwe regelgeving. “Internetgiganten hebben hard gelobbyd om deze regelgeving minder restrictief te maken. Ze hebben deze strijd gedeeltelijk gewonnen,” meldt TVN24.
Het herinnert eraan dat lobbyisten en CEO’s van technologiebedrijven druk uitoefenden op de EU-regelgevers om programma’s zoals ChatGPT niet automatisch als hoogrisico-systemen te classificeren.
“Ze hebben dit bereikt. Momenteel stelt de Wet op de Kunstmatige Intelligentie niet langer expliciet dat AI-modellen voor algemene doeleinden automatisch worden geclassificeerd als hoogrisico-systemen,” aldus Dr. Paweł Kowalski, advocaat bij het Open Artificial Intelligence Laboratory van de SWPS Universiteit, geciteerd door TVN24.
Het portaal meldt dat Frankrijk (waar de startup Mistral AI samenwerkt met Microsoft), Duitsland (met een actieve rol van Aleph Alpha) en Italië pleitten voor meer vrijheid voor technologiebedrijven op dit gebied.
Een deskundige van Amnesty International waarschuwt dat deze wetgeving onvoldoende rekening houdt met de basisprincipes van de mensenrechten.
De verordening moet nog formeel door de Raad worden aangenomen. Het zal twintig dagen na de bekendmaking in het Publicatieblad in werking treden en 24 maanden later volledig van toepassing worden.
