ChatGPT heeft zijn intrede gedaan in het Europees Parlement. Op basis van de AI-wet beperkt de Europese Unie kunstmatige intelligentie. Enerzijds is er de noodzaak om privacy en gegevens te beschermen, anderzijds dreigt overmatige regulering de innovatie te verstikken en de ontwikkeling van nieuwe technologieën zoals OpenAI’s ChatGPT of Google Bard te belemmeren. Voorlopig lijkt Europa te kiezen voor strengere regels, wat vooral China een concurrentievoordeel zou kunnen opleveren.
Kunstmatige intelligentie biedt zowel grote kansen als uitdagingen. Het kan de productiviteit verhogen en veel taken automatiseren of vereenvoudigen. Tegelijkertijd kan het worden misbruikt voor desinformatie of deepfakes: nepbeelden en -video’s die voor de gemiddelde gebruiker moeilijk te onderscheiden zijn van echte.
De technologie heeft een enorm potentieel en zou wel eens de volgende industriële revolutie kunnen ontketenen. Het is dan ook geen wonder dat wettelijke regels noodzakelijk zijn.
AI Act vraagt om middelen
Brando Benifei, een Italiaans parlementslid en rapporteur voor de nieuwe verordening, benadrukt dat het belangrijk is een signaal aan de rest van de wereld af te geven over hoe innovatie kan worden ondersteund terwijl tegelijkertijd de democratie wordt beschermd. De meerderheid van de parlementariërs stemde voor de AI Act: 499 EP-leden steunden de wet, terwijl slechts 28 tegenstemden.
—De Europese Unie begon twee jaar geleden te werken aan het juridisch kader voor kunstmatige intelligentie, toen het onderwerp nog niet zo veel aandacht kreeg. De laatste fase van het werk valt samen met een periode waarin de ontwikkeling van AI in een stroomversnelling is geraakt en media, politici en het bedrijfsleven er serieus in geïnteresseerd zijn – zegt prof. Tomasz Trzciński, leider van de Computer Vision-werkgroep bij IDEAS NCBR.
De AI Act is het eerste document ter wereld dat een integrale aanpak van op kunstmatige intelligentie gebaseerde systemen reguleert. Het definieert risicocategorieën voor het gebruik van AI. Volgens het door het Europees Parlement aangenomen voorstel vallen onder de categorie gematigd risico onder andere deepfakes en emotieherkenning. Dit hangt samen met de eis tot transparantie: bedrijven zullen duidelijk moeten rapporteren hoe zij deze technologieën gebruiken.
AI-systemen die in het onderwijs of in openbare dienstverlening worden ingezet, zullen als risicovol worden beschouwd en onderworpen worden aan een strikte nalevingsbeoordeling.
Sam Altman, CEO van OpenAI, pleit voor AI-regulering
Sam Altman, CEO van OpenAI (ChatGPT), heeft mondiale organisaties opgeroepen om AI te reguleren. De Europese Unie heeft hier snel op gereageerd.
Het wetsvoorstel bevat enkele goede ideeën:
Maar de AI-wet is ook behoorlijk complex en brengt het paradoxale risico met zich mee dat de lat voor regelgeving te hoog wordt gelegd – het zou de innovatie kunnen beperken.
— Het reguleren van een “snel rijdende trein” heeft het voordeel dat het risico op een crash wordt geminimaliseerd, maar aan de andere kant zal de trein langzamer rijden dan concurrerende verbindingen. Het lijkt mij dat de richting goed is, maar het risico van het vertragen van de ontwikkeling van AI in Europa is aanzienlijk en beide kwesties moeten in aanmerking worden genomen bij het invoeren van mogelijke regelgeving – merkt prof. Trzciński op.
Het is ook onduidelijk hoe AI precies zal passen in de regelgeving voor gegevensprivacy en gegevensverwerking, zoals de AVG. Er is bezorgdheid dat er geen uitzonderingen zullen zijn op het auteursrecht, zodat sommige startups AI kunnen trainen op auteursrechtelijk beschermde gegevens, voornamelijk om het potentieel te beoordelen en meer te leren over de mogelijkheden van de technologie. Momenteel reageert de markt nogal nerveus op het idee dat kunstmatige intelligentie zichzelf kan trainen door bijvoorbeeld betaalde artikelen of illustraties van commerciële kunstenaars te lezen. Als dit niet mogelijk is, zal de ontwikkeling van AI zeker vertragen.
Voorlopig heeft de EU nog veel werk te doen. Er ligt een lange weg voor ons voordat de definitieve onderhandelingen zijn afgerond, aangezien de wet naar verwachting pas in 2026 in werking zal treden.
