Honderden experts hebben een verklaring ondertekend waarin ze waarschuwen dat kunstmatige intelligentie (AI) de mensheid zou kunnen vernietigen. Dit risico moet net zo serieus worden genomen als de dreiging van een kernoorlog, aldus een verklaring geciteerd door USA Today op woensdag.
De verklaring van de deskundigen is uitgebracht door de niet-gouvernementele organisatie Center for AI Security (CAIS). Volgens CAIS is dit bedoeld om specialisten, journalisten en politici aan te moedigen een breed publiek debat te voeren over de risico’s van de snelle ontwikkeling van AI.
Waarschuwingen van AI-experts
Onder de 350 ondertekenaars van de verklaring bevinden zich Geoffrey Hinton, ook wel de ‘peetvader van kunstmatige intelligentie’ genoemd, die Google heeft verlaten om vrijelijk te waarschuwen voor de gevaren van AI. Ook Sam Altman, CEO van OpenAI, het bedrijf achter de populaire chatbot ChatGPT, en leiders van bekende AI-bedrijven zoals Google, DeepMind, Microsoft en Anthropic, hebben de verklaring ondertekend.
— “Als er iets misgaat met de ontwikkeling van deze technologie, kan het helemaal misgaan. (…) We willen samenwerken met de overheid om dit te voorkomen,” zei Altman onlangs tegen een Amerikaanse Senaatscommissie. Hij voegde eraan toe dat het bijzonder zorgwekkende scenario is dat AI “het vermogen ontwikkelt om zichzelf te repliceren en autonoom te worden.”
Hinton uitte zijn groeiende bezorgdheid over de snelle evolutie van AI-technologie, met name over het vermogen ervan om “eenvoudig cognitief redeneren te ontwikkelen,” aldus USA Today. Onlangs verklaarde Hinton dat het worstcasescenario van AI reëel is en dat “het heel goed mogelijk is dat de mensheid slechts een voorbijgaande fase is in de ontwikkeling van intelligentie.”
Gevaarlijke desinformatie
In een schriftelijk document voorafgaand aan zijn toespraak in de Senaat, schreef Altman dat volgens onafhankelijke deskundigen toezicht nodig is op AI-ontwikkelingen, vooral met betrekking tot het vermogen om “valse informatie te genereren,” oftewel de zogenaamde hallucinaties, en op het verstrekken van informatie over conventionele en onconventionele wapens.
Hinton benadrukt dat het belangrijk is dat AI onverwacht gedrag kan leren. Dit komt doordat mensen en bedrijven AI niet alleen toestaan om software te schrijven, maar ook om deze uit te voeren, wat uiteindelijk zou kunnen leiden tot autonome wapens.
De race tussen technologiebedrijven zou kunnen uitmonden in een race tussen landen die mogelijk niet door internationale regelgeving kan worden gecontroleerd, vergelijkbaar met wat er gebeurde met kernwapens, waarschuwde Hinton.
Andere experts stellen echter dat overdreven zorgen over AI onnodig zijn, omdat AI “een uiterst geavanceerd programmeerplatform is dat alleen zover kan gaan als mensen het toestaan,” aldus USA Today.
In een interview met de New York Times in mei zei Hinton: “Ik dacht dat AI pas over dertig tot vijftig jaar of langer intelligenter zou worden dan mensen.” Dat denk ik nu natuurlijk niet meer.”
