Honderden zakenmensen, investeerders en experts op het gebied van kunstmatige intelligentie, waaronder Elon Musk, riepen in maart in een gezamenlijke brief op tot een pauze van ten minste zes maanden in de ontwikkeling van AI-systemen die capabeler zijn dan GPT-4. De ondertekenaars waarschuwen voor de onvoorspelbare gevolgen van de race om steeds krachtigere modellen te creëren.
Zoals de auteurs van de brief, gepubliceerd op de website van het Future of Life Institute, stellen, kan geavanceerde kunstmatige intelligentie een “diepgaande verandering in de geschiedenis van het leven op aarde” teweegbrengen en moet de ontwikkeling ervan met de nodige voorzichtigheid worden aangepakt.
“Helaas wordt dit niveau van planning en beheer niet toegepast, ook al hebben we de afgelopen maanden gezien dat AI-laboratoria verwikkeld zijn in een race om steeds krachtigere digitale geesten te ontwikkelen en in te zetten, die niemand – inclusief hun makers – volledig kan begrijpen, voorspellen of effectief kan controleren,” lezen we in de brief.
De brief waarschuwt dat een ongecontroleerde aanpak van de ontwikkeling van AI kan leiden tot een vloedgolf van desinformatie, massale automatisering van werk, en zelfs de vervanging van mensen door machines, wat uiteindelijk kan resulteren in ‘verlies van controle over de beschaving’.
“Sterke AI-systemen mogen alleen ontwikkeld worden als we zeker weten dat hun effecten positief zullen zijn en de risico’s beheersbaar blijven,” betogen de auteurs.
Ze roepen op tot een pauze van zes maanden in het trainen van systemen die verder gaan dan de recent uitgebrachte GPT-4 van OpenAI, die in staat is om verschillende soorten tests op een niveau vergelijkbaar met dat van de beste mensen te doorstaan. Ook pleiten ze voor de implementatie van alomvattende overheidsregels en toezicht op de ontwikkeling van nieuwe modellen.
Onder de ondertekenaars van de brief bevinden zich miljardair Elon Musk, mede-oprichter van Apple Steve Wozniak, Emad Mostaque – hoofd van Stability AI (producent van de Stable Diffusion beeldgenerator), en onderzoekers op het gebied van kunstmatige intelligentie van Stanford University, het Massachusetts Institute of Technology (MIT) en andere AI-gerelateerde universiteiten en laboratoria.
