De nieuwste OpenAI-modellen hebben het risico op het gebruik van kunstmatige intelligentie voor het maken van biologische wapens ‘aanzienlijk’ vergroot, aldus de Financial Times. Gisteren presenteerde OpenAI zijn nieuwe model, genaamd o1, aan de wereld.
Zoals de Britse krant meldt, promoot OpenAI de geavanceerdere mogelijkheden van deze nieuwe versie van ChatGPT, waarmee complexe wiskundige problemen kunnen worden opgelost en wetenschappelijke vraagstukken beantwoord. Deze vooruitgang wordt beschouwd als een belangrijke stap in de richting van het creëren van kunstmatige algemene intelligentie (AGI), machines met cognitieve vermogens op menselijk niveau.
Volgens de systeemkaart die het o1-model beschrijft, wordt het nieuwe model geclassificeerd als een “gemiddeld risico” op het gebied van chemische, biologische, radiologische en nucleaire wapens. Dit is het hoogste risico dat OpenAI ooit aan een van zijn producten heeft toegekend. Het bedrijf heeft verklaard dat de technologie het vermogen van experts om biologische wapens te ontwikkelen “aanzienlijk heeft verbeterd.”
Yoshua Bengio, hoogleraar computerwetenschappen aan de Universiteit van Montreal en een van de voornaamste experts op het gebied van kunstmatige intelligentie, benadrukte dat als OpenAI momenteel een “gemiddeld risico” vormt voor chemische en biologische wapens, “dit de noodzaak en urgentie van regelgeving alleen maar onderstreept”, zoals bijvoorbeeld een wetsvoorstel in Californië dat deze sector wil reguleren.
Volgens prof. Bengio zal, naarmate kunstmatige-intelligentiemodellen steeds dichter bij het niveau van AGI komen, “het risico toenemen als er geen passende veiligheidsmaatregelen worden getroffen.” Hij waarschuwde ook dat het vermogen van AI om te redeneren en mensen te misleiden bijzonder gevaarlijk kan zijn.
Mira Murati, Chief Technology Officer van OpenAI, vertelde de Financial Times dat het bedrijf uiterst “voorzichtig” was met de publieke introductie van het o1-model vanwege de geavanceerde mogelijkheden. Toch zal het product breed beschikbaar zijn voor betalende ChatGPT-abonnees en ontwikkelaars via een API.
