Geoffrey Hinton wordt de ‘peetvader van de kunstmatige intelligentie’ genoemd. Nu, na het ontvangen van de Nobelprijs, gelooft hij dat zijn beweringen over de gevaren van AI geloofwaardiger zullen worden en dat mensen ze serieuzer zullen gaan nemen. Wij herinneren u eraan waarvoor hij waarschuwt.
Geoffrey Hinton is een 76-jarige onderzoeker die onder meer werkte bij Google, maar nam vorig jaar ontslag. Hij wilde vaker praten over het feit dat AI-systemen uit de hand kunnen lopen en bijvoorbeeld gevaarlijke robots kunnen aandrijven of de presidentsverkiezingen kunnen manipuleren. Nu roept hij bedrijven als Google, OpenAI en Meta op om te investeren in beveiliging en passende geavanceerde IT-systemen die op de ‘stop’-knop van AI-technologie kunnen drukken.
Gedurfde theorieën
Geoffrey Hinton kreeg de titel ‘Godfather of AI’ voor het ontwikkelen van baanbrekend onderzoek op het gebied van deep learning en neurale netwerken. Zijn werk was van groot belang voor de ontwikkeling van machine learning-algoritmen en vormt vandaag de dag de basis voor de ontwikkeling van kunstmatige intelligentie. Hinton was een van de eersten die bestudeerde hoe het menselijk brein informatie verwerkt. Dit leidde tot de creatie van neurale netwerkmodellen die in staat waren om te leren op een niveau dat vergelijkbaar is met dat van mensen.
Hinton introduceerde het concept van backpropagation, waarmee machines effectief kunnen leren van data. Zijn onderzoek heeft bijgedragen aan aanzienlijke vooruitgang op het gebied van beeldherkenning, spraak- en natuurlijke taalverwerking, en hij heeft veel vooraanstaande wetenschappers op het gebied van AI begeleid, waardoor nieuwe generaties onderzoekers zijn geïnspireerd.
De afgelopen jaren begon Hinton zijn zorgen te uiten over de potentiële gevaren van de opkomst van kunstmatige intelligentie. Nadat hij Google in 2023 verliet, benadrukte hij dat AI ‘existentiële risico’s voor de mensheid zou kunnen vormen, vooral in de context van desinformatie en autonome wapens’. Hinton roept op tot een verantwoorde ontwikkeling van technologie en de noodzaak van internationale regelgeving om misbruik ervan te voorkomen.
Gedurfde theorieën
Geoffrey Hinton kreeg de titel ‘Godfather of AI’ voor het ontwikkelen van baanbrekend onderzoek op het gebied van deep learning en neurale netwerken. Zijn werk was van groot belang voor de ontwikkeling van machine learning-algoritmen en vormt vandaag de dag de basis voor de ontwikkeling van kunstmatige intelligentie. Hinton was een van de eersten die bestudeerde hoe het menselijk brein informatie verwerkt. Dit leidde tot de creatie van neurale netwerkmodellen die in staat waren om te leren op een niveau dat vergelijkbaar is met dat van mensen.
Hinton introduceerde het concept van backpropagation, waarmee machines effectief kunnen leren van data. Zijn onderzoek heeft bijgedragen aan aanzienlijke vooruitgang op het gebied van beeldherkenning, spraak- en natuurlijke taalverwerking, en hij heeft veel vooraanstaande wetenschappers op het gebied van AI begeleid, waardoor nieuwe generaties onderzoekers zijn geïnspireerd.
De afgelopen jaren begon Hinton zijn zorgen te uiten over de potentiële gevaren van de opkomst van kunstmatige intelligentie. Nadat hij Google in 2023 verliet, benadrukte hij dat AI ‘existentiële risico’s voor de mensheid zou kunnen vormen, vooral in de context van desinformatie en autonome wapens’. Hinton roept op tot een verantwoorde ontwikkeling van technologie en de noodzaak van internationale regelgeving om misbruik ervan te voorkomen.
De Nobelprijs zal de geloofwaardigheid vergroten
Het winnen van de Nobelprijs gaf hem een nieuw platform voor zijn waarschuwingen. Hij gelooft nu, en benadrukt vaak, dat geavanceerde AI-systemen in staat zijn de resultaten ervan te begrijpen, wat een controversieel standpunt is in onderzoekskringen.
“Ik hoop dat deze [Nobelprijs – red.] mij geloofwaardiger maakt als ik zeg dat deze dingen daadwerkelijk betekenen wat ze zeggen,” zei Hinton.
Hinton deelt de Nobelprijs voor natuurkunde met John Hopfield van Princeton University voor hun werk sinds de jaren tachtig op het gebied van neurale netwerken. Dit werk vormt de basis voor veel AI-technologieën die tegenwoordig worden gebruikt, van gesprekken met ChatGPT tot het vermogen van Google Photos om te herkennen wie er precies op een gemaakte foto staat. Hieraan moet worden toegevoegd dat het onderscheid vooral betrekking heeft op werk dat begon in 2012, toen zij samen met twee promovendi van de Universiteit van Toronto, Alex Krizhevsky en Ilya Sutskever (de laatste is onder meer medeoprichter van OpenAI), gezamenlijk een project genaamd AlexNet – een neuraal netwerk dat afbeeldingen in foto’s moest herkennen.
AlexNet won later een wedstrijd voor beeldherkenningstechnologie, en de technologie erachter bleek essentieel voor de ontwikkeling van de huidige AI-boom. Hinton ontving in 2018 ook de Turing Award.
Hinton: De dreiging is reëel
Hinton’s prestaties laten zien dat hij absoluut een van de top-experts in de AI-sector is, en dat de industrie zijn waarschuwingen serieus moet nemen. Zijn onheilsvoorspellingen worden echter vaak genegeerd door de grootste bedrijven die AI ontwikkelen en komen zelden in de media. Dit komt deels omdat Hinton buiten bepaalde academische en technologische kringen relatief onbekend is, en zijn naam weinig betekent voor de gemiddelde internetgebruiker.
“We zitten in een situatie die de meeste mensen zich niet kunnen voorstellen: deze digitale intelligenties zullen veel slimmer worden dan wij, en als ze iets willen bereiken, zullen ze de controle willen overnemen,” aldus Hinton. Hij maakt zich ernstige zorgen over bedrijven zoals OpenAI, die werken aan de ontwikkeling van algemene kunstmatige intelligentie, terwijl AI-modellen steeds krachtiger worden.
Vorig jaar ondertekende de ‘peetvader van AI’ publiekelijk een voorstel waarin werd gesuggereerd dat bedrijven die met AI bezig zijn minstens een derde van hun middelen moeten besteden aan onderzoek naar de veiligheid en het ethisch gebruik van deze systemen. “Een van de dingen die overheden kunnen doen, is grote bedrijven verplichten om een veel groter deel van hun middelen aan veiligheidsonderzoek te wijden, zodat bedrijven zoals OpenAI veiligheidsonderzoek niet zomaar kunnen verwaarlozen,” aldus Hinton in een interview voorafgaand aan de Nobelprijs.
Het is vermeldenswaard dat Ilya Sutskever inmiddels niet meer bij OpenAI werkt. Hij verliet de organisatie om zich te concentreren op het ontwikkelen van “werkelijk veilige AI”, terwijl OpenAI zich steeds meer ontwikkelde tot een winstgericht bedrijf en zijn non-profitmissie opgaf. Het lijkt erop dat ze niet zoveel middelen aan veiligheid besteden als zou moeten.
Hinton benadrukte ook dat hij trots was op het feit dat een van zijn oud-studenten (Sutskever) betrokken was bij de kortstondige verwijdering van Sam Altman uit OpenAI in november vorig jaar. “OpenAI werd opgericht met een sterke focus op veiligheid. Het hoofddoel was het bevorderen van algemene kunstmatige intelligentie en ervoor zorgen dat deze veilig was,” zei Hinton dinsdag. “Maar na verloop van tijd werd duidelijk dat Sam Altman veel meer geïnteresseerd was in winst dan in veiligheid. Dat betreur ik,” voegde hij eraan toe.
