Ilya Sutskever, mede-oprichter van OpenAI, verliet het bekende bedrijf achter de generatieve kunstmatige intelligentie ChatGPT omdat hij zich wilde richten op de ontwikkeling van ‘veilige AI’. Daarom richtte hij een start-up op genaamd Safe Superintelligence, die binnen enkele maanden een financiering van maar liefst één miljard dollar ontving.
Safe Superintelligence (SSI), mede opgericht door de voormalige hoofdwetenschapper van OpenAI, hoeft zich voorlopig geen zorgen te maken over financiering. Sutskever had geen moeite om investeerders te vinden voor zijn project.
Hoewel één miljard dollar een groot bedrag is, lijkt het in de context van AI-ontwikkeling misschien minder indrukwekkend. Het geld zal voornamelijk worden gebruikt voor rekenkracht, zoals servers en chips voor het trainen van AI-algoritmen. Bovendien is de start-up op zoek naar onderzoekers en ingenieurs om aan te nemen.
Veilige AI ontwikkelen
SSI is gericht op het ontwikkelen van “veilige superintelligentie”, dat wil zeggen AI-systemen die kunnen redeneren op hetzelfde of een hoger niveau dan mensen, maar die altijd onder controle van experts zullen staan.
In een open brief schreven de oprichters: “SSI is onze missie, onze naam en de basis van onze productroadmap, omdat het onze enige focus is. Dit betekent dat we ons niet laten afleiden door andere managementtaken of productcycli, en ons bedrijfsmodel beschermt veiligheid, beveiliging en vooruitgang tegen kortetermijn commerciële druk.”
Na een financieringsronde waarin grote spelers zoals Andreessen Horowitz en Sequoia Capital deelnamen, bedrijven die bekendstaan in de start-upwereld, wordt het bedrijf nu al gewaardeerd op vijf miljard dollar.
“Het is belangrijk voor ons om ons te omringen met investeerders die onze missie begrijpen, respecteren en ondersteunen: de ontwikkeling van veilige superintelligentie, en in het bijzonder om meerdere jaren te besteden aan onderzoek voordat we ons product lanceren,” zei Daniel Gross, mede-oprichter van SSI en voormalig AI-manager bij Apple, tegen Reuters.
Een klein bedrijf met groot kapitaal
Sutskever richtte de tienkoppige start-up op in juni van dit jaar, samen met Daniel Gross en Daniel Levy, een voormalige onderzoeker van OpenAI. Gross is de CEO van het bedrijf en Levy is hoofdwetenschapper geworden. Sutskever blijft werkzaam als wetenschapper binnen het team.
Ilya Sutskever verliet OpenAI in mei nadat hij bijna een jaar leiding had gegeven aan een ‘superalignment’-team dat zich richtte op existentiële bedreigingen die AI met zich meebrengt.
