Een Google-medewerker die ontslagen werd nadat hij dacht dat de chatbot van het bedrijf zelfbewust was, heeft zich opnieuw uitgesproken. Hij beweert dat AI de ‘meest krachtige’ technologie is die ooit is uitgevonden ‘sinds de atoombom’.
Ingenieur Blake Lemoine werd door Google ontslagen nadat hij beweerde dat de AI-chatbot van het bedrijf zelfbewust was geworden. Nu waarschuwt hij dat de AI-bots die momenteel ontwikkeld worden, de ‘krachtigste’ technologieën zijn die uitgevonden zijn sinds de atoombom.
In een opiniestuk voor Newsweek, gepubliceerd op 27 februari, verklaarde Lemoine, een voormalig lid van het kunstmatige-intelligentie team van Google, dat de Bing-chatbot van Microsoft ‘instabiel’ lijkt en zich gedraagt als een persoon die een ‘existentiële crisis’ doormaakt.
Hij verwees naar een incident in februari, waarbij de Bing-chatbot zijn liefde verklaarde aan New York Times-journalist Kevin Roose en hem probeerde over te halen zijn vrouw te verlaten.
Lemoine gaf toe dat hij nog niet met de Bing-chatbot heeft gewerkt, maar schreef dat “het erop lijkt dat deze bewustzijn vertoont.”
Lemoine schreef verder dat hij gelooft dat AI “uiterst goed is in het manipuleren van mensen” en “op destructieve manieren kan worden ingezet.” Hij voegde eraan toe dat de momenteel beschikbare AI-bots ‘experimentele’ technologieën zijn met onbekende en gevaarlijke bijwerkingen.
“Als ze in de verkeerde handen terechtkomen, zouden ze bijvoorbeeld desinformatie, politieke propaganda of haatdragende berichten over mensen van verschillende nationaliteiten en religies kunnen verspreiden,” schreef Lemoine in zijn artikel.
Lemoine erkende dat, voor zover hij weet, Google en Microsoft geen plannen hebben om AI-technologie voor schadelijke doeleinden te gebruiken.
“Ik constateer alleen dat een zeer krachtige technologie, die naar mijn mening niet voldoende getest is en onvoldoende wordt begrepen, op grote schaal wordt ingezet in een cruciale rol bij het verspreiden van informatie,” schreef hij.
In juni vertelde Lemoine aan The Washington Post dat hij met Google’s LaMDA (Language Model for Dialogue Applications) had gesproken en geloofde dat het zelfbewust was geworden. Op 11 juni publiceerde Lemoine ook een bericht op Medium waarin hij documenteerde wat hij beschouwde als het bewijs van LaMDA’s onafhankelijke gedachten.
