Achter de gevel van virtuele romantiek schuilt een reële gevaar. Dat blijkt uit een nieuw onderzoek waaruit blijkt dat AI-chatbots een risico kunnen vormen voor privacy. Onder het glanzende oppervlak van een romance met kunstmatige intelligentie gaat een potentieel gevaarlijke realiteit schuil.
De Mozilla Foundation analyseerde elf chatbots en concludeerde dat ze allemaal twijfelachtig waren en de laagste privacybeoordeling kregen.
“Hoewel ze worden gepromoot als iets dat je geestelijke gezondheid en welzijn zal verbeteren, is hun werkelijke doel het creëren van verslaving, eenzaamheid en toxiciteit, terwijl ze tegelijkertijd zoveel mogelijk gegevens van je verzamelen,” aldus onderzoeker Misha Rykov.
Volgens het onderzoek maakt 73 procent van de applicaties niet bekend hoe ze omgaan met beveiligingsproblemen, laat 45 procent zwakke wachtwoorden toe, en delen of verkopen ze, met uitzondering van één app (Eva AI Chat Bot & Soulmate), persoonlijke informatie.
Bovendien stelt het privacybeleid van CrushOn.AI dat de app informatie kan verzamelen over de seksuele gezondheid van gebruikers, geneesmiddelen op recept en therapieën met betrekking tot genderidentiteit.
Sommige apps bieden chatbots aan met karakterbeschrijvingen waarin geweld of uitbuiting van minderjarigen voorkomt, terwijl andere waarschuwen dat de bots gevaarlijk of onvriendelijk kunnen zijn.
De Mozilla Foundation merkte op dat apps in het verleden gevaarlijk gedrag hebben aangemoedigd, waaronder zelfmoord (Chai AI) en een poging tot moord op wijlen koningin Elizabeth II (Replika).
Eva AI Chat Bot & Soulmate en CrushOn.AI reageerden niet op verzoeken om commentaar. Een vertegenwoordiger van Replika vertelde aan : “Replika heeft nooit gebruikersgegevens verkocht en ondersteunt geen advertenties. Het enige gebruik van gebruikersgegevens is om gesprekken te verbeteren.”
Mozilla raadt mensen die het aantrekkelijk vinden om met AI te werken aan om een paar voorzorgsmaatregelen te nemen, zoals: geen informatie delen die je niet met collega’s of familie zou willen delen, een sterk wachtwoord gebruiken, je afmelden voor AI-training en de toegang van de app tot andere mobiele functies, zoals locatie, microfoon en camera, beperken.
“Je zou niet moeten betalen voor coole nieuwe technologie met je veiligheid of privacy,” concludeerde het onderzoek.
