Apple heeft een nieuwe functie voor kunstmatige intelligentie (AI) stopgezet die regelmatig onjuiste samenvattingen van nieuwsartikelen genereerde. “Innovatie mag nooit ten koste gaan van het recht van burgers op betrouwbare informatie,” benadrukte Reporters Without Borders (RSF).
De techgigant kwam onder druk te staan om de functie terug te trekken nadat meldingen verschenen van foutieve samenvattingen die verwarring zaaiden bij gebruikers.
Problemen met AI-samenvattingen
Een woordvoerder van Apple verklaarde tegenover de BBC: “We werken aan verbeteringen en zullen deze beschikbaar maken in een toekomstige software-update.”
De functie veroorzaakte opschudding toen een door AI gegenereerde waarschuwing op Apple-apparaten ten onrechte meldde dat Luigi Mangione, een verdachte in de moordzaak van Brian Thompson, CEO van UnitedHealthcare, zichzelf van het leven had beroofd.
Deze fout bracht verschillende media, waaronder de BBC, ertoe klachten in te dienen over de betrouwbaarheid van de functie.
Kritiek van journalistieke organisaties
Reporters Without Borders waarschuwde voor de risico’s van het overhaast introduceren van AI-gestuurde functies in nieuwsvoorziening.
“Innovatie mag nooit de betrouwbaarheid van informatie ondermijnen,” stelde Vincent Berthier van RSF. “De functie mag pas opnieuw worden geïmplementeerd als het risico op het verspreiden van onjuiste koppen volledig is geëlimineerd.”
Verschillende persorganisaties drongen erop aan dat Apple de functie tijdelijk zou uitschakelen. Ze benadrukten dat AI-fouten niet alleen desinformatie verspreiden, maar ook het vertrouwen in nieuwsorganisaties ondermijnen door valse koppen te tonen naast hun logo’s.
Reactie van Apple
Apple heeft inmiddels bevestigd dat de functie volledig is uitgeschakeld in nieuws- en entertainment-apps.
“Voor de nieuwste bètaversies van iOS 18.3, iPadOS 18.3 en macOS Sequoia 15.3 zijn samenvattingen van meldingen in de categorie Nieuws en Entertainment tijdelijk niet beschikbaar,” aldus een woordvoerder van het bedrijf.
De BBC wees erop dat fouten in door AI gegenereerde samenvattingen niet alleen leiden tot desinformatie, maar ook schade toebrengen aan de reputatie van nieuwsorganisaties die streven naar betrouwbaarheid.
Apple werkt aan een oplossing, maar de kwestie onderstreept de uitdagingen en verantwoordelijkheden die gepaard gaan met de implementatie van AI in nieuwsvoorziening.
