De Amerikaanse Federal Communications Commission (FCC) heeft donderdag een verbod uitgevaardigd op robocalls waarbij gebruik wordt gemaakt van door kunstmatige intelligentie gegenereerde stemmen. Dit is een duidelijke boodschap dat misleiding van kiezers niet wordt getolereerd. Het besluit volgt op de controverse die in januari ontstond, toen kiezers een door AI gegenereerde opname hoorden van wat leek op de stem van president Joe Biden.
Volgens de Associated Press geeft het bevel de FCC de bevoegdheid om met onmiddellijke ingang boetes op te leggen aan bedrijven die door AI gegenereerde stemmen gebruiken in hun oproepen. Daarnaast kunnen dienstverleners die dergelijke bedrijven ondersteunen, worden geblokkeerd.
Strengere beperkingen op AI-gebruik vóór de verkiezingen
Het besluit komt op een moment dat de autoriteiten van New Hampshire een onderzoek uitvoeren naar geautomatiseerde oproepen die met AI waren gegenereerd en de stem van president Biden imiteerden. Deze oproepen waren gericht op kiezers in New Hampshire en hadden als doel hen te ontmoedigen deel te nemen aan de voorverkiezingen.
Een van de berichten luidde: “Bewaar je stem voor de verkiezingen van november.” Uiteraard verhindert stemmen tijdens de voorverkiezingen Amerikanen niet om deel te nemen aan de presidentsverkiezingen in november.
Deskundigen waarschuwen dat er dit jaar tijdens de Amerikaanse verkiezingscampagne nieuwe AI-gegenereerde desinformatie-instrumenten zullen worden ingezet.
Hoge boetes voor overtreders
Volgens de wetgeving inzake consumentenbescherming mogen telemarketeers over het algemeen geen geautomatiseerde of vooraf opgenomen berichten gebruiken om mobiele telefoons te bellen. Voor vaste lijnen geldt dat dergelijke oproepen alleen zijn toegestaan met voorafgaande schriftelijke toestemming van de ontvanger.
De nieuwe FCC-regels classificeren door AI gegenereerde stemmen in dezelfde categorie als vooraf opgenomen oproepen. Dit betekent dat dezelfde normen van toepassing zijn. Bedrijven die de regels overtreden, riskeren zware straffen, met boetes tot meer dan $23.000 per overtreding.
De FCC heeft in het verleden al gebruik gemaakt van consumentenbeschermingswetten om verstorende robocalls tijdens verkiezingen aan te pakken. Zo werd een boete van $5 miljoen opgelegd aan twee fraudeurs die kiezers, vooral in Afro-Amerikaanse gemeenschappen, valselijk waarschuwden dat stemmen per post kon leiden tot arrestatie, schuldincasso en gedwongen vaccinatie.
Bescherming voor consumenten
Naast het opleggen van boetes geeft de regelgeving ontvangers van ongewenste oproepen ook het recht om juridische stappen te ondernemen. Zij kunnen een schadevergoeding van maximaal $1.500 per ongewenste oproep eisen.
Met deze nieuwe regels zet de FCC een belangrijke stap in de strijd tegen AI-gegenereerde desinformatie en het beschermen van kiezers tijdens de verkiezingen.
