Het gebruik van kunstmatige intelligentie (AI) in de openbare ruimte gaat onvermijdelijk gepaard met het risico dat technologieën worden ingezet die personen volgen of zelfs bespioneren. Dat stelde Mirosław Wróblewski, voorzitter van het Bureau voor de Bescherming van Persoonsgegevens (UODO), in reactie op de concept-digitaliseringsstrategie voor Polen tot 2035.
Digitaliseringsstrategie voor Polen tot 2035
De digitaliseringsstrategie voor Polen tot 2035 is het eerste sectoroverschrijdende strategische document op het gebied van staatsinformatisering in de geschiedenis van het land. Zoals het Ministerie van Digitalisering (MC) op haar website benadrukt, is de uitvoering van deze strategie afhankelijk van interventies op meerdere terreinen, zoals burgerrechten, economische groei en technologische ontwikkeling, die verder gaan dan de traditionele focus op informatisering.
Reflectie op gegevensbescherming
Volgens de voorzitter van de UODO moet de ontwikkeling van digitalisering in Polen hand in hand gaan met een reflectie op de bescherming van persoonsgegevens. In zijn opmerkingen over de strategie waarschuwde Wróblewski voor de risico’s van het gebruik van technologieën zoals het Internet of Things (IoT) en AI in de openbare ruimte. Hij wees erop dat deze technologieën het risico vergroten van grootschalig toezicht en spionage.
Het IoT omvat een netwerk van fysieke objecten, uitgerust met sensoren, software en andere technologieën, die verbinding maken en gegevens uitwisselen via het internet. In dit verband vestigde Wróblewski de aandacht op het smart cities-project, dat een belangrijk onderdeel vormt van de digitaliseringsstrategie van Polen.
Gebrek aan mechanismen voor burgerinstemming
Wróblewski bekritiseerde de strategie omdat deze geen duidelijke mechanismen bevat voor het verkrijgen van toestemming van burgers voor gegevensverwerking. Hij benadrukte dat toestemming moet voldoen aan criteria zoals bewustzijn, vrijwilligheid en het ontbreken van negatieve gevolgen bij weigering of intrekking van toestemming. Het ontbreken van dergelijke mechanismen creëert volgens hem ruimte voor misbruik bij het gebruik van gegevens.
Verantwoordelijkheid en transparantie
De overheid heeft, net als de particuliere sector, de plicht om ethische principes te hanteren, transparantie te waarborgen en discriminatie te voorkomen, aldus Wróblewski. Wanneer een overheidsdienst bijvoorbeeld AI-gegenereerde content aan burgers verstrekt, moet deze verplicht worden om de burgers hierover te informeren. Bovendien moeten details over het gebruikte AI-model en de inhoud van prompts openbaar worden gemaakt in het Publieksinformatiebulletin.
Analyse van risico’s
Tot slot stelde de voorzitter van de UODO dat de strategie een grondige analyse van de risico’s van gegevensverwerking zou moeten bevatten. Hierbij moet worden beoordeeld of de voorgestelde oplossingen echt noodzakelijk zijn en of de beoogde doelen niet op een minder ingrijpende manier kunnen worden bereikt, zonder de rechten en vrijheden van betrokkenen te schenden.
Met deze aanbevelingen hoopt de UODO een balans te vinden tussen technologische vooruitgang en de bescherming van persoonlijke gegevens en privacy.
