Het Ministerie van Financiën heeft bevestigd dat het kunstmatige intelligentie (AI) inzet in verschillende processen, waaronder het contact met belastingbetalers en andere ondersteunende activiteiten. Dit blijkt uit een reactie van Mariusz Gojny, staatssecretaris van het ministerie, op een interpellatie van parlementslid Hanna Gill-Piątek.
Gebruik van AI in projecten en processen
Volgens Gojny maakt het ministerie gebruik van een AI-systeem dat werkt op basis van diepe neurale netwerken. Dit systeem, genaamd OKO, is ontwikkeld als onderdeel van het MinFinTech-project, dat onder het overheidsprogramma GovTech Polska valt. Het project werd uitgevoerd door de Pools-Amerikaanse startup Tensorflight en ondersteunt operators van röntgenapparatuur bij het detecteren van objecten in inspectiefoto’s.
De oorspronkelijke versie van OKO kostte 660.000 PLN, waarvan 60.000 PLN werd toegekend als prijs in de GovTech-wedstrijd en 600.000 PLN als vergoeding voor de verdere ontwikkeling van de oplossing. Het ministerie werkt momenteel met eigen middelen aan de modernisering van de applicatie.
Daarnaast is AI geïmplementeerd in het Multi-Channel Communication Center (eMCeK), een project dat gericht is op het verbeteren van de klantenservice van de Belastingdienst (KAS). Hierbij worden tools zoals een Virtuele Klantenassistent, chatcommunicatie en Voicebots ingezet om belastingbetalers beter te ondersteunen. Dit project wordt uitgevoerd door het bedrijf Alfavox.
Voordelen en uitdagingen van AI in het openbaar bestuur
Volgens dr. Paweł Prociów, docent computerwetenschappen en expert in nieuwe technologieën, is het logisch dat overheidsinstellingen zoals het Ministerie van Financiën AI gebruiken om hun werkefficiëntie te verbeteren. Hij benadrukt echter dat AI, hoewel nuttig, niet zonder risico’s is.
Prociów wijst erop dat AI-modellen zoals ChatGPT zijn ontworpen om het meest waarschijnlijke antwoord te geven, maar dat dit niet altijd feitelijk correct is. Het gebruik van AI vereist daarom deskundigheid en kritisch denkvermogen om de gegenereerde resultaten op de juiste manier te interpreteren.
Daarnaast waarschuwt Prociów voor het risico dat gevoelige gegevens die via AI-systemen worden verwerkt, indirect toegankelijk kunnen worden voor andere gebruikers. Om dit te voorkomen, is het belangrijk om AI-systemen goed te isoleren en de nodige competenties te ontwikkelen binnen organisaties.
Het Ministerie van Financiën laat zien dat kunstmatige intelligentie een waardevol hulpmiddel kan zijn om de efficiëntie van processen te verhogen en belastingbetalers beter van dienst te zijn. Tegelijkertijd benadrukken experts dat het gebruik van AI zorgvuldig moet worden aangepakt, met oog voor veiligheid, deskundigheid en ethiek.
Kunstmatige intelligentie (AI) ontwikkelt zich in een razendsnel tempo en zal naar verwachting steeds vaker een rol spelen binnen het openbaar bestuur. Volgens het Poolse beleid voor AI-ontwikkeling moet het openbaar bestuur duidelijke normen stellen voor het gebruik van deze technologie, met bijzondere aandacht voor de principes van zogenaamde betrouwbare kunstmatige intelligentie. Deze principes en vereisten zijn opgenomen in de EU-richtlijnen voor betrouwbare AI.
Noodzaak van risicoanalyse en ethiek
Maciej Chojnowski, programmadirecteur van het Center for Ethics in Technology van het Humanites Institute en lid van de Werkgroep AI bij de Kanselarij van de Premier, benadrukt het belang van een grondige voorbereiding. Hij stelt dat publieke instellingen – voordat zij AI-systemen implementeren – minimaal een voorlopige risicoanalyse zouden moeten uitvoeren om de impact en mogelijke risico’s van deze technologie binnen specifieke domeinen te evalueren.
Chojnowski coördineert momenteel de werkzaamheden aan een rapport over het verantwoord gebruik van AI in de publieke sector. Deze inspanning maakt deel uit van de subgroep Ethiek en Recht binnen de Werkgroep AI van de Kanselarij van de Premier. “Vorig jaar publiceerden we bij het Center for Ethics in Technology van het Humanites Institute de eerste Poolstalige inleiding tot AI-ethiek. Deze publicatie kwam tot stand onder de bescherming van GovTech Polska en in samenwerking met GRAI,” aldus Chojnowski.
Gebrek aan ethisch overleg
Ondanks de groeiende aandacht voor AI binnen het openbaar bestuur, merkt Chojnowski op dat hij tot op heden geen verzoeken heeft ontvangen voor ethisch advies bij AI-projecten die door publieke instellingen worden uitgevoerd. Dit onderstreept volgens hem de noodzaak om niet alleen technische, maar ook ethische aspecten van AI in de publieke sector te integreren en te versterken.
Toekomstperspectief
De integratie van AI in het openbaar bestuur biedt veelbelovende mogelijkheden, maar vereist tegelijkertijd een verantwoordelijke aanpak. Door normen te stellen en ethische overwegingen te betrekken bij het gebruik van AI, kan de technologie op een veilige en betrouwbare manier worden ingezet, ten gunste van burgers en de samenleving als geheel.
