ROTTERDAM– Transparantie en het voorkomen van discriminatie door algoritmen staan centraal in het eerste jaarverslag van de Algoritmeadviesraad (AAR) van de gemeente Rotterdam. Het rapport, dat de periode van augustus 2022 tot en met december 2023 beslaat, is een directe reactie op de lessen geleerd uit de toeslagenaffaire en benadrukt het belang van openheid over de toepassing van algoritmen.
De raad heeft zich ingezet om situaties zoals bij de toeslagenaffaire te voorkomen door algoritmen periodiek door te lichten op discriminatie en door de gemeente aan te sporen geen algoritmen toe te passen die beslissingen baseren op gegevens gerelateerd aan afkomst.
Specifiek adviseert de AAR de gemeente Rotterdam over het gebruik van gezichtsvergelijking in het proces Registratie Niet Ingeschrevenen (RNI). Dit bevat gegevens van mensen die in het buitenland wonen en een relatie hebben met de Nederlandse overheid. Iedereen die in de RNI staat ingeschreven, heeft een burgerservicenummer. De RNI is belangrijk voor mensen die korter dan 4 maanden in Nederland wonen of voor diegenen die vanuit Nederland naar het buitenland verhuizen en nog steeds zaken moeten regelen met de Nederlandse overheid. De AAB adviseert de gemeente Rotterdam om bij het gebruik van gezichtsvergelijking voor RNI, principes zoals transparantie en duidelijke verantwoordelijkheden te hanteren. De gemeente moet zelfstandig beslissen over het gebruik van algoritmen, waarbij de meerwaarde en risico’s duidelijk moeten zijn. Transparantie over de broncode en trainingsdata is essentieel, evenals heldere afspraken over de rol en verantwoordelijkheid van betrokken bedrijven. Bias moet gemonitord worden en verantwoording over het gebruik van algoritmen moet aan de gemeenteraad worden afgelegd.
Volgens de AAR is het verbeteren van het algoritmeregister een belangrijke stap naar transparantie en begrip van de algoritmes die door de overheid worden gebruikt. Door het visualiseren van procedures en het verminderen van de afhankelijkheid van experts, wordt het voor iedereen toegankelijker. Een brede technologische definitie van algoritmen helpt bij een grondige risicoanalyse en uitlegbaarheid zorgt voor vertrouwen en duidelijkheid, meent de AAR.
Het rapport komt op een moment dat de Rekenkamer haar vervolgonderzoek naar algoritmes afrondt. De bevindingen van de AAR, de interne evaluatie, en de conclusies en aanbevelingen van de Rekenkamer zullen in samenhang worden behandeld, met het doel om een verantwoord gebruik van algoritmen te waarborgen en de privacy en gelijkheid van mensen te respecteren.