De Rekenkamer Rotterdam heeft in 2021 een onderzoek gepubliceerd waarin ze waarschuwde voor de risico’s die kleven aan gebruik van algoritmes door de gemeente. Zo gebruikte de gemeente destijds een algoritme om te kiezen welke mensen met een uitkering voor een heronderzoek werden uitgenodigd. De rekenkamer concludeerde dat het algoritme mogelijk tot vooringenomen uitkomsten leidde. De rekenkamer deed verschillende aanbevelingen voor verbetering.
Op verzoek van de gemeenteraad heeft de rekenkamer opnieuw onderzocht hoe het ervoor staat met het gebruik van algoritmes door de gemeente Rotterdam. De rekenkamer concludeert nu dat de gemeente serieus aan de slag is gegaan met de aanbevelingen uit het eerdere onderzoek. De afgelopen twee jaar is er meer aandacht gekomen voor de risico’s van algoritmes. De gemeente heeft instrumenten ontwikkeld en afspraken gemaakt binnen de organisatie. Samen wordt dit de ‘algoritmegovernance’ genoemd. De rekenkamer constateert wel dat deze algoritmegovernance op veel punten nog te vaag is. Het is niet duidelijk welke waarden, normen en principes moeten worden afgewogen bij het ontwerp en gebruik van algoritmes. Daardoor komen gevoelige besluiten op het bordje van ambtenaren terecht, terwijl de politiek de ethische kaders moet bepalen. Ook heeft de gemeente nog onvoldoende inzicht in de gebruikte algoritmes en zijn medewerkers zich er nog te vaak niet van bewust dat zij met een algoritme werken.

In hoeverre is de algoritmegovernance van de gemeente Rotterdam toereikend voor een verantwoorde toepassing van algoritmes en in hoeverre leidt dit tot het beheersen van risico’s in de praktijk?