De Rekenkamer Rotterdam heeft in 2021 een onderzoek gepubliceerd waarin ze waarschuwde voor de risico’s die kleven aan gebruik van algoritmes door de gemeente. Uit het rekenkamerrapport uit 2021, Gekleurde Technologie, bleek onder meer dat de gemeente te weinig aandacht had voor de ethische risico’s bij het gebruik van algoritmes.
De rekenkamer concludeert nu, in het vervolgonderzoek Kleur bekennen, dat de gemeente serieus aan de slag is gegaan met de aanbevelingen uit het eerdere onderzoek. De afgelopen twee jaar is er meer aandacht gekomen voor de risico’s van algoritmes. De gemeente heeft instrumenten ontwikkeld en afspraken gemaakt binnen de organisatie. Samen wordt dit de ‘algoritmegovernance’ genoemd. Zo is bijvoorbeeld omschreven dat er voor nieuwe algoritmes een risico-inschatting moet worden gemaakt. Bij elk algoritme moet duidelijk zijn wat het doel is en of de risico’s daar tegenop wegen.

Maar de rekenkamer schrijft ook dat deze algoritmegovernance op veel punten nog te vaag is. Het is niet duidelijk welke waarden, normen en principes moeten worden afgewogen bij het ontwerp en gebruik van algoritmes. Daardoor komen gevoelige besluiten op het bordje van ambtenaren terecht, terwijl de politiek de ethische kaders moet bepalen. “Niet de computer, maar de Rotterdamse politiek is aan zet,” aldus rekenkamerdirecteur Marjolein van Asselt in haar voorwoord. Ook zijn het zicht op algoritmes en de bewustzijn erover nog onvoldoende.

De centrale onderzoeksvraag luidt als volgt:
In hoeverre is de algoritme- governance van de gemeente Rotterdam toereikend voor
een verantwoorde toepassing van algorit mes en in hoeverre leidt dit tot het beheersen
van risico’s in de praktijk ?

De centrale onderzoeksvraag is uitgewerkt in de volgende deelvragen:
1 Wat is de aard en omvang van de inzet van algoritmes binnen de gemeente?
2 Hoe is de governancestructuur en het bijbehorende instrumentarium voor de inzet
van algoritmes vormgegeven?
3 Is het instrumentarium om de risico’s van algoritmes te beheersen in lijn met de
heersende normen hieromtrent?
4 In hoeverre worden de risico’s beheerst bij algoritmes die de gemeente in de
praktijk inzet?