De gemeente Rotterdam gebruikt ter ondersteuning van haar besluitvorming algoritmes. Algoritmes kunnen worden toegepast om besluitvorming sneller, doelmatiger en effectiever te laten plaatsvinden. Het gebruik van algoritmes brengt ook verschillende ethische risico’s met zich mee, bijvoorbeeld op het vlak van transparantie, verantwoordelijkheid en eerlijkheid. De gemeente heeft in het gemeentelijke programma Datagedreven Werken terechte aandacht voor de noodzakelijke borging van de kwaliteit en ethiek van algoritmes. Het ontbreekt op dit moment echter nog aan een volledig overzicht van het gebruik en de aard van algoritmes (een algoritmeregister), waardoor ook niet duidelijk is welke maatregelen genomen zouden moeten worden om de ethische risico’s te beheersen.Verder ontbreekt een centrale regisseur en integraal eindverantwoordelijke voor algoritmes. Binnen het gehele concern bestaan te weinig instrumenten om de transparantie en eerlijkheid van algoritmes te waarborgen. Verder zijn er geen richtlijnen voor de evaluatie van algoritmes. In dit rapport wordt dieper ingegaan op het algoritme ‘project analytics uitkeringsfraude’, een risicomodel voor rechtmatig gebruik van bijstand. De verantwoordelijkheid voor dit algoritme is niet goed georganiseerd, wat leidt tot onder meer te weinig aandacht voor de transparantie en de eerlijkheid van het algoritme. Keuzes rondom ethische vraagstukken zijn onnavolgbaar en er is een kans dat het algoritme tot vooringenomen uitkomsten leidt.

‘Gekleurde technologie’ is een verkennend onderzoek naar het gebruik van algoritmes bij de gemeente Rotterdam en de beheersing van eventuele ethische risico’s die daaruit voortvloeien.

De centrale vraag luidt als volgt:
Op welke manier maakt de gemeente Rotterdam gebruik van voorspellende en voorschrijvende algoritmes en hoe beheerst zij de ethische risico’s van deze algoritmes?