Faculteiten Universiteit Leiden werken aan verbetering gender-algoritmes

Het komt regelmatig voor dat algoritmes het geslacht van gebruikers van websites en apps verkeerd indelen. Bij twintig procent van de gebruikers gaat het fout blijkt uit onderzoek van de Universiteit Leiden. Bij vrouwen en mensen uit de LHBTI gemeenschap ligt dat percentage nog hoger. Het algoritme beoordeelt het geslacht bij acht procent van de hetero mannen fout.

Na eerder onderzoek en persoonlijke ervaringen, besloten docenten van de rechtenfaculteit en informatica om hun krachten te bundelen. Tessa Verhoef en Eduard Fosch Villaronga onderzoeken hoe deze algoritmes verbeterd kunnen worden. In het robotlab van de Leiden University is een proefopstelling gemaakt die veel gebruikte algoritmes moet verbeteren.

Fosch Vlilaronga legt uit dat algoritmes in binaire termen werken, dus man of vrouw. Terwijl er meerdere mogelijkheden zijn. “Het verkeerd inschatten van geslacht is niet alleen vervelend, soms ook pijnlijk, ze versterken bestaande en schadelijke stereotypen”, vertelt Verhoef. Het project moet een brug slaan tussen onderzoekers op het gebied van rechten en genderstudies en onderzoekers die zich bezig houden met algoritmes en digitale intelligentie. “Beide onderzoeksgebieden leren van elkaar, waardoor gevoeligheden en vooroordelen in de vakgebieden helder worden”, lichten Verhoef en Fosch Villaronga toe.

Leiden Maatschappij Science