Ook computers discrimineren vrouwen

Tegenwoordig pas je wel op je woorden want voor je het weet heb je iemand beledigd. Je zou daarom misschien denken dat een computer, die alleen denkt in enen en nullen, één van de weinige dingen zou zijn die geen onderscheid maakt tussen mensen. Maar ook computers hebben tegenwoordig schijnbaar een mening.

Webwinkelgigant Amazon besloot in 2014 om te beginnen met een zelflerend computerprogramma om de sollicitaties te automatiseren. Het systeem bekeek alle binnenkomende cv's en filterde die op bepaalde termen zoals opleiding of eerdere werkervaring. In theorie gaf de computer zo een lijst met kandidaten die net als de producten op de website een score tussen 1 en 5 sterren kregen. Het idee achter het systeem was dat je er 100 cv's in zou stoppen en je automatisch de 5 geschiktste kandidaten te zien kreeg.

Dat klinkt in eerste instantie als een vrij eenvoudig en bruikbaar systeem. De computer besloot echter dat cv's met het woord "women's" een sterretje minder verdienden. Die term wordt gebruikt in de naam van sommige universiteiten en hogescholen in de Verenigde Staten en staat dus zodoende ook op de cv's van solliciterende dames. Het systeem maakt gebruik van personeelsdata van de afgelopen 10 jaar. Doordat er in de tech-industrie met name mannen werken bedacht het systeem dat het woord "women's" een slechte parameter was gezien dat niet op mannelijke cv's voorkomt.

Er is nog geprobeerd het systeem wat bij te sturen door de term 'woman' niet mee te laten wegen in het rekenproces. Uiteindelijk heeft Amazon besloten om de stekker dan maar uit het project te trekken omdat de kans groot was dat het systeem dan wel een ander punt zou vinden om op te discrimineren.