The Coded Gaze

Het Nxt Lab opent deze zomer met de Nederlandse première van een serie van vier videowerken die zijn gemaakt door de Algorithmic Justice League, een organisatie die kunst en onderzoek combineert om de maatschappelijke gevolgen en nadelige effecten van kunstmatige intelligentie aan de kaak te stellen.

Allereerst in The Coded Gaze: Unmasking Algorithmic Justice. In dit werk onthult Joy Buolamwini, ‘Poet of Code’ en oprichter van de Algorithmic Justice League, haar persoonlijke frustrerende ervaringen met gezichtsherkenningstechnologie en laat ze zien dat het hoog tijd is dat AI op een rechtvaardigere en meer verantwoorde manier wordt ingezet. Door wat dieper te spitten in wat Buolamwini ‘the coded gaze’ noemt, laten de onderzoekers achter Gender Shades zien dat IBM, Microsoft en Face++ beter in staat zijn het geslacht van mannen te herkennen aan de hand van hun gezicht dan dat van vrouwen. De software had vooral moeite met gezichten van donkerder getinte vrouwen. Dit werk toont aan dat geautomatiseerde systemen niet neutraal zijn; ze zijn een afspiegeling van de prioriteiten, voorkeuren en vooroordelen van degenen die de macht hebben om kunstmatige intelligentie vorm te geven.

In het gesproken werk AI, Ain’t I A Woman? haalt Poet of Code / Joy Buolamwini praktijkvoorbeelden van dit onderzoek aan. Hierin laat ze zien hoe kunstmatige intelligentie de afbeeldingen van iconische zwarte vrouwen als Oprah, Serena Williams, Michelle Obama, Sojourner Truth, Ida B. Wells, en Shirley Chisholm totaal verkeerd kan interpreteren. Tot slot is er Voicing Erasure, een poëtisch stuk dat wordt voorgedragen door voorvechters van empowerment voor vrouwen en door vooraanstaande geleerden op het gebied van ras, gender en technologie. Dit werk stelt de volgende vraag: Is het acceptabel dat machines van siliconen en staal of vlees en bloed de bijdragen van vrouwen wissen? Dit werk is mede gebaseerd op nieuw onderzoek van Allison Koenecke.