Som jag skrivit tidigare när det gäller ansiktsigenkänning, så tycker jag det är läskigt. Jag skulle vara ganska nöjd med om mitt ansikte aldrig kändes igen.
Men när ansiktsigenkänningsprogrammet inte uppfattar Joys ansikte som ett ansikte, medan det uppfattar en vit mask som ett ansikte – ja då är det lätt att inse att någon har gjort fel.
Och det är ett allvarligt fel, eftersom det innebär en snedvridning som påverkar redan utsatta grupper negativt, och som dessutom sprider sig snabbt över värden – lika snabbt som du laddar ned källkoden.
– Vem som kodar, hur vi kodar och varför vi kodar spelar roll, säger Joy Buolamwini.
Tidigare har jag skrivit om hur lätt det är att vi bygger in våra fördomar i de maskiner vi skapar.
Men Joy är inte den som bara knyter handen i fickan. Hennes initiativ Algorithmic Justice League samlar in kunskap om och belyser brister i de olika kodbibliotek som finns. Dessutom kan man som kodare få hjälp att undvika att skriva diskriminerande kod.
Du kanske också gillar:
Maskinerna börjar tala vårt språk, istället för att vi ska behöva tala deras 12 oktober 2016 Det är en tydlig trend, och det går snabbt framåt. Maskinerna börjar mer och mer förstå och lära sig använda vårt språk för att…
Kanske en lösning på stoppknappsproblematiken 12 augusti 2017 Okej, så vad är stoppknappsproblematiken? Jo, när vi väl har skapat en robot som är smartare än oss själva, är risken att den vill…- Hur maskiner känner igen fåglar – och hur de skapar dem 19 september 2016 När maskiner lär sig att känna igen någonting på en bild, till exempel en fågel, bygger man ett neuralt nätverk - en konstruktion som…
Maskiner som programmerar 3 oktober 2016 Maskiner som programmerar andra maskiner. Tänk dig hur det skulle kunna bli! I filmen Chappie från 2015, som handlar om en AI-robot som blir…
Svärmar av robotinsekter 15 februari 2018 TV-serien Black Mirror har rekommenderats mig, och egentligen är det konstigt att jag inte har upptäckt den tidigare. Hated in the Nation är det…- Vi är omgivna av fördomsfulla robotar 17 mars 2019 Jag har tidigare skrivit om hur maskiner kan ärva våra fördomar genom det sätt som maskininlärning fungerar på. Kriti Sharma talar om vi måste…