Twitter julkisti avoimen kilpailunsa tulokset valokuvien rajausjärjestelmän vääristymien löytämiseksi.
Bunty-haaste avattiin heinäkuussa sen jälkeen, kun Twitterin käyttäjät osoittivat, että sivuston automaattinen rajaustyökalu suosi vaaleamman ihonväristen ihmisten kasvoja tummemman ihonväristen sijaan. Se herätti kysymyksiä siitä, kuinka ohjelmisto priorisoi ihonvärin ja tietyt tekijät muihin nähden.
Haasteen tarkoituksena oli selvittää, mitä muita bugeja ja harhoja rajausjärjestelmässä voi olla ongelmien korjaamiseksi.
Ensimmäisen sijan sai Bogdan Kulynych, jonka esitys osoitti, kuinka kauneussuodattimet pystyivät pelaamaan algoritmin pisteytysmallia, mikä puolestaan vahvistaa perinteisiä kauneusstandardeja. Lähetys osoitti, että algoritmi suosi nuoria ja ohuita kasvoja, joilla oli joko vaalea tai lämmin ihonsävy. Kulynych voitti 3 500 dollaria.
Toiseksi sijoittui HALT AI, Torontossa toimiva teknologiayritys, joka havaitsi vanhusten ja vammaisten kuvia, jotka oli leikattu pois valokuvista. Joukkue sai 2 000 dollaria toisen sijasta.
Kolmannen paikan ja 500 dollaria meni Roya Pakzad, Taraaz Researchin perustaja, joka havaitsi, että algoritmi suosi latinalaisten kirjainten rajaamista arabian kirjoitusten sijaan, mikä saattaa vahingoittaa kielellistä monimuotoisuutta.
Twitterin META-tiimin johtaja Rumman Chowdhury esitteli yksityiskohtaiset tulokset DEF CON 29:ssä. META-tiimi tutkii algoritmien tahattomia ongelmia ja karsii pois kaikenlaista sukupuoleen ja rotuun liittyvää ennakkoluulottomuutta, jota tällaisissa järjestelmissä voi olla.
Tästä kilpailusta saatuja tietoja käytetään vähentämään virheitä ja harhaa rajausalgoritmissa ja auttamaan varmistamaan kattavampi ympäristö.
