Keeawayt
- Twitter toivoo voivansa korjata sen, mitä käyttäjät kutsuvat rotuvihaksi kuvien esikatseluohjelmistossaan.
- Teknologian jättiläisen kutsumus saattaa olla kulttuurinen laskelma, jota ala tarvitsee käsitelläkseen monimuotoisuuteen liittyviä kysymyksiä.
- Tekniikan monimuotoisuuden puute heikentää sen teknologisen kehityksen tehokkuutta.
Twitter aikoo käynnistää tutkimuksen kuvien rajausalgoritmistaan sen jälkeen, kun siitä tuli trendikäs aihe, joka sai aikaan laajempaa keskustelua monimuotoisuuskysymyksistä teknologia-alalla.
Sosiaalisen median juggernaut nousi otsikoihin sen jälkeen, kun käyttäjät havaitsivat ilmeisen rodullisen vinoutumisen sen kuvan esikatselualgoritmissa. Löytö tapahtui sen jälkeen, kun Twitter-käyttäjä Colin Madland käytti alustaa kertoakseen Zoomin epäonnistumisesta tunnistaa mustia kollegoitaan, jotka käyttivät vihreää näyttötekniikkaa, mutta suuressa ironiassa hän havaitsi Twitterin kuvien rajausalgoritmin käyttäytyneen samalla tavalla ja jättänyt mustien kasvojen tärkeysjärjestyksen.
Varmasti se on v altava ongelma mille tahansa vähemmistölle, mutta mielestäni on olemassa myös paljon laajempi ongelma.
Muut käyttäjät pääsivät mukaan trendiin, mikä sai aikaan sarjan virustviittejä, joissa algoritmi asetti jatkuvasti etusijalle valkoiset ja vaaleaihoiset kasvot ihmisistä sarjakuvahahmoihin ja jopa koiriin. Tämä epäonnistuminen on osoitus laajemmasta kulttuuriliikkeestä teknologiateollisuudessa, joka on jatkuvasti epäonnistunut ottamaan huomioon vähemmistöryhmiä, mikä on levinnyt tekniselle puolelle.
"Se saa vähemmistöt tuntemaan olonsa kamal alta, ikään kuin he eivät olisi tärkeitä, ja sitä voidaan käyttää muihin asioihin, jotka voivat aiheuttaa vakavampaa haittaa", Erik Learned-Miller, yliopiston tietojenkäsittelytieteen professori Massachusettsista, sanoi puhelinhaastattelussa."Kun olet päättänyt, mihin ohjelmistoa voidaan käyttää ja mitä haittoja voi esiintyä, alamme puhua tavoista minimoida niiden tapahtumisen."
Kanaria aikajanalla
Twitter käyttää hermoverkkoja rajatakseen automaattisesti twiitteihin upotetut kuvat. Algoritmin oletetaan tunnistavan kasvot esikatselua varten, mutta siinä näyttää olevan havaittavissa oleva valkoinen poikkeama. Yrityksen tiedottaja Liz Kelley twiittasi vastauksen kaikkiin huolenaiheisiin.
Kelley twiittasi: "Kiitos kaikille, jotka ottivat tämän esille. Testasimme puolueellisuuden ennen mallin lähettämistä, emmekä löytäneet testissämme näyttöä rotuun tai sukupuoleen kohdistuvasta puolueellisuudesta, mutta on selvää, että meillä on enemmän analyyseja teemme. Avaamme työmme, jotta muut voivat tarkistaa ja kopioida."
Valkoisen kirjan "Facial Recognition Technologies in The Wild: A Call for a Federal Office" toinen kirjoittaja Learned-Miller on johtava kasvopohjaisten tekoälyoppimisohjelmistojen ylilyöntejä tutkiva tutkija. Hän on keskustellut imago-oppimisohjelmistojen mahdollisista kielteisistä vaikutuksista vuosia ja on puhunut siitä, kuinka tärkeää on luoda todellisuus, jossa näitä harhoja lievitetään parhaan kykynsä mukaan.
Monet kasvojentunnistusteknologian algoritmit käyttävät tiedoille viitejoukkoja, jotka tunnetaan usein myös harjoitussarjoina, jotka ovat kokoelma kuvia, joita käytetään kuvien oppimisohjelmiston toiminnan hienosäätämiseen. Sen avulla tekoäly pystyy viime kädessä tunnistamaan helposti laajan valikoiman kasvoja. Näistä viitesarjoista voi kuitenkin puuttua monipuolinen joukko, mikä johtaa Twitter-tiimin kokemien k altaisiin ongelmiin.
"Se on tietysti v altava ongelma mille tahansa vähemmistölle, mutta mielestäni on olemassa myös paljon laajempi ongelma", Learned-Miller sanoi. "Se liittyy monimuotoisuuden puutteeseen teknologia-alalla ja keskitetyn sääntelyvoiman tarpeeseen, joka osoittaa tämänk altaisten tehokkaiden ohjelmistojen oikeat käyttötavat, jotka ovat alttiita väärinkäytölle."
Tekniikasta puuttuu monimuotoisuutta
Twitter saattaa olla uusin teknologiayritys leikkuulohkossa, mutta tämä ei ole kaukana uudesta ongelmasta. Tekniikkaala on edelleen pääosin valkoinen, jatkuvasti miesten hallitsema ala, ja tutkijat ovat havainneet, että monimuotoisuuden puute aiheuttaa systeemisten, historiallisten epätasapainojen replikaatiota kehitetyissä ohjelmistoissa.
New Yorkin yliopiston AI Now Instituten vuoden 2019 raportissa tutkijat havaitsivat, että mustien osuus maan huipputeknologiayritysten työvoimasta on alle kuusi prosenttia. Vastaavasti naisten osuus alan työntekijöistä on vain 26 prosenttia - tilastollisesti pienempi kuin heidän osuutensa vuonna 1960.
Se saa vähemmistöt tuntemaan olonsa kamal alta, aivan kuin he eivät olisi tärkeitä, ja sitä voidaan käyttää muihin asioihin, jotka voivat aiheuttaa vakavampaa haittaa.
Pinn alta katsottuna nämä edustuskysymykset saattavat tuntua arkipäiväisiltä, mutta käytännössä haitat voivat olla syvällisiä. AI Now Institute -raportin tutkijat ehdottavat, että tämä liittyy syy-yhteydessä ongelmiin, jotka liittyvät ohjelmistoihin, jotka eivät usein ota huomioon ei-valkoisia ja ei-miespopulaatioita. Olipa kyse siitä, että infrapunasaippua-annostelijat eivät havaitse tummempaa ihoa tai Amazonin tekoälyohjelmisto ei pysty erottamaan naisten kasvoja miesten kasvoista, teknologia-alan monimuotoisuuden huomioimatta jättäminen johtaa siihen, että teknologia ei pysty käsittelemään monimuotoista maailmaa.
"On monia ihmisiä, jotka eivät ole miettineet asioita läpi eivätkä todellakaan ymmärrä, kuinka nämä asiat voivat aiheuttaa haittaa ja kuinka merkittäviä nämä haitat ovat", Learned-Miller ehdotti tekoälykuvan oppimisesta. "Toivottavasti ihmisten määrä vähenee!"
