Keeawayt
- Algoritminen harha on haitallista nuorille, jotka viettävät paljon aikaa Internetissä, asiantuntijat sanovat.
- Twitterin käyttäjät kohtasivat äskettäin ongelman, jossa mustat kasvot erotettiin valkoisten kasvojen sijasta.
- Teini-ikäisten kehittyvät aivot voivat olla erityisen herkkiä algoritmisen harhaanjohtamisen vahingollisille vaikutuksille, tutkijat sanovat.
Joihinkin tekniikoihin leimattu ennakkoluulo, joka tunnetaan nimellä algoritminen harha, voi olla haitallista monille ryhmille, mutta asiantuntijoiden mukaan se on erityisen haitallista teini-ikäisille.
Algoritminen harha, kun tietokonejärjestelmät näyttävät ennakkoluuloisia tuloksia, on kasvava ongelma. Twitterin käyttäjät löysivät äskettäin esimerkin alustan harhaisuudesta, kun kuvia rajaava kuvantunnistusalgoritmi leikkasi mustat kasvot valkoisten hyväksi. Yritys pahoitteli ongelmaa, mutta ei ole vielä julkaissut korjausta. Asiantuntijat sanovat, että se on esimerkki ennakkoluulosta, jota teini-ikäiset kohtaavat käyttäessään verkkoa, mitä he tekevät enemmän kuin mikään muu ikäryhmä.
"Useimmat teini-ikäiset eivät tiedä, että sosiaalisen median yrityksillä on ne mainostaakseen tiettyä sisältöä, josta he uskovat käyttäjien pitävän [saadakseen heidät pysymään alustalla mahdollisimman pitkään", Dr. Mai- Ly Nguyen Steers, Duquesnen yliopiston hoitotyön korkeakoulun apulaisprofessori, joka tutkii sosiaalisen median käyttöä nuorten/opiskelijoiden keskuudessa, sanoi sähköpostihaastattelussa.
"Vaikka algoritmista olisi jonkin verran tietoisuutta, se, että tykkäyksiä ja kommentteja ei saada tarpeeksi, on silti voimakas ja voi vaikuttaa teini-ikäisten itsetuntoon", Steers lisäsi.
Aivojen kehittäminen
Algoritminen harha voi vaikuttaa teini-ikäisiin odottamattomilla tavoilla, koska heidän esiotsakuorinsa on vielä kehittymässä, Mikaela Pisani, Rootstrapin päätietotutkija, selitti sähköpostihaastattelussa.
Se, että tykkäyksiä ja kommentteja ei saa tarpeeksi, on edelleen voimakas ja voi vaikuttaa teinien itsetuntoon.
"Teinit ovat erityisen alttiita "Sosiaalisen tehtaan" ilmiölle, jossa algoritmit luovat yhteiskunnallisia klustereita verkkoalustoille, mikä johtaa ahdistukseen ja masennukseen, jos teinin sosiaalisen hyväksynnän tarpeet eivät täyty", Pisani sanoi. "Algoritmit yksinkertaistuvat aikaisemman epätäydellisen datan perusteella, mikä johtaa stereotypioiden yliedustamiseen identiteetin muodostumisen vivahteikkaampien lähestymistapojen kustannuksella.
"Laajemmasta näkökulmasta katsottuna meidän on myös jätettävä yhteiskunnan kysymys, haluammeko algoritmeja, jotka muovaavat teini-ikäisten matkaa aikuisuuteen, ja tukeeko tämä järjestelmä pikemminkin kuin tukahduttaa yksilön henkilökohtaista kasvua?"
Näiden ongelmien vuoksi on kasvava tarve pitää teini-ikäiset mielessä algoritmeja suunniteltaessa, asiantuntijat sanovat.
"Kehitysasiantuntijoiden, datatieteilijöiden ja nuorten puolestapuhujien palautteen perusteella 2000-luvun tietosuojaa ja algoritmista suunnittelua koskevia käytäntöjä voitaisiin rakentaa myös nuorten erityistarpeet huomioon ottaen", Avriel Epps-Darling, tohtori Harvardin opiskelija, kirjoitti äskettäin. "Jos sen sijaan edelleen vähättelemme tai jätämme huomiotta tapoja, joilla teini-ikäiset ovat alttiita algoritmiselle rasismille, vahingot tulevat todennäköisesti heijastumaan tuleville sukupolville."
Taistelu harhaanjohtamisesta
Kunnes ratkaisua on löydetty, jotkut tutkijat yrittävät löytää tapoja vähentää puolueellisten algoritmien aiheuttamaa vahinkoa nuorille.
Toiminnoissa on keskitytty siihen, että teinit ymmärtävät, että heidän sosiaalisen median toimintamallinsa vaikuttavat kielteisesti heidän mielenterveyteensä, ja yritetään keksiä strategioita sen lieventämiseksi (esim. sosiaalisen median käytön vähentäminen), Steers sanoi.
"Jotkut haastattelemistamme korkeakouluopiskelijoista ovat ilmoittaneet, että heidän on pakko luoda sisältöä, joka pysyy "olennaisena", vaikka he eivät haluaisi lähteä ulos tai julkaista", hän jatkoi. "He kuitenkin kokevat, että heidän on luotava sisältöä ylläpitääkseen yhteyksiään seuraajiinsa tai ystäviinsä."
Perimmäinen vastaus voisi olla ihmisten ennakkoluulojen poistaminen tietokoneista. Mutta koska ohjelmoijat ovat vain ihmisiä, se on kova haaste, asiantuntijat sanovat.
Yksi mahdollinen ratkaisu on kehittää tietokoneita, jotka on hajautettu ja ohjelmoitu unohtamaan opitut asiat, sanoo John Suit, robotiikkayrityksen KODA:n teknologiajohtaja.
"Hajautetun verkon kautta dataa ja niiden analytiikkaa kootaan ja analysoidaan useista kohdista", Suit sanoi sähköpostihaastattelussa. "Dataa ei kerätä ja käsitellä yhdestä tekoälyn mielenkäsittelystä sen algoritmin rajoissa, vaan satoja tai jopa tuhansia.
"Kun näitä tietoja kerätään ja analysoidaan, vanhat "johtopäätökset" tai tarpeeton data unohtuu. Tämän järjestelmän avulla algoritmi, joka on mahdollisesti alkanut harhaan, korjaa ja korvaa tämän harhan, jos se osoittautuu vääräksi."
Vaikka ennakkoluulottomuus voi olla ikivanha ongelma, voi olla tapoja torjua sitä, ainakin verkossa. Ensimmäinen askel on suunnitella tietokoneita, jotka luopuvat ennakkoluuloistamme.
