Keeawayt
- Tekoäly ja koneoppimisalgoritmit seuraavat ihmisten käyttäytymistä ja voivat oppia manipuloimaan sitä, asiantuntijat sanovat.
- Tutkijat loivat äskettäin tavan löytää ja hyödyntää haavoittuvuuksia tavoissa, joilla ihmiset tekevät valintoja tekoälyn avulla.
- Kehittynein sosiaalisen median algoritmi tällä hetkellä on TikTok, yksi tarkkailija sanoo.
Tekoäly (AI) ja koneoppimisalgoritmit oppivat yhä enemmän vaikuttamaan käyttäjien käyttäytymiseen, asiantuntijat sanovat.
Australian kansallisen tiedeviraston tutkijat loivat äskettäin tavan löytää ja hyödyntää haavoittuvuuksia tavoissa, joilla ihmiset tekevät valintoja tekoälyn avulla. Uusin tutkimus on vain yksi tekoälyyn perustuvien järjestelmien aallosta, jotka on suunniteltu manipuloimaan ihmisen päätöksentekoa.
"Ei ole loppua monille tavoille, joilla tekoäly vaikuttaa jo käyttäytymiseen, " Kentaro Toyama, Michiganin yliopiston informaatiokoulun professori ja Geek Heresy: Rescuing Social Change from the Cult of Technology kirjoittaja, sanoi sähköpostihaastattelussa.
"Itse asiassa, jos olet koskaan tehnyt Google-haun ja seurannut linkkiä, tekoälyjärjestelmä on vaikuttanut sinuun, joka arvasi kiinnostuksen kohteesi ja palautti sinulle osuvimpia tuloksia."
AI vs. ihmiset
Australialaistutkimuksessa, joka julkaistiin äskettäin julkaistussa artikkelissa, ihmiset pelasivat tietokonetta vastaan erilaisissa kokeissa. Ensimmäisessä kokeilussa osallistujat napsautivat punaisia tai sinisiä ruutuja voittaakseen rahaa.
Tekoäly onnistui noin 70 % ajasta, sillä se oppi osallistujan valintamallit ja ohjasi heidät kohti tiettyä valintaa.
Toisessa kokeessa osallistujat katselivat näyttöä ja painoivat painiketta, kun heille näytettiin tietty symboli, tai eivät painaneet sitä, kun heille tarjottiin toista. Tekoäly oppi järjestämään symbolit uudelleen, joten osallistujat tekivät enemmän virheitä.
Tutkijat päättelivät kokeiden tuloksena, että tekoäly oppi osallistujien vastauksista. Kone tunnisti ja kohdisti haavoittuvuuksia ihmisten päätöksenteossa. Itse asiassa tekoäly voi manipuloida osallistujia tekemään tiettyjä toimia.
Se, että tekoäly tai koneoppiminen voi manipuloida ihmisiä, ei pitäisi olla yllätys, tarkkailijat sanovat.
"Tekoäly vaikuttaa käyttäytymiseemme joka päivä", Kyberturvallisuuden ja yrityshallinnon apulaisprofessori Tamara Schwartz York College of Pennsylvaniassa sanoi sähköpostihaastattelussa.
"Kuulemme jatkuvasti sosiaalisen median sovellusten, kuten Facebookin tai Twitterin, algoritmeista. Nämä algoritmit ohjaavat huomiomme niihin liittyvään sisältöön ja luovat kaikukammioefektin, joka puolestaan vaikuttaa käyttäytymiseemme."
TikTok katselee
Kehittynein sosiaalisen median algoritmi tällä hetkellä on TikTok, Schwartz sanoi. Sovellus analysoi, mistä olet kiinnostunut, kuinka kauan katsot jotain ja kuinka nopeasti ohitat jotain, ja tarkentaa sitten tarjontaansa, jotta pysyt katsomassa.
"TikTok on paljon riippuvuutta aiheuttavampi kuin muut alustat tämän tekoälyalgoritmin ansiosta, joka ymmärtää mistä pidät, miten opit ja kuinka valitset tietoa", hän lisäsi. "Tiedämme tämän, koska käyttäjien keskimääräinen aika TikTokissa on 52 minuuttia."
Ihmiskäyttäytymisen manipuloinnilla tekoälyllä voisi olla myönteistä käyttöä, väitti Chris Nicholson, tekoälyyrityksen Pathmindin toimitusjohtaja sähköpostihaastattelussa. Esimerkiksi julkiset terveysvirastot voisivat käyttää tekoälyä rohkaistakseen ihmisiä tekemään parempia päätöksiä.
Sosiaalinen media, videopelien valmistajat, mainostajat ja autoritaariset järjestelmät etsivät kuitenkin tapoja kannustaa ihmisiä tekemään päätöksiä, jotka eivät ole heidän etunsa mukaisia, ja tämä antaa heille uusia työkaluja siihen, hän lisäsi.
Tekoälykäyttäytymiseen vaikuttavat eettiset ongelmat ovat usein asteittaisia, Toyama sanoi. Tekoäly mahdollistaa kohdistetun mainonnan, jossa voidaan hyödyntää yksilöllisiä mieltymyksiä ja heikkouksia.
"Tekoälyjärjestelmä voi esimerkiksi tunnistaa ihmiset, jotka yrittävät lopettaa tupakoinnin, ja lisätä heidät houkuttelevilla tupakkamainoksilla", hän lisäsi.
Kaikki eivät ole samaa mieltä siitä, että tekoälyn manipulointi ihmisten käyttäytymisessä on ongelmallista. Sekä klassinen psykologia että tekoäly tarkkailevat tietoja, huomautti Stevens Institute for Artificial Intelligence -instituutin johtaja Jason J. Corso sähköpostihaastattelussa.
"Ihmistieteilijät ovat luultavasti parempia yleistämään havaintoja ja tislaamaan teorioita ihmisen käyttäytymisestä, jotka saattavat olla laajemminkin sovellettavissa, kun taas tekoälymallit pystyisivät paremmin tunnistamaan ongelmakohtaisia vivahteita", Corso sanoi.
"Eettisestä näkökulmasta katsottuna en näe näiden välillä eroa."
