Keeawayt
- Uusi tutkimus paljastaa, että ihmiset eivät pysty erottamaan tekoälyn luomia kuvia todellisista.
- Osallistajat pitivät tekoälyllä luotuja kuvia luotettavammiksi.
- Asiantuntijat uskovat, että ihmisten pitäisi lakata luottamasta kaikkeen, mitä he näkevät Internetissä.
Sanonta "näkeminen on uskomista" ei ole enää ajankohtainen Internetin suhteen, ja asiantuntijat sanovat, että se ei parane pian.
Äskettäisessä tutkimuksessa havaittiin, että tekoälyn (AI) luomat kuvat kasvoista eivät olleet vain erittäin valokuvarealistisia, vaan ne myös vaikuttivat hyveellisiltä kuin todelliset kasvot.
"Arviomme tekoälyllä syntetisoitujen kasvojen fotorealismista osoittaa, että synteesimoottorit ovat kulkeneet kummallisen laakson läpi ja pystyvät luomaan kasvoja, jotka ovat erottumattomia ja luotettavampia kuin todelliset kasvot", tutkijat huomauttivat.
Sitä henkilöä ei ole olemassa
Tutkijat, tohtori Sophie Nightingale Lancasterin yliopistosta ja professori Hany Farid Kalifornian yliopistosta Berkeleystä, suorittivat kokeet tunnustettuaan laaj alti julkisuuteen tulleet syvän väärennösten uhat, jotka vaihtelivat kaikenlaisista verkkopetoksista virkistävään disinformaatiokampanjat.
"Ehkä tuhoisin on se seuraus, että digitaalisessa maailmassa, jossa mikä tahansa kuva tai video voidaan väärentää, minkä tahansa hankalan tai ei-toivotun tallenteen aitous voidaan kyseenalaistaa", tutkijat väittivät.
He väittivät, että vaikka automaattisten tekniikoiden kehittäminen syvälle väärennetyn sisällön havaitsemiseen on edistynyt, nykyiset tekniikat eivät ole tarpeeksi tehokkaita ja tarkkoja pysyäkseen jatkuvasti verkkoon ladattavan uuden sisällön virran mukana. Tämä tarkoittaa, että verkkosisällön kuluttajien tehtävänä on erottaa todellinen väärennöksestä, kaksikko ehdottaa.
Jelle Wieringa, KnowBe4:n turvallisuustietoisuuden puolestapuhuja, oli samaa mieltä. Hän kertoi Lifewirelle sähköpostitse, että itse todellisten syväväärennösten torjuminen on erittäin vaikeaa tehdä ilman erikoisteknologiaa. "[Liikennystekniikat] voivat olla kalliita ja vaikeita ottaa käyttöön reaaliaikaisissa prosesseissa, ja ne havaitsevat usein syvän väärennöksen vasta jälkikäteen."
Tällä oletuksella tutkijat suorittivat sarjan kokeita selvittääkseen, pystyvätkö osallistujat erottamaan huippuluokan syntetisoidut kasvot todellisista kasvoista. Testeissään he havaitsivat, että väärennösten tunnistamista koskevasta koulutuksesta huolimatta tarkkuusaste parani vain 59 prosenttiin, kun se ilman koulutusta oli 48 prosenttia.
Tämä sai tutkijat testaamaan, voisiko luotettavuuden käsitys auttaa ihmisiä tunnistamaan keinotekoisia kuvia. Kolmannessa tutkimuksessa he pyysivät osallistujia arvioimaan kasvojen luotettavuuden, mutta huomasivat, että synteettisten kasvojen keskimääräinen arvosana oli 7.7 % luotettavampi kuin todellisten kasvojen keskimääräinen luokitus. Luku ei ehkä kuulosta suurelta, mutta tutkijat väittävät sen olevan tilastollisesti merkitsevä.
Deeper Fakes
Syvät väärennökset olivat jo suuri huolenaihe, ja nyt tämä tutkimus on mullistanut vedet entisestään, mikä viittaa siihen, että tällaiset korkealaatuiset väärennöskuvat voisivat lisätä kokonaan uuden ulottuvuuden esimerkiksi verkkohuijauksiin auttamalla luomaan lisää vakuuttavat valeprofiilit verkossa.
"Yksi asia, joka ohjaa kyberturvallisuutta, on ihmisten luottamus teknologioihin, prosesseihin ja ihmisiin, jotka yrittävät pitää heidät turvassa", Wieringa kertoi. "Syvät väärennökset, varsinkin kun niistä tulee fotorealistisia, heikentävät tätä luottamusta ja siten kyberturvallisuuden omaksumista ja hyväksymistä. Se voi johtaa siihen, että ihmiset tulevat epäluottamuksiksi kaikkeen, mitä he havaitsevat."
Chris Hauk, Pixel Privacyn kuluttajansuojamestari, oli samaa mieltä. Lyhyessä sähköpostivaihdossa hän kertoi Lifewirelle, että fotorealistinen syväväärennös voi aiheuttaa "tuhoa" verkossa, varsinkin näinä päivinä, jolloin kaikenlaisia tilejä voidaan käyttää kuvallisen henkilöllisyystodistuksen avulla.
Korjaustoimet
Onneksi Prosegur Securityn IoT-johtaja Greg Kuhn sanoo, että on olemassa prosesseja, joilla voidaan välttää tällainen vilpillinen todennus. Hän kertoi Lifewirelle sähköpostitse, että tekoälypohjaiset tunnistejärjestelmät vastaavat vahvistettua henkilöä luetteloon, mutta monissa on sisäänrakennettu suojakeino "elävyyden" tarkistamiseksi.
"Tällaiset järjestelmät voivat vaatia ja ohjata käyttäjää suorittamaan tiettyjä tehtäviä, kuten hymyilemään tai kääntämään päätäsi vasemmalle ja sitten oikealle. Nämä ovat asioita, joita staattisesti luodut kasvot eivät pystyisi suorittamaan", Kuhn kertoi.
Tutkijat ovat ehdottaneet ohjeita niiden luomisen ja levittämisen sääntelemiseksi yleisön suojelemiseksi synteettisiltä kuvilta. Ensinnäkin he ehdottavat syvälle juurtuneiden vesileimien sisällyttämistä itse kuva- ja videosynteesiverkkoihin, jotta kaikki synteettiset mediat voidaan tunnistaa luotettavasti.
Siihen asti Comparitechin yksityisyyden puolestapuhuja ja infosec-tutkimuksen toimittaja Paul Bischoff sanoo, että ihmiset ovat omillaan."Ihmisten on opittava olemaan luottamatta kasvot verkossa, aivan kuten olemme kaikki (toivottavasti) oppineet olemaan luottamatta näyttönimiin sähköposteissamme", Bischoff kertoi Lifewirelle sähköpostitse.
