Keeawayt
- Uusi tutkimus viittaa siihen, että superälykästä tekoälyä ei ehkä ole mahdollista hallita.
- Ajolehtipaperi väittää, että tekoälyn hallinta vaatisi paljon kehittyneempää teknologiaa kuin meillä tällä hetkellä on.
- Jotkut asiantuntijat sanovat, että todella älykäs tekoäly saattaa olla täällä ennemmin kuin uskommekaan.
Jos ihmiset koskaan kehittävät superälykästä tekoälyä, sitä ei ehkä ole mahdollista hallita, tutkijat sanovat.
Tekoälyä on pitkään mainostettu joko parannuskeinona kaikkiin ihmiskunnan ongelmiin tai Terminator-tyyliseksi apokalypsiksi. Toistaiseksi tekoäly ei ole kuitenkaan päässyt lähelle edes ihmistason älykkyyttä. Mutta hihnassa pitäminen edistyneellä tekoälyllä voi olla liian monimutkainen ongelma ihmisille, jos sitä koskaan kehitetään, äskettäin Journal of Artificial Intelligence Research -lehdessä julkaistun artikkelin mukaan.
"Superälykäs kone, joka hallitsee maailmaa, kuulostaa tieteiskirjallisuudesta", Manuel Cebrian, yksi lehden kirjoittajista, sanoi lehdistötiedotteessa.
"Mutta on jo koneita, jotka suorittavat tiettyjä tärkeitä tehtäviä itsenäisesti ilman, että ohjelmoijat ymmärtävät täysin, kuinka he sen oppivat. Siksi herää kysymys, voisiko tästä tulla jossain vaiheessa hallitsematonta ja vaarallista ihmiskunnalle."
Tulee pian supertietokoneeseen lähelläsi
Päivälehti väittää, että tekoälyn hallinta vaatisi paljon kehittyneempää teknologiaa kuin meillä tällä hetkellä on.
Tiimi keksi tutkimuksessaan teoreettisen suojausalgoritmin, joka varmistaa, että superälykäs tekoäly ei voi vahingoittaa ihmisiä missään olosuhteissa. Se simuloi ensin tekoälyn käyttäytymistä ja pysäyttää sen, jos se katsotaan haitalliseksi. Mutta kirjoittajat havaitsivat, että tällaista algoritmia ei voida rakentaa.
"Jos ratkaiset ongelman teoreettisen tietojenkäsittelytieteen perussääntöihin, käy ilmi, että algoritmi, joka käskee tekoälyä olemaan tuhoamatta maailmaa, voisi vahingossa pysäyttää oman toimintansa." Iyad Rahwan, Saksan Max Planck Institute for Human Development Instituten ihmisten ja koneiden keskuksen johtaja, sanoi lehdistötiedotteessa.
"Jos näin tapahtuisi, et tietäisi, analysoiko suojausalgoritmi edelleen uhkaa vai onko se pysähtynyt sisältämään haitallista tekoälyä. Käytännössä tämä tekee suojausalgoritmista käyttökelvottoman."
Todella älykäs tekoäly saattaa olla täällä ennemmin kuin uskommekaan, väittää Michalis Vazirgiannis, tietojenkäsittelytieteen professori École Polytechniquesta Ranskassa. "Tekoäly on ihmisen artefakti, mutta siitä on nopeasti tulossa itsenäinen kokonaisuus", hän sanoi sähköpostissa Lifewirelle.
"Kriittinen kohta on, jos/kun esiintyy singulariteettia (eli kun tekoälyagenttien tietoisuus on kokonaisuus), ja siksi he vaativat riippumattomuutta, itsehillintää ja lopulta v alta-asemaa."
Singulariteetti on tulossa
Vazirgiannis ei ole yksin ennustaessaan superAI:n välitöntä saapumista. Tekoälyun todelliset uskovat puhuvat mielellään "singulaarisuudesta", jonka Vazirgiannis selittää, että tekoäly syrjäyttää ihmisen älykkyyden ja "että tekoälyalgoritmit mahdollisesti ymmärtävät olemassaolonsa ja alkavat käyttäytyä itsekkäästi ja yhteistyöhaluisesti".
Googlen suunnittelujohtajan Ray Kurzweilin mukaan singulariteetti saavutetaan ennen 2000-luvun puoliväliä. "Vuosi 2029 on johdonmukainen päivämäärä, jonka olen ennustanut, jolloin tekoäly läpäisee voimassa olevan Turingin testin ja saavuttaa siten ihmisen älykkyystason", Kurzweil kertoi Futurismille.
Jos emme pysty siivoamaan omaa taloamme, mitä koodia meidän pitäisi pyytää tekoälyä noudattamaan?
"Olen asettanut 'Singulariteetin' päivämääräksi 2045, jolloin moninkertaistamme tehokkaan älykkyytemme miljardinkertaiseksi sulautumalla luomaani älykkyyteen."
Mutta kaikki tekoälyasiantuntijat eivät ajattele, että älykkäät koneet ovat uhka. Kehitettävissä oleva tekoäly on todennäköisemmin hyödyllinen lääkekehityksessä, eikä se osoita todellista älykkyyttä, tekoälykonsultti Emmanuel Maggiori sanoi sähköpostihaastattelussa. "Tekoälyn ympärillä on suuri hype, mikä saa sen kuulostamaan todella vallankumoukselta", hän lisäsi. "Nykyiset tekoälyjärjestelmät eivät ole niin tarkkoja kuin julkistetut, ja ne tekevät virheitä, joita ihminen ei koskaan tekisi."
Ota tekoäly hallintaan, nyt
Tekoälyn säätäminen, jotta se ei pääse hallinnastamme, voi olla vaikeaa, Vazirgiannis sanoo. Yritykset hallitusten sijaan hallitsevat tekoälyn resursseja. "Jopa itse algoritmit tuotetaan ja otetaan käyttöön näiden suurten ja tehokkaiden, yleensä monikansallisten kokonaisuuksien tutkimuslaboratorioissa", hän sanoi.
"Siksi on ilmeistä, että osav altioiden hallituksella on yhä vähemmän v altaa tekoälyn hallitsemiseen tarvittaviin resursseihin."
Jotkut asiantuntijat sanovat, että superälykkään tekoälyn hallitsemiseksi ihmisten on hallittava laskentaresursseja ja sähkötehoa. "Scifi-elokuvat, kuten The Matrix, tekevät profetioita dystooppisesta tulevaisuudesta, jossa tekoäly käyttää ihmisiä biovoimanlähteinä", Vazirgiannis sanoi.
"Etäisistä mahdottomuksista huolimatta ihmiskunnan tulee varmistaa, että laskentaresurssit (eli tietokoneklusterit, grafiikkasuorittimet, supertietokoneet, verkot/viestintä) ja tietysti sähköä tuottavat voimalaitokset ovat riittävästi hallussa. haitallista tekoälyn toiminnalle."
Tekoälyn hallinnan ongelma on, että tutkijat eivät aina ymmärrä, kuinka tällaiset järjestelmät tekevät päätöksensä, Michael Berthold, datatieteen ohjelmistoyrityksen KNIMEn perustaja ja toimitusjohtaja, sanoi sähköpostihaastattelussa. "Jos emme tee sitä, kuinka voimme "hallita" sitä?"
Hän lisäsi: "Emme ymmärrä, kun tehdään täysin erilainen päätös meille merkityksettömien tietojen perusteella."
Ainoa tapa hallita tekoälyn käytön riskiä on varmistaa, että sitä käytetään vain silloin, kun riski on hallittavissa, Berthold sanoi. "Toisin sanoen, kaksi äärimmäistä esimerkkiä: Älä aseta tekoälyä ydinvoimalaitoksesi vastuulle, jossa pienellä virheellä voi olla katastrofaalisia sivuvaikutuksia", hän lisäsi.
"Toisa alta tekoäly ennustaa, jos huonelämpötilaa pitäisi säätää hieman ylös tai alas, saattaa hyvinkin olla sen pienen riskin arvoista asumismukavuuden kann alta."
Jos emme pysty hallitsemaan tekoälyä, meidän on parempi opettaa sille käytöstapoja, NASAn entinen tietokoneinsinööri Peter Scott sanoi sähköpostihaastattelussa. "Emme voi viime kädessä varmistaa tekoälyn hallittavuutta sen enempää kuin voimme taata lastemme hallittavuutta", hän sanoi.
"Kasvatamme heidät oikein ja toivomme parasta; toistaiseksi he eivät ole tuhonneet maailmaa. Jotta voimme kasvattaa heidät hyvin, tarvitsemme parempaa ymmärrystä etiikasta; jos emme pysty siivoamaan omaa taloamme, mitä koodia, pitäisikö meidän pyytää tekoälyä seuraamaan?"
Mutta kaikki toivo ei ole menetetty ihmiskunnan suhteen, sanoo tekoälytutkija Yonatan Wexler, OrCamin tutkimus- ja kehitysosaston varatoimitusjohtaja. "Vaikka edistys on todella vaikuttavaa, henkilökohtainen uskoni on, että ihmisen älykkyyttä ei pidä aliarvioida", hän sanoi sähköpostihaastattelussa. "Olemme lajina luoneet aivan uskomattomia asioita, mukaan lukien itse tekoäly."
Yhä älykkäämmän tekoälyn etsintä jatkuu. Mutta saattaa olla parempi harkita, miten hallitsemme luomuksiamme, ennen kuin on liian myöhäistä.
