Keeawayt
- Tekoälyjärjestelmä nimeltä DALL-E2 näyttää luoneen oman kirjallisen viestintäjärjestelmän.
- Jotkut asiantuntijat sanovat, että näennäinen kieli saattaa olla vain hölynpölyä.
- Se on esimerkki siitä, kuinka vaikeaa on tulkita kehittyneiden tekoälyjärjestelmien tuloksia.
Näyttää siltä, että tekoäly (AI) on kehittänyt oman kielensä, mutta jotkut asiantuntijat suhtautuvat väitteeseen skeptisesti.
OpenAI:n tekstistä kuvaksi tekoälyjärjestelmä nimeltä DALL-E2 näyttää luoneen oman kirjallisen viestintäjärjestelmän. Se on esimerkki siitä, kuinka vaikeaa on tulkita edistyneiden tekoälyjärjestelmien tuloksia.
"Suurien mallien koon ja syvyyden vuoksi on erittäin vaikea selittää mallien käyttäytymistä", iMeritin luonnollisen kielen ymmärtämisen ratkaisuarkkitehtuurin johtaja Teresa O'Neill kertoi Lifewirelle sähköpostihaastattelussa. "Tämä on yksi keskeisistä haasteista, ja joissakin tapauksissa eettisiä kysymyksiä yhä tehokkaammissa malleissa. Jos emme pysty selittämään, miksi he käyttäytyvät niin kuin he käyttäytyvät, voimmeko ennustaa heidän käyttäytymistään tai pitää sen normidemme ja odotustemme mukaisena?"
AI-chatit
Tietojenkäsittelytieteen opiskelija Giannis Daras totesi äskettäin, että DALLE-2-järjestelmä, joka luo kuvia tekstinsyötön perusteella, palauttaisi järjettömiä sanoja tekstinä tietyissä olosuhteissa.
"DALLE-2:n tunnettu rajoitus on, että se kamppailee tekstin kanssa", hän kirjoitti preprint-palvelimella Arxiv julkaistussa paperissa. "Esimerkiksi tekstikehotteet, kuten "kuva sanasta lentokone", johtavat usein luotuihin kuviin, jotka kuvaavat hölynpölyä tekstiä."
Mutta, kirjoitti Daras, näennäisen hölynpölyn takana voi olla menetelmä. "Huomaamme, että tämä tuotettu teksti ei ole satunnaista, vaan paljastaa piilotetun sanaston, jonka malli näyttää kehittyneen sisäisesti", hän jatkoi. "Esimerkiksi kun mallia syötetään tällä höperöllä tekstillä, malli tuottaa usein lentokoneita."
Twiitissään Daras huomautti, että kun DALLE-2:ta pyydettiin tekstittämään kahden maanviljelijän välinen keskustelu, se osoitti heidän puhuvan, mutta puhekuplat olivat täynnä järjettömiä sanoja. Mutta Daras huomasi, että sanoilla näytti olevan oma merkitys tekoälylle: maanviljelijät puhuivat vihanneksista ja linnuista.
Nicola Davolio, tekoälyn kanssa työskentelevän teknologiayrityksen Hupryn toimitusjohtaja, selitti Lifewirelle sähköpostihaastattelussa, että kieli perustuu symboleihin, joita DALL-E2-järjestelmä on oppinut yhdistämään tiettyihin käsitteisiin. Esimerkiksi "koiran" symboli voi liittyä koiran kuvaan, kun taas symboli "kissa" voi liittyä kissan kuvaan. DALL-E2 on luonut kielensä, koska se mahdollistaa tehokkaamman viestinnän muiden tekoälyjärjestelmien kanssa.
DALL-E2:n näennäisesti kätketyn sanaston k altaiset palapelit ovat hauskoja painia, mutta ne tuovat esiin myös raskaampia kysymyksiä…
"Kieli koostuu symboleista, jotka näyttävät egyptiläisiltä hieroglyfeiltä ja joilla ei näytä olevan mitään erityistä merkitystä", hän lisäsi. "Symbolit ovat luultavasti merkityksettömiä ihmisille, mutta ne ovat täysin järkeviä tekoälyjärjestelmälle, koska se on koulutettu miljooniin kuviin."
Tutkijat uskovat, että tekoälyjärjestelmä loi kielen auttaakseen sitä ymmärtämään paremmin kuvien ja sanojen välisiä suhteita, Davolio sanoi.
"He eivät ole varmoja, miksi tekoälyjärjestelmä kehitti kielensä, mutta he epäilevät, että sillä voi olla jotain tekemistä sen kanssa, kuinka se oppi luomaan kuvia", Davolio lisäsi. "On mahdollista, että tekoälyjärjestelmä on kehittänyt kielensä tehostaakseen viestintää eri verkon osien välillä."
AI-mysteerit
DALL-E2 ei ole ainoa tekoälyjärjestelmä, joka on kehittänyt sisäisen kielensä, Davolio huomautti. Vuonna 2017 Googlen AutoML-järjestelmä loi uuden hermoarkkitehtuurin muodon, nimeltään "lapsiverkko" sen jälkeen, kun hänen annettiin päättää, miten tietty tehtävä parhaiten suoritetaan. Ihmisten luojat eivät pystyneet tulkitsemaan tätä lapsiverkostoa.
"Nämä esimerkit ovat vain muutamia tapauksia, joissa tekoälyjärjestelmät ovat kehittäneet tapoja tehdä asioita, joita emme voi selittää", Davolio sanoi. "Se on nouseva ilmiö, joka on yhtä lailla kiehtova ja hälyttävä. Tekoälyjärjestelmien muuttuessa monimutkaisemmiksi ja autonomisemmiksi saatamme yhä useammin joutua sellaiseen asemaan, ettemme ymmärrä niiden toimintaa."
O'Neill sanoi, ettei hän usko, että DALL-E2 luo omaa kieltään. Sen sijaan hän sanoi, että syy ilmeiseen kielelliseen keksintöön on luultavasti hieman proosallisempi.
"Yksi uskottava selitys on satunnainen sattuma - niin suuressa mallissa saattaa päteä hieman Murphyn lakia: jos jotain outoa voi tapahtua, se todennäköisesti tapahtuu", O'Neill lisäsi. Toinen vaihtoehto, jonka tutkimusanalyytikko Benjamin Hilton ehdotti Darasin löydöistä kertovassa Twitter-ketjussa, on se, että ilmaisun "apoploe vesrreaitais" muoto matkii eläimen latinankielistä nimeä. Joten järjestelmä on synnyttänyt uuden Aves-järjestyksen, O'Neill lisäsi.
"DALL-E2:n näennäisesti kätketyn sanaston k altaisten palapelien kanssa on hauska painiskella, mutta ne tuovat esiin myös raskaampia kysymyksiä, jotka liittyvät riskiin, harhaan ja etiikkaan suurten mallien usein käsittämättömässä käytöksessä", O'Neill sanoi..
