Keeawayt
- Yritykset käyttävät yhä enemmän tekoälyä, joka selittää, miten se tuottaa tuloksia.
- LinkedIn lisäsi äskettäin tilaustulojaan käytettyään tekoälyä, joka ennusti asiakkaita, jotka ovat vaarassa peruuttaa, ja kuvaili, miten se päätyi johtopäätöksiinsä.
- Federal Trade Commission on sanonut, että tekoäly, jota ei voida selittää, voitaisiin tutkia.
Yksi kuumimmista uusista ohjelmistotrendeistä voisi olla tekoäly (AI), joka selittää, kuinka se saavuttaa tulokset.
Selitettävä tekoäly tuottaa tulosta, kun ohjelmistoyritykset yrittävät tehdä tekoälystä ymmärrettävämpää. LinkedIn lisäsi äskettäin tilaustulojaan käytettyään tekoälyä, joka ennusti peruutusvaarassa olevat asiakkaat ja kuvaili, miten se päätyi johtopäätöksiinsä.
"Selitetyssä tekoälyssä on kyse kyvystä luottaa tuottoon ja ymmärtää, kuinka kone pääsi sinne", Travis Nixon, SynerAI:n toimitusjohtaja ja Chief Data Science, Microsoft Financial Services, kertoi Lifewirelle sähköpostihaastattelussa..
"'Kuinka?' on kysymys monille tekoälyjärjestelmille, varsinkin kun tehdään päätöksiä tai tuotetaan tuloksia, jotka eivät ole ihanteellisia", Nixon lisäsi. "Meidän on tiedettävä, miksi tekoälyjärjestelmät tuottavat tuloksiaan eri rotujen epäoikeudenmukaisesta kohtelusta ja kaljupään sekoittamisesta jalkapalloon. Kun ymmärrämme "miten", se saa yritykset ja yksityishenkilöt vastaamaan kysymykseen "mitä seuraavaksi?""
Tutustu AI
AI on osoittautunut oikeaksi ja tekee monenlaisia ennusteita. Mutta tekoäly pystyy usein selittämään, miten se päätyi johtopäätöksiinsä.
Ja sääntelyviranomaiset panevat merkille tekoälyn selitettävyysongelman. Federal Trade Commission on sanonut, että tekoäly, jota ei voida selittää, voitaisiin tutkia. EU harkitsee tekoälylain hyväksymistä, joka sisältää vaatimuksia siitä, että käyttäjät voivat tulkita tekoälyn ennusteita.
Linkedin on yksi niistä yrityksistä, jotka uskovat, että selitettävissä oleva tekoäly voi auttaa lisäämään voittoja. Aiemmin LinkedIn-myyjät luottivat tietämykseensä ja käyttivät v altavasti aikaa offline-tietojen seulomiseen selvittääkseen, mitkä tilit todennäköisesti jatkavat liiketoimintaa ja mistä tuotteista he saattavat olla kiinnostuneita seuraavan sopimuksen uusimisen yhteydessä. Ongelman ratkaisemiseksi LinkedIn käynnisti CrystalCandle-nimisen ohjelman, joka havaitsee trendejä ja auttaa myyjiä.
Toisessa esimerkissä Nixon sanoi, että luodessaan kiintiöiden asettamismallia yrityksen myyntihenkilöstöä varten hänen yrityksensä pystyi sisällyttämään siihen selitettävän tekoälyn tunnistaakseen, mitkä ominaisuudet osoittivat onnistuneen uuden myyntityön.
"Tämän tuloksen avulla tämän yrityksen johto pystyi tunnistamaan, ketkä myyjät saivat "nopeasti" ja ketkä tarvitsivat valmennusta, kaikki ennen kuin suuria ongelmia ilmeni", hän lisäsi.
Monet käyttötavat selittävälle tekoälylle
Selittävää tekoälyä käytetään tällä hetkellä useimpien datatieteilijöiden suolistotarkastuksena, Nixon sanoi. Tutkijat ajavat malliaan yksinkertaisilla menetelmillä, varmistavat, että mikään ei ole täysin vialla, ja toimittavat sitten mallin.
"Tämä johtuu osittain siitä, että monet tietotieteen organisaatiot ovat optimoineet järjestelmänsä "ajan yli arvon" KPI:ksi, mikä on johtanut kiireisiin prosesseihin ja epätäydellisiin malleihin", Nixon lisäsi.
Olen huolissani siitä, että vastuuttomien mallien takaisku voi saada tekoälyteollisuuden takaisin vakavasti.
Ihmiset eivät usein ole vakuuttuneita tuloksista, joita tekoäly ei voi selittää. Raj Gupta, Cogiton insinööri, sanoi sähköpostissa, että hänen yrityksensä on tutkinut asiakkaita ja havainnut, että lähes puolella kuluttajista (43 %) olisi positiivisempi käsitys yrityksestä ja tekoälystä, jos yritykset kertoisivat selkeämmin niiden käytöstä. tekniikasta.
Eikä vain taloudellisista tiedoista saa apua selittävältä tekoälyltä. Yksi alue, joka hyötyy uudesta lähestymistavasta, on kuvadata, jossa on helppo osoittaa, mitkä osat kuvasta algoritmin mielestä ovat olennaisia ja missä ihmisen on helppo tietää, onko näillä tiedoilla järkeä, Samantha Kleinberg, Stevensin apulaisprofessori. Institute of Technology ja selitettävän tekoälyn asiantuntija kertoivat Lifewirelle sähköpostitse.
"Se on paljon vaikeampaa tehdä EKG:llä tai jatkuvalla glukoosimittaustiedolla", Kleinberg lisäsi.
Nixon ennusti, että selitettävissä oleva tekoäly olisi tulevaisuudessa jokaisen tekoälyjärjestelmän perusta. Ja ilman selitettävää tekoälyä, tulokset voivat olla ikäviä, hän sanoi.
"Toivon, että edistymme tällä alalla riittävän pitkälle, jotta voimme pitää selitettävää tekoälyä itsestäänselvyytenä tulevina vuosina ja että katsomme tuohon aikaan tänään yllättyneenä, että joku olisi tarpeeksi hullu ottamaan käyttöön malleja, joita he eivät ymmärtäneet., " hän lisäsi."Jos emme kohtaa tulevaisuutta tällä tavalla, olen huolissani siitä, että vastuuttomien mallien takaisku voi saada tekoälyteollisuuden takaisin vakavasti."
