Keeawayt
- ToxMod, bostonilainen yritys Modulate, väittää havaitsevansa häiritsevän puheen ja toimivansa sitä vastaan automaattisesti, reaaliajassa.
- Yksinkertaisen kielen rajoittamisen sijaan ToxMod käyttää koneoppimista tunnistaakseen aineettomia asioita, kuten tunteita, äänenvoimakkuutta ja rytmiä.
- ToxMod on tällä hetkellä suunniteltu käytettäväksi pelin sisäisissä chat-huoneissa, mutta ei ole mitään syytä, ettei se voisi tulla Twitch-kanavallesi.
Bostonissa toimiva yritys luo koneoppimisen avulla maailman ensimmäisenä äänipohjaisena moderointipalvelun, joka pystyy erottamaan sen, mitä sanotaan ja mitä se tarkoittaa.
ToxMod on yritys ratkaista minkä tahansa avoimen tilan moderoinnin paradoksi Internetissä; ei ole tarpeeksi ihmisiä vastaamaan kysyntään, mutta algoritmit, suodattimet ja raporttijärjestelmä eivät ymmärrä vivahteita.
ToxModin tietokannan avulla se voi seurata pelaajien puheen tekijöitä, kuten tunteita ja äänenvoimakkuutta, mikä auttaa sitä erottamaan hetkellisen tauon ja käyttäytymismallin. Se julkistettiin äskettäin lisäyksenä amerikkalaisen jalkapallon 7v7-peliin Gridiron, joka on tällä hetkellä Steam Early Accessissa.
"Kaikki tietävät, että häirintä, vihapuhe ja myrkyllisyys äänikeskusteluissa ja peleissä ovat v altava ongelma. Se ymmärretään yleisesti", sanoi Carter Huffman, teknologiajohtaja ja Modulaten toinen perustaja Google-kokouksessa. Lifewire. "Voimme ottaa ne ominaisuudet, joita poimimme erilaisten koneoppimisjärjestelmien avulla, ja yhdistää ne järjestelmäksi, joka otti huomioon kaiken tämän asiantuntijatiedon, jonka opimme yhteisöltä."
Terveisiä uusille robottimoderaattoreillemme
Modulate on työskennellyt ToxModin parissa viime syksystä lähtien ja on sisällyttänyt sen yhdeksi yrityksen kolmesta ydinpalvelusta. Se tarjoaa myös VoiceWearin, koneoppimiseen perustuvan äänen naamioinnin, ja VoiceViben, aggregaattoripalvelun, jonka avulla käyttäjät voivat saada selville, mistä heidän yhteisönsä ihmiset keskustelevat.
Kun ToxMod on käynnissä chatissa, se voidaan ohjelmoida Modulaten hallintapaneelin kautta suorittamaan erilaisia automaattisia toimintoja, kuten antamaan varoituksia, mykistämään soittimia tai säätämään äänenvoimakkuutta yksilöllisesti.
Se käyttää triagejärjestelmää, jossa sen paikallinen ilmentymä ryhtyy ensimmäisenä toimiin, ennen kuin se tarkistaa Modulaten palvelimilta vahvistuksen. Sitten se lopulta kärjistyy pisteeseen, jossa se saattaa vaatia ihmisen väliintuloa. Suorittamalla jokaisen tarkistuksen vuorollaan, jota Modulate kutsuu "triage porteiksi ", ideana on, että ToxMod antaa pienelle moderaattoritiimille työkalut, joilla voidaan tehokkaasti valvoa paljon laajempaa yhteisöä.
"Surullinen totuus on, että jokaisella on kokemusta siitä, että hän on yrittänyt käyttää äänichattia millä tahansa alustalla, jolla olit, ja huomannut, että se oli huono idea", sanoi moduulin toimitusjohtaja Mike Pappas. videopuhelu Lifewiren kanssa. "Mahdollisuus mennä sisään ja sanoa: "Tämä ei ole villi länsi. Siellä on säännöt." Minusta se on todella tärkeää."
Järjestelmän rikkominen
Luonnollisesti toinen tai kolmas kysymys ToxModista on, kuinka se murtuu.
Monien automaattisten valvontajärjestelmien, kuten Twitterin algoritmien, avulla on helppo pelata niitä ihmisiä vastaan, joista et pidä. Ilmoita vain joukoittain kohteesi muutamalla sukkanukketilillä, niin he syövät luotettavasti kiellon.
"Perustasolla ToxModin ei tarvitse luottaa noihin ylimääräisiin pelaajaraportteihin", Pappas sanoi. "Se pystyy edelleen tuottamaan vankat arviot siitä, mihin rikoksiin meidän on [kiitettävä] huomiota. Sinun ei tarvitse huolehtia siitä, että pelaajat yrittävät pelata järjestelmää, koska pelissä ei ole oikeastaan mitään.
Kaikki tietävät, että häirintä, vihapuhe ja myrkyllisyys äänikeskusteluissa ja peleissä ovat v altava ongelma.
"Soittimena voit hallita vain omaa ääntäsi", Pappas jatkoi. "Pahinta, mitä voit tehdä, on olla vähemmän paha ihmisestä, jotta emme merkitse sinua huonoksi näyttelijäksi, mikä on jotain lähellä tehtävän menestystä."
Yleensä ToxModin idea on siis aktiivinen palautusyritys. Monet pelaajat ovat tässä vaiheessa kokeneet jonkinlaista häirintää satunnaisten tuntemattomien taholta avoimissa äänikanavissa, satunnaisista loukkauksista aktiivisiin uhkauksiin. Tämän seurauksena pelaajat yleensä karkaavat äänichattia ja luopuvat mieluummin sen mukavuudesta vastineeksi omasta mielenrauhastaan.
"Odotamme näkevämme [huonot näyttelijät viettävät] paljon vähemmän aikaa äänichatissa ennen kuin meidät löydetään ja poistetaan", Pappas sanoi."Sillä on enemmän kuin vain lineaarinen vaikutus. Kun kaikki näkevät äänichatin turvallisempana paikkana, enemmän hyviä näyttelijöitä ovat valmiita palaamaan äänikeskusteluun ja kokeilemaan sitä. Uskon, että kaikki voi pyöriä positiiviseen suuntaan."
