Pagrindiniai pasiėmimai
- ToxMod, kurią sukūrė Bostone įsikūrusi įmonė „Modulate“, teigia aptinkanti trikdančią kalbą ir veikianti prieš ją automatiškai realiuoju laiku.
- Užuot ribojamą paprastomis kalbomis, ToxMod naudoja mašininį mokymąsi, kad išsiaiškintų neapčiuopiamus dalykus, pvz., emocijas, garsumą ir ritmą.
- ToxMod šiuo metu sukurtas naudoti žaidimų pokalbių kambariuose, tačiau nėra jokios priežasties, kad jis negalėtų patekti į jūsų „Twitch“kanalą.
$
ToxMod yra bandymas išspręsti bet kokios atviros erdvės internete paradoksą; nėra pakankamai žmonių, kad neatsiliktų nuo paklausos, bet algoritmai, filtrai ir ataskaitų sistema nesupranta niuansų.
Naudodama ToxMod duomenų bazę, ji gali sekti žaidėjų kalbos veiksnius, pvz., emocijas ir garsumą, o tai padeda atskirti trumpalaikį nutrūkimą nuo elgesio modelio. Neseniai buvo paskelbta, kad jis yra 7 prieš 7 amerikietiško futbolo žaidimo „Gridiron“, šiuo metu „Steam Early Access“, priedas.
„Visi žino, kad priekabiavimas, neapykantą kurstanti kalba ir toksiškumas balso pokalbiuose ir žaidimuose yra didžiulė problema. Tai paprastai suprantama“, – sakė Carteris Huffmanas, vyriausiasis technologijų pareigūnas ir „Modulate“įkūrėjas, „Google“susitikime su Lifewire. „Galėtume panaudoti ypatybes, kurias išgavome naudodamiesi įvairiomis mašininio mokymosi sistemomis, ir sujungti jas į sistemą, kurioje būtų atsižvelgta į visas šias ekspertines žinias, kurių mokėmės iš bendruomenės."
Visi sveikiname mūsų naujus robotų moderatorius
Modulate dirba su ToxMod nuo praėjusio rudens ir įtraukė ją kaip vieną iš trijų pagrindinių įmonės paslaugų. Jame taip pat siūloma „VoiceWear“– balso maskavimo priemonė, pagrįsta mašininiu mokymusi, ir „VoiceVibe“– kaupiklio paslauga, leidžianti naudotojams sužinoti, apie ką diskutuoja jų bendruomenių žmonės.
Kai ToxMod veikia pokalbyje, jį galima užprogramuoti per modulio administratoriaus skydelį, kad būtų atlikti įvairūs automatiniai veiksmai, pvz., įspėjimai, grotuvų nutildymas arba individualus garsumo reguliavimas.
Jis naudoja skirstymo sistemą, kai vietinis egzempliorius pirmiausia imasi veiksmų, prieš patikrindamas modulio serverius, kad patvirtintų. Tada jis galiausiai išauga iki tokio lygio, kai gali prireikti žmogaus įsikišimo. Atliekant kiekvieną patikrinimą paeiliui, kuriuos modulis vadina „skyrimo vartais“, idėja yra ta, kad „ToxMod“suteikia nedidelei moderatorių komandai įrankius, kuriais galima efektyviai valdyti daug didesnę bendruomenę.
"Liūdna tiesa yra ta, kad kiekvienas turėjo tokią patirtį, kai bandė naudotis balso pokalbiu bet kurioje platformoje, kurioje buvote, ir sužinojo, kad tai buvo bloga mintis", - sakė modulio generalinis direktorius Mike'as Pappas. vaizdo skambutis su Lifewire. "Galėti įeiti ir pasakyti: "Čia ne laukiniai vakarai. Yra taisyklės." Manau, kad tai tikrai svarbu."
Sistemos laužymas
Natūralu, kad antras arba trečias klausimas, kurį reikia užduoti apie ToxMod, yra kaip jį sulaužyti.
Dėl daugelio automatinių moderavimo sistemų, pvz., „Twitter“valdančių algoritmų, lengva žaisti su žmonėmis, kurių nemėgstate. Tiesiog masiškai praneškite apie taikinį pateikdami keletą lėlių paskyrų ir jie tikrai bus uždrausti.
„Pradiniame lygmenyje ToxMod nereikia pasikliauti tomis papildomomis žaidėjų ataskaitomis“, – sakė Pappas. „Jis vis dar gali pateikti patikimus įvertinimus, į kokius nusik altimus turime [kreipti] dėmesį. Jums nereikia jaudintis, kad žaidėjai bandys žaisti su sistema, nes iš tikrųjų nėra ką žaisti.
Visi žino, kad priekabiavimas, neapykantą kurstanti kalba ir toksiškumas balso pokalbiuose ir žaidimuose yra didžiulė problema.
„Viskas, ką galite valdyti kaip grotuvas, yra jūsų paties garso įrašas“, – tęsė Pappas. „Blogiausia, ką galite padaryti, tai būti mažiau blogam žmogaus atžvilgiu, kad nežymėtume jūsų kaip blogo aktoriaus, o tai, sakyčiau, yra kažkas artimo misijos sėkmei."
Apskritai, ToxMod idėja yra aktyvus atkūrimo bandymas. Daugelis žaidėjų šiuo metu patyrė tam tikrą atsitiktinių nepažįstamų žmonių priekabiavimą atvirais balso kanalais, pradedant atsitiktiniais įžeidimais ir baigiant aktyviais grasinimais. Dėl to žaidėjai paprastai vengia balso pokalbių ir nori atsisakyti jo patogumo mainais į savo ramybę.
„Tikimės, kad [blogi aktoriai praleidžia daug mažiau laiko balso pokalbyje, kol bus rasta ir pašalinta“, – sakė Pappas."Tai turi ne tik linijinį poveikį. Kai visi mato balso pokalbį kaip saugesnę vietą, daugiau gerų aktorių nori grįžti į balso pokalbį ir išbandyti. Manau, kad viskas gali pasisukti teigiama linkme."
