Pagrindiniai pasiėmimai
- „YouTube“automatinio amžiaus ribojimo programinė įranga kelia susirūpinimą dėl LGBTQ+ turinio platformoje.
- Bendrovę temdė ginčai dėl LGBTQ+ turinio kūrėjų, sustiprinančių abejones.
- Mašininio mokymosi šališkumas suteikia patikimumo idėjai, kad jos netobulas filtrų įdiegimas gali neteisingai apriboti prieigą.
Kadangi moderavimo procese buvo nesąžiningai taikoma LGBTQ+ turinio kūrėjai, naujoji „YouTube“dirbtiniu intelektu pagrįsta technologija laikoma kitu nerimą keliančiu technologijų milžino žingsniu.
Oficialiame „YouTube“tinklaraštyje praėjusią savaitę vaizdo įrašų bendrinimo platforma pristatė planus išleisti naują automatinę programinę įrangą, skirtą „nuosekliau taikyti amžiaus apribojimus“vaizdo įrašams, kurie laikomi netinkamais jaunesniems žiūrintiesiems.
Motyvuota neseniai susirūpinusių vaikų, naudojamų programoje, naujoji sistema yra pagrįsta mašininio mokymosi dirbtinio intelekto programine įranga su galimybe atsisakyti žmonių moderatorių, kad procesas būtų labiau automatizuotas. Klausimas? „YouTube“automatizuotos sistemos buvo apk altintos LGBTQ+ turinio ir kūrėjų išskyrimu tiesiog esamam.
Nr.
„Mašininį mokymąsi informuoja ir kuria žmonės, todėl gali būti, kad šie šališkumo trūkumai yra būdingi arba išmokti paties įrenginio“, – interviu telefonu su Lifewire sakė „YouTube“narys Rowanas Ellisas. „Jo šališkumas [LGBTQ+] turinio atžvilgiu buvo akivaizdus ankstesnėje [LGBTQ+] „YouTube“naudotojų patirtyje, ir aš nemačiau įrodymų, kad būtų kas nors padaryta, kad tai neįvyktų."
Vaikeli, dabar mums blogas kraujas
Ellis yra „YouTube“naudotojė, kurianti mokomąjį turinį su feministine ir keistu linkme, o 2017 m. paskelbė vaizdo įrašą apie įmonės ribotą režimą. Pradedant automatinį turinio moderavimą, šis režimas leido naudotojams pasirinktinai iš anksto patikrinti „potencialiai suaugusiesiems skirtą turinį“pagal paieškos pasiūlymus ir rekomendacijas.
Sulaukusi daugiau nei 100 000 peržiūrų, ji tiki, kad buvo sąmoningai stengiamasi neleisti jos kanalui apriboti, nes ji prieštarauja naujojo „YouTube“žingsnio link saiko pertekliaus. Kitiems platformos naudotojams nepasisekė, ir jie apie tai sužinojo „YouTube“.
2019 m. rugpjūčio mėn. aštuonių LGBTQ+ kūrėjų grupė apk altino Silicio slėnio kompaniją ribojant keistų ir trans-vaizdų vaizdo įrašų kūrėjus ir turinį, 2019 m. rugpjūčio mėn. Ieškinyje teigiama, kad svetainė naudoja „neteisėtą turinio reguliavimo, platinimo ir pajamų gavimo praktiką, kuri stigmatizuoja, riboja, blokuoja, demoetizuoja ir finansiškai kenkia LGBT ieškovams ir didesnei LGBT bendruomenei. Jis vis dar vyksta Kalifornijos teismuose.
Mašininį mokymąsi informuoja ir kuria žmonės, todėl gali būti, kad tam būdingi paklaidai arba kuriuos išmoksta pats įrenginys.
Tų pačių metų birželį platforma sulaukė didžiulio žiniasklaidos dėmesio po to, kai atsisakė greitai priekaištauti populiariam konservatorių komentatoriui Stevenui Crowderiui už mėnesius trukusią homofobišką priekabiavimo kampaniją prieš „Vox“žurnalistą ir laidų vedėją Carlosą Mazą. Tai patvirtino Elliso teigimu, internetinės platformos modelį, kuriuo nepaisoma unikalių iššūkių, su kuriais susiduria keistieji kūrėjai. LGBTQ+ kūrėjų nepasitikėjimas „YouTube“galimybe jiems pasirodyti nėra be nuopelnų.
„Nemanau, kad jie suprato skaidrumo socialinių klausimų ir lygybės užtikrinimo poreikį“, – sakė ji. „Visame pasaulyje vis dar yra vaikų, kurie užaugo su mintimi, kad būti gėjumi yra neteisinga, ir kai jie pradeda abejoti tuo įsitikinimu, tačiau saugiai paieškojus ar suvaržymo jį sustabdo, tai sustiprins šią idėją. yra neteisingas, netinkamas, suaugęs, iškrypęs ir nešvarus."
Automatinio mokymosi nepavyko
Turint niūrią istoriją, susijusią su LGBTQ+ turinio kūrėjais platformoje, vis dar kyla susirūpinimas dėl mašininio mokymosi programinės įrangos gebėjimo pastebėti didesnes normas. Markkulos taikomosios etikos centro vykdomasis direktorius Donas Heideris teigia, kad kvailystės galimybė yra per didelė lošimo rizika.
„Sunku patikėti, kad dirbtinis intelektas gali veiksmingai valdyti turinį iš kelių šalių, kuriose taikomos skirtingos kultūros normos ir standartai“, – rašė jis interviu el. paštu. "AI pernelyg dažnai laikomas atsakymu į sudėtingus klausimus. Šiuo metu AI ir jo kūrimo būdas sunkiai sprendžia net paprastas užduotis, jau nekalbant apie bet kokio sudėtingumo turinio moderavimą."
„YouTube“, kaip teigiama jos tinklaraštyje, nusprendė naudoti AI technologiją, nes moderatoriai nuosekliai netvarko. Didesnis kompiuterinių filtrų naudojimas netinkamais laikomiems vaizdo įrašams pašalinti tapo norma, o tų pačių procedūrų įgyvendinimas pagal amžiaus ribojimo politiką laikomas logišku kitu žingsniu.
Kadangi įmonė, siekianti palaipsniui tobulinti savo procesus po ilgalaikės kritikos dėl santykių su vaikais vartotojais, toks sprendimas nestebina.
Nemanau, kad jie suprato skaidrumo socialinių klausimų ir lygybės užtikrinimo būtinybę.
Vaikai tapo pagrindine vaizdo įrašų bendrinimo svetainės demografine dalimi. Rugpjūčio mėn. skaitmeninių vaizdo įrašų analizės įmonė „Tubular“nustatė, kad, be muzikinių vaizdo įrašų, vaikams skirtas turinys yra populiariausių „YouTube“vaizdo įrašų mėnesio pabaigos sąrašo viršuje.
Bendrovės interesas apsaugoti šią pelningą platformoje kylančią galiūną yra prasmingas. Tačiau priemonės, naudojamos šiai apsaugai užtikrinti, lieka nepatogios tiems, kurie jau atsidūrė po įmonės moderavimo procedūrų.
"Man neramu, kad tai padarys daug žalos ir neapsaugos [LGBTQ+] jaunimo, kuriam reikia informatyvaus, atviro ir sąžiningo turinio, kurį gali pateikti daugelis [LGBTQ+] YouTube naudotojų, tačiau jis bus pažymėtas sistemoje. kaip netinkama“, – sakė Elisas.„Net jei tai nėra piktybiška, o nemanau, kad tai yra, tai yra įvairių balsų indėlio trūkumas arba bent pagarbos trūkumas.
"Mes nuolat tai matome technologijų srityje. Kai žiūrite į veido atpažinimo funkciją, kuri neatskiria skirtingų juodaodžių veidų, arba kai žiūrime į mediciną ir matome, kad vaistai buvo išbandyti tik su tam tikra lytimi. yra didesni pokalbiai, o „YouTube“nuo to nėra atleista."
