Pagrindiniai pasiėmimai
- Algoritminis šališkumas kenkia paaugliams, kurie daug laiko praleidžia internete, teigia ekspertai.
- Twitter naudotojai neseniai susidūrė su problema, kai juodi veidai buvo atrinkti b alti.
- Tyrėjų teigimu, besivystančios paauglių smegenys gali būti ypač jautrios žalingam algoritminio šališkumo poveikiui.
Kai kurioms technologijoms būdingas išankstinis nusistatymas, žinomas kaip algoritminis šališkumas, gali būti žalingas daugeliui grupių, tačiau ekspertai teigia, kad tai ypač žalinga paaugliams.
Algoritminis šališkumas, kai kompiuterinės sistemos rodo išankstinius rezultatus, yra vis didėjanti problema. „Twitter“naudotojai neseniai rado platformos šališkumo pavyzdį, kai vaizdų aptikimo algoritmas, apkarpantis nuotraukas, iškirsdavo juodus veidus, o ne b altus. Bendrovė atsiprašė už problemą, bet dar nepateikė pataisymo. Tai neobjektyvumo, su kuriuo susiduria paaugliai prisijungę prie interneto, pavyzdys, o tai daro daugiau nei bet kuri kita amžiaus grupė, sako ekspertai.
„Dauguma paauglių nežino, kad socialinės žiniasklaidos įmonės turi jas, kad reklamuotų konkretų turinį, kuris, jų nuomone, patiks naudotojams [siekiant] priversti juos kuo ilgiau likti platformoje“, – sakė dr. Mai- Ly Nguyen Steers, Duquesne universiteto Slaugos mokyklos docentė, tyrinėjanti paauglių / kolegijos studentų naudojimąsi socialiniais tinklais, sakė interviu el. paštu.
„Net jei yra tam tikras sąmoningumo algoritmas, nesulaukus pakankamai teigiamų įvertinimų ir komentarų, poveikis vis tiek yra stiprus ir gali turėti įtakos paauglių savigarbai“, – pridūrė Steers.
Smegenų vystymasis
Algoritminis šališkumas gali paveikti paauglius nenumatytais būdais, nes jų priekinė žievė vis dar vystosi, Mikaela Pisani, Rootstrap vyriausioji duomenų mokslininkė, paaiškino interviu el. paštu.
Negaus pakankamai teigiamų įvertinimų ir komentarų, poveikis vis dar yra stiprus ir gali turėti įtakos paauglių savigarbai.
„Paaugliai yra ypač pažeidžiami dėl „socialinio fabriko“reiškinio, kai algoritmai sukuria visuomenės grupes internetinėse platformose, o tai sukelia nerimą ir depresiją, jei nepatenkinami paauglių socialinio pritarimo poreikiai“, – sakė Pisani. „Algoritmai supaprastinami remiantis ankstesniais netobulais duomenimis, todėl stereotipai per daug reprezentuojami, o tapatybės formavimo būdai yra niuansesni.
"Žvelgiant plačiau, mums, kaip visuomenei, belieka abejoti, ar norime algoritmų, formuojančių mūsų paauglių keliones į pilnametystę, ir ar ši sistema netgi palaiko, o ne slopina asmeninį asmeninį augimą?"
Dėl šių problemų vis labiau reikia atsižvelgti į paauglius kuriant algoritmus, sako ekspertai.
„Remiantis vystymosi specialistų, duomenų mokslininkų ir jaunimo gynėjų indėliu, XXI amžiaus duomenų privatumo ir algoritminio projektavimo politika taip pat gali būti kuriama atsižvelgiant į konkrečius paauglių poreikius“, – sakė doktorantė Avriel Epps-Darling. Harvardo studentas, neseniai rašė. „Jei mes ir toliau sumenkinsime ar ignoruosime būdus, kuriais paaugliai yra pažeidžiami algoritminio rasizmo, žala greičiausiai atsilieps per ateinančias kartas.“
Kova su šališkumu
Kol nėra sprendimo, kai kurie mokslininkai bando rasti būdų, kaip sumažinti šališkų algoritmų daromą žalą jauniems žmonėms.
„Intervencijos buvo sutelktos į tai, kad paaugliai suprastų, kad jų socialinės žiniasklaidos modeliai neigiamai veikia jų psichinę sveikatą, ir bandoma sugalvoti strategijas, kaip tai sušvelninti (pvz., sumažinti socialinės žiniasklaidos naudojimą),“– sakė Steersas.
„Kai kurie mūsų kalbinti kolegijos studentai nurodė, kad jaučiasi priversti kurti turinį, kad išliktų „svarbu“, net jei nenori išeiti ar skelbtis“, – tęsė ji. "Tačiau jie mano, kad jiems reikia kurti turinį, kad išlaikytų ryšius su savo sekėjais ar draugais."
Galutinis atsakymas galėtų būti žmonių šališkumo pašalinimas iš kompiuterių. Tačiau kadangi programuotojai yra tik žmonės, tai yra sunkus iššūkis, sako ekspertai.
Vienas iš galimų sprendimų yra sukurti kompiuterius, kurie būtų decentralizuoti ir užprogramuoti taip, kad pamirštų išmoktus dalykus, sako Johnas Suitas, robotų įmonės KODA vyriausiasis technologijų direktorius.
„Per decentralizuotą tinklą duomenys ir tų duomenų analizė yra kaupiami ir analizuojami iš kelių taškų“, – interviu el. paštu sakė Suit. „Duomenys renkami ir apdorojami ne iš vieno AI proto apdorojimo jo algoritmo ribose, o šimtus ar net tūkstančius.
"Kai tie duomenys renkami ir analizuojami, senos "išvados" arba pertekliniai duomenys pamirštami. Naudojant šią sistemą, algoritmas, kuris galėjo prasidėti nuo šališkumo, ilgainiui ištaisys ir pakeis tą paklaidą, jei pasirodys, kad jis neteisingas."
Nors šališkumas gali būti sena problema, gali būti būdų, kaip su tuo kovoti, bent jau internete. Pirmas žingsnis yra sukurti kompiuterius, kurie atsikratytų išankstinių nusistatymų.
