Pagrindiniai pasiėmimai
- AI ir mašininio mokymosi algoritmai stebi žmogaus elgesį ir gali išmokti juo manipuliuoti, sako ekspertai.
- Tyrėjai neseniai sukūrė būdą, kaip rasti ir išnaudoti pažeidžiamumą, kai žmonės pasirenka naudodamiesi dirbtiniu intelektu.
- Šiuo metu sudėtingiausias socialinės žiniasklaidos algoritmas yra „TikTok“, sako vienas stebėtojas.
Dirbtinis intelektas (DI) ir mašininio mokymosi algoritmai vis dažniau mokosi, kaip paveikti naudotojų elgesį, sako ekspertai.
Australijos nacionalinės mokslo agentūros tyrėjai neseniai sukūrė būdą, kaip rasti ir išnaudoti pažeidžiamumą, kai žmonės pasirenka naudodamiesi dirbtiniu intelektu. Naujausi tyrimai yra tik viena iš AI valdomų sistemų, skirtų manipuliuoti žmogaus sprendimų priėmimu, bangos.
„Daugeliui būdų, kuriais dirbtinis intelektas jau daro įtaką elgesiui, nėra pabaigos“, – sako Kentaro Toyama, Mičigano universiteto Informacijos mokyklos profesorius ir knygos „Geek Heresy: Rescuing Social Change from the Cult of Technology“autorius., sakė interviu el. paštu.
„Iš tiesų, jei kada nors atlikote „Google“paiešką ir ieškojote nuorodos, jus paveikė AI sistema, kuri atspėjo jūsų pomėgius ir pateikė rezultatus, kurie, jos manymu, jums labiausiai tinka.
AI prieš žmones
Neseniai paskelbtame Australijos tyrime žmonės įvairiuose eksperimentuose žaidė žaidimus prieš kompiuterį. Pirmojo eksperimento metu dalyviai spustelėjo raudonos arba mėlynos spalvos langelius, kad laimėtų pinigų.
AI buvo sėkmingas maždaug 70 % laiko, išmokdamas dalyvio pasirinkimo modelius ir nukreipdamas juos prie konkretaus pasirinkimo.
Kitame eksperimente dalyviai stebėjo ekraną ir paspaudė mygtuką, kai jiems buvo rodomas tam tikras simbolis, arba jo nepaspaudė, kai buvo pasiūlytas kitas. AI išmoko pertvarkyti simbolius, todėl dalyviai padarė daugiau klaidų.
Tyrėjai padarė išvadą, kad AI išmoko iš dalyvių atsakymų. Tada mašina nustatė ir nukreipė pažeidžiamumą žmonių priimant sprendimus. Tiesą sakant, AI gali manipuliuoti dalyviais, kad jie atliktų tam tikrus veiksmus.
Tas faktas, kad AI arba mašininis mokymasis gali manipuliuoti žmonėmis, neturėtų stebinti, sako stebėtojai.
„AI daro įtaką mūsų elgesiui kiekvieną dieną“, – interviu el. paštu sakė Tamara Schwartz, Pensilvanijos Jorko koledžo kibernetinio saugumo ir verslo administravimo docentė.
"Visą laiką girdime apie algoritmus socialinės žiniasklaidos programose, pvz., "Facebook" ar "Twitter". Šie algoritmai nukreipia mūsų dėmesį į susijusį turinį ir sukuria "aido kameros" efektą, o tai savo ruožtu daro įtaką mūsų elgesiui."
TikTok žiūri
Šiuo metu sudėtingiausias socialinės žiniasklaidos algoritmas yra „TikTok“, sakė Schwartzas. Programa analizuoja, kas jus domina, kiek laiko ką nors žiūrite ir kaip greitai ką nors praleidžiate, tada patobulina savo pasiūlymus, kad galėtumėte žiūrėti.
„TikTok yra daug labiau priklausomas nei kitos platformos dėl šio AI algoritmo, kuris supranta, kas jums patinka, kaip mokotės ir kaip renkatės informaciją“, – pridūrė ji. "Mes tai žinome, nes vidutinis laikas, kurį vartotojai praleidžia TikTok, yra 52 minutės."
Manipuliavimas žmogaus elgesiu dirbtiniu intelektu gali turėti teigiamos naudos, teigė Chrisas Nicholsonas, AI bendrovės Pathmind generalinis direktorius, duodamas interviu el. paštu. Pavyzdžiui, visuomenės sveikatos agentūros galėtų naudoti dirbtinį intelektą, kad paskatintų žmones priimti geresnius sprendimus.
„Tačiau socialinė žiniasklaida, vaizdo žaidimų kūrėjai, reklamuotojai ir autoritariniai režimai ieško būdų, kaip paskatinti žmones priimti sprendimus, kurie neatitinka jų interesų, ir tai suteiks jiems naujų priemonių tai padaryti. jis pridūrė.
Etinės problemos, susijusios su AI įtakojančiu elgesį, dažnai yra labai didelės, sakė Toyama. AI leidžia tikslingai reklamuoti, kai galima išnaudoti individualius pageidavimus ir trūkumus.
„Pavyzdžiui, dirbtinio intelekto sistema gali atpažinti žmones, kurie bando mesti rūkyti, ir pabarstyti juos viliojančiomis cigarečių reklamomis“, – pridūrė jis.
Ne visi sutinka, kad dirbtinio intelekto manipuliavimas žmogaus elgesiu yra problemiškas. Klasikinė psichologija ir AI stebi duomenis, interviu el. paštu pabrėžė Stevenso dirbtinio intelekto instituto direktorius Jasonas J. Corso.
"Žmonių mokslininkai tikriausiai geriau apibendrina stebėjimus ir išsklaido žmogaus elgesio teorijas, kurios gali būti taikomos plačiau, o dirbtinio intelekto modeliai būtų labiau pritaikyti konkrečioms problemoms būdingiems niuansams nustatyti", - sakė Corso.
"Etiniu požiūriu aš nematau skirtumo tarp šių dalykų."
