Pagrindiniai pasiėmimai
- Amazon Alexa balso asistentas gali nukopijuoti balsą su vos vienos minutės garso įrašu.
- Galite paprašyti Alexa perskaityti istoriją mirusio tėvo balsu.
- Tai ta pati idėja kaip gilios klastotės, naudojama tik gėrio galiai.
Naujausias „Amazon Alexa“triukas – išmokti mėgdžioti mirusio mylimojo balsą, kad jie galėtų kalbėti su jumis iš už kapo.
Alexai reikia vos minutės sakytinio garso, kad įtikinamai imituotų balsą.„Amazon“tai vertina kaip guodžiančią funkciją, kuri gali padėti susisiekti su artimaisiais, tačiau tai taip pat gali būti gana bauginanti patirtis. Ir tai parodo, kaip lengva sukurti gilų netikrą garsą, kuris yra pakankamai geras, kad mus apgautų, net jei balsas yra toks, kokį mes puikiai pažįstame.
„Amazon“neabejotinai pateko į gana unikalią ir keistą teritoriją paskelbusi, kad „Alexa“netrukus galės išmokti ir panaudoti mirusių giminaičių balsą“, – sakė Billas Mannas, „Restore Privacy“privatumo ekspertas. Lifewire el. paštu. "Kai kuriems žmonėms tai visai nėra baisu. Tiesą sakant, tai gali būti gana jaudinanti."
Vaiduoklis mašinoje
Kasmetinėje re:MARS konferencijoje „Amazon“demonstruoja šią funkciją trumpame vaizdo įraše. Joje vaikas klausia Alexos, ar močiutė gali jam toliau skaityti „Ozo burtininką“, kiekvieno vaiko mėgstamą pagrindinį kūrinį. Ir tai labai jaudinantis momentas. Sunku nejausti žmogiškų emocijų, kai močiutė pradeda skaityti.
"Žmonės kovoja su mirtingumu, ypač Vakarų kultūroje. Šimtmečius bandėme rasti būdų, kaip įamžinti mirusiuosius, pradedant mirties kaukėmis, baigiant plaukų sruogomis, baigiant senomis nuotraukomis ir baigiant senų filmų žiūrėjimu, " Andrew Selepak, socialinių tinklų profesorius iš Floridos universiteto, pasakojo Lifewire el. paštu. "Deepfakes naudoja naujausias technologijas, kad sukurtų naują mirusio mylimojo mirties kaukę. Bet, atsižvelgiant į žmogaus perspektyvą, ar tai baisu, ar būdas prisiminti ir išlaikyti mylimą žmogų po to, kai jis mirė?"
Tačiau memento mori gali būti ir guodžiantis, ir šiurpus. Šeimos nario draugas mirė, tačiau vis tiek girdite jį kalbant. Nepadeda tai, kad Alexa elgėsi keistai, o kartais ir bauginančiai. 2018 m., kai NYT nuomonės apžvalgininkas Farhadas Manjoo gulėjo lovoje, jo „Amazon Echo“„ėmė aimanuoti, kaip vaikas, rėkiantis siaubo filmo sapne“.
Netrukus „Amazon“pripažino, kad Alexa kartais garsiai juokiasi, o tai kartu su paaugliais ir rūsiais yra siaubo filmas 101.
Galima tik stebėtis, kaip jaustumėtės, jei Alexa ištrauktų tuos pačius triukus močiutės balsu.
Deep Fake
Akivaizdus lengvumas, kuriuo Alexa mokosi imituoti balsą, priveda prie niekšiškesnių balso klonavimo būdų: gilių klastotės.
"Deepfake garsas nėra naujas, net jei jis mažai suprantamas ir mažai žinomas. Technologija buvo prieinama daugelį metų, leidžianti atkurti asmens balsą naudojant dirbtinį intelektą ir gilų mokymąsi naudojant palyginti mažai tikrojo asmens garso. sako Selepakas. "Tokia technologija taip pat gali būti pavojinga ir destruktyvi. Sutrikęs asmuo gali atkurti mirusio buvusio vaikino ar merginos balsą ir naudoti naują garso įrašą neapykantą keliantiems ir įžeidžiantiems dalykams pasakyti."
Tai tik Alexa kontekste. Gilus netikras garsas gali būti kur kas daugiau, įtikindamas žmones, kad, pavyzdžiui, žinomi politikai tiki dalykais, kuriais netiki. Tačiau, kita vertus, kuo labiau pripratinsime prie šių gilių padirbinių – galbūt tokių Alexa balsų pavidalu – tuo labiau skeptiškai žiūrėsime į niekšiškesnius padirbinius. Vėlgi, atsižvelgiant į tai, kaip lengva paskleisti melą „Facebook“, galbūt ne.
Amazon nepasakė, ar ši funkcija bus prieinama Alexa, ar tai tik technologijos demonstracinė versija. Tikiuosi, kad taip. Technologijos yra geriausios, kai jos naudojamos humanistiškai, kaip šis, ir nors lengva reakcija yra pavadinti tai siaubingu, kaip sako Selepak, tai tikrai nesiskiria nuo senų vaizdo įrašų žiūrėjimo ar išsaugotų balso pašto pranešimų klausymosi, kaip personažas tingiai sudarytoje TV laidoje.
Ir jei padirbinėjimo technologija yra lengvai prieinama, kodėl gi nepasinaudojus jos paguodai?
