Pagrindiniai pasiėmimai
- Vis daugiau programų gali suprasti jūsų kalbą.
- Nauja technologija sukuria pasirinktinį garso triukšmą fone, kai kalbate, kad supainiotų programinę įrangą, kuri gali klausytis.
-
Nauja technika užtikrina našumą realiuoju laiku, numatant ataką prieš signalo ar žodžio ateitį.
Daugelis programų gali suprasti jūsų kalbą telefono ar vaizdo skambučių metu, o ekspertai teigia, kad jos gali kelti grėsmę privatumui.
Nauja Kolumbijos universiteto mokslininkų sukurta technologija, vadinama Neural Voice Camouflage, gali pasiūlyti apsaugą. Jums kalbant fone sukuriamas pasirinktinis garso triukšmas, suklaidindamas dirbtinį intelektą (AI), kuris klauso ir perrašo balsus.
„AI transkripcija kelia pasitikėjimo problemų“, – sakė Michaelas Huthas, privatumą saugančios paieškos sistemos Xayn įkūrėjas ir Londono imperatoriškojo koledžo Kompiuterijos katedros vadovas, nedalyvavęs „Lifewire“sakė interviu el. paštu. „Susitikimo dalyviai gali būti atsargesni dėl to, kokius dalykus iškelia ir kaip perrašoma jų kalba. Tai gali būti gerai, nes gali pagerinti pagarbų elgesį, bet gali būti ir blogai, nes pokalbis gali būti mažiau atviras dėl abejonių dėl naudojamos technologijos."
Klausymasis ir mokymasis
Kolumbijos mokslininkai dirbo kurdami algoritmą, kuris realiuoju laiku galėtų nutraukti neuroninius tinklus. Naujasis metodas naudoja „numatomas atakas“– signalą, kuris gali sutrikdyti bet kurį žodį, kurį automatinio kalbos atpažinimo modeliai išmokyti transkribuoti. Be to, kai atakos garsai leidžiami per eterį, jie turi būti pakankamai garsūs, kad sutrikdytų bet kokį nesąžiningą „klausymosi“mikrofoną, kuris gali būti toli.
„Pagrindinis techninis iššūkis norint tai pasiekti buvo užtikrinti, kad visa tai veiktų pakankamai greitai“, – naujienose sakė Carlas Vondrickas, Kolumbijos kompiuterių mokslų profesorius ir vienas iš naująjį metodą aprašančio tyrimo autorių. paleisti. „Mūsų algoritmas, kuris 80 % atvejų sugeba blokuoti nesąžiningą mikrofoną, kad jis teisingai išgirstų jūsų žodžius, yra greičiausias ir tiksliausias mūsų bandymų aikštelėje.“
Nauja technika užtikrina našumą realiuoju laiku, numatant ataką prieš signalo ar žodžio ateitį. Komanda optimizavo ataką, todėl jos garsumas panašus į įprastą foninį triukšmą, todėl kambaryje esantys žmonės gali kalbėtis natūraliai ir jų sėkmingai nestebi automatinė kalbos atpažinimo sistema.
Susitikimo dalyviai gali būti atsargesni dėl to, kuriuos dalykus jie kelia ir kaip perrašoma jų kalba.
Mokslininkai teigė, kad jų technika veikia net tada, kai nieko nežinote apie nesąžiningą mikrofoną, pvz., jo vietą ar net jame veikiančią kompiuterio programinę įrangą. Jis užmaskuoja žmogaus balsą per eterį, paslėpdamas jį nuo šių klausymosi sistemų ir nesukeldamas nepatogumų patalpoje esančių žmonių pokalbiui.
"Kol kas mūsų metodas tinka daugumai anglų kalbos žodyno, todėl planuojame taikyti algoritmą daugiau kalbų, o galiausiai padaryti, kad šnabždesys būtų visiškai nepastebimas", - pagrindinė autorė Mia Chiquier. tyrimo dalyvis ir Vondricko laboratorijos doktorantas, sakoma pranešime spaudai.
Pokalbiai privatūs
Tarsi viso to būtų negana, skelbimai gali būti taikomi jums pagal garsą, surinktą iš jūsų išmaniojo telefono ar išmaniųjų namų įrenginių.
„Su tokiais įrenginiais kaip [Amazon Echo] ir jų analogais šie įrenginiai ne tik visada yra jūsų namuose ir nuolat klausosi visko, ką sakote ar darote, bet ir per ilgus metus renkamus duomenis iš jų naudotojų patobulintas natūralios kalbos apdorojimas (ištarto žodžio pavertimas tekstu / naudojamais prietaisų duomenimis naudojant mikrofonų, programinės įrangos ir dirbtinio intelekto derinį), – el. laiške sakė Erikas Haigas, Harbor Research, strateginių konsultacijų ir rizikos vystymo įmonės, bendradarbis.
Šnekamosios kalbos transkripcijos dabar yra standartinė standartinės komercinės programinės įrangos dalis, sakė Huthas. Pavyzdžiui, „Microsoft Teams“turi susitikimo įrašų parinktį su įtaisytomis AI transkripcijomis, kurias visi dalyviai gali matyti realiuoju laiku. Visas protokolas gali būti naudojamas kaip susitikimo įrašas. Paprastai tokie nuorašai leidžia protokoluoti (dar žinomas kaip užrašų sudarymas), kai protokolas tvirtinamas kitame posėdyje.
"Žmonės gali būti susirūpinę dėl to, kad bus šnipinėti, kai įjungta AI transkripcija", - pridūrė Huthas."Tai atrodo labai panaši į rūpestį, kad pokalbis būtų įrašytas be sutikimo arba slaptai."
Tačiau ne visi sutinka, kad išmanieji įrenginiai kelia grėsmę. Daugumai žmonių nereikia jaudintis dėl programų, kurios klausosi jūsų pokalbių, el. paštu Lifewire sakė Bradas Hongas, kibernetinio saugumo įmonės „Horizon3“klientų sėkmės vadovas. Jis sakė, kad dabar didžiausią susirūpinimą kelia ne tai, kas jus įrašo, o tai, kaip jie saugo duomenis.
„Visos išgirstos istorijos apie mikrofono įjungimą kompiuteryje ar mobiliuosiuose įrenginiuose, Alexa ar Google Home klausymąsi ar net vyriausybės stebėjimą, tiesa, kad visa tai verčia pasauliečiui susukti pilvą“, – pridūrė Hongas.. "Tačiau apskritai žmonės retai atsiduria tokioje situacijoje, kurioje iš tikrųjų reikia užmaskuoti savo balsus."
