Pagrindiniai pasiėmimai
- Atrodo, kad dirbtinio intelekto sistema, pavadinta DALL-E2, sukūrė savo rašytinės komunikacijos sistemą.
- Kai kurie ekspertai teigia, kad akivaizdi kalba gali būti tik beprasmiška.
- Tai pavyzdys, kaip sunku interpretuoti pažangių AI sistemų rezultatus.
Atrodo, kad dirbtinis intelektas (AI) sukūrė savo kalbą, tačiau kai kurie ekspertai skeptiškai vertina šį teiginį.
Atrodo, kad OpenAI teksto į vaizdą AI sistema DALL-E2 sukūrė savo rašytinės komunikacijos sistemą. Tai pavyzdys, kaip sunku interpretuoti pažangių AI sistemų rezultatus.
„Dėl didelių modelių dydžio ir gylio labai sunku paaiškinti modelio elgesį“, – interviu el. paštu Lifewire sakė Teresa O'Neill, „iMerit“natūralios kalbos supratimo sprendimų architektūros direktorė. "Tai yra vienas iš pagrindinių iššūkių, o kai kuriais atvejais ir etikos problemos su vis galingesniais modeliais. Jei negalime paaiškinti, kodėl jie elgiasi taip, kaip elgiasi, ar galime numatyti jų elgesį ar išlaikyti jį pagal savo normas ir lūkesčius?"
AI pokalbiai
Kompiuterių mokslų studentas Giannis Daras neseniai pastebėjo, kad DALLE-2 sistema, kurianti vaizdus pagal teksto įvestį, tam tikromis aplinkybėmis pateiks nesąmoningus žodžius kaip tekstą.
"Žinomas DALLE-2 apribojimas yra tai, kad jis kovoja su tekstu", - rašė jis spausdinimo serveryje "Arxiv". "Pavyzdžiui, teksto raginimai, tokie kaip: "Žodžio lėktuvas vaizdas", dažnai sukuriami vaizdai, kuriuose vaizduojamas beprasmis tekstas."
Bet, rašė Daras, už akivaizdžios beprasmybės gali slypėti metodas. „Mes pastebėjome, kad šis sukurtas tekstas nėra atsitiktinis, o veikiau atskleidžia paslėptą žodyną, kurį, atrodo, sukūrė modelis viduje“, – tęsė jis. "Pavyzdžiui, kai maitinamas šiuo beprasmišku tekstu, modelis dažnai gamina lėktuvus."
Savo tviteryje Daras atkreipė dėmesį į tai, kad kai DALLE-2 buvo paprašyta subtitruoti dviejų ūkininkų pokalbį, buvo matyti, kad jie kalbasi, tačiau kalbos burbulai buvo užpildyti tarsi nesąmoningais žodžiais. Tačiau Darasas išsiaiškino, kad šie žodžiai AI turėjo savo reikšmę: ūkininkai kalbėjo apie daržoves ir paukščius.
Nicola Davolio, technologijų įmonės „Hupry“, kuri dirba su AI, generalinė direktorė, interviu el. paštu „Lifewire“paaiškino, kad kalba paremta simboliais, kuriuos DALL-E2 sistema išmoko susieti su tam tikromis sąvokomis. Pavyzdžiui, simbolis „šuo“gali būti susijęs su šuns paveikslėliu, o simbolis „katė“gali būti susijęs su katės nuotrauka. DALL-E2 sukūrė savo kalbą, nes ji leidžia efektyviau bendrauti su kitomis AI sistemomis.
Nr.
„Kalba sudaryta iš simbolių, kurie atrodo kaip egiptiečių hieroglifai ir, atrodo, neturi jokios konkrečios reikšmės“, – pridūrė jis. „Žmonėms šie simboliai tikriausiai yra bereikšmiai, tačiau dirbtinio intelekto sistemai jie puikiai tinka, nes ji buvo išmokyta naudoti milijonus vaizdų.“
Tyrėjai mano, kad dirbtinio intelekto sistema sukūrė kalbą, kad padėtų jai geriau suprasti vaizdų ir žodžių ryšį, sakė Davolio.
„Jie nėra tikri, kodėl AI sistema sukūrė savo kalbą, bet jie įtaria, kad tai gali būti susiję su tuo, kaip ji mokėsi kurti vaizdus“, – pridūrė Davolio. „Gali būti, kad AI sistema sukūrė savo kalbą, kad komunikacija tarp skirtingų tinklo dalių būtų efektyvesnė."
AI paslaptys
DALL-E2 nėra vienintelė AI sistema, kuri sukūrė savo vidinę kalbą, pažymėjo Davolio. 2017 m. „Google“AutoML sistema sukūrė naują neuroninės architektūros formą, vadinamą „vaikų tinklu“, kai buvo palikta nuspręsti, kaip geriausiai atlikti tam tikrą užduotį. Šio antrinio tinklo nepavyko interpretuoti jo žmogiškųjų kūrėjų.
"Šie pavyzdžiai yra tik keli atvejai, kai AI sistemos sukūrė būdus, kaip daryti dalykus, kurių negalime paaiškinti", - sakė Davolio. "Tai naujas reiškinys, kuris žavi ir kelia nerimą. Kai dirbtinio intelekto sistemos tampa sudėtingesnės ir savarankiškesnės, galime vis dažniau atsidurti padėtyje, kad nesuvokiame, kaip jos veikia."
O'Neill sakė nemananti, kad DALL-E2 kuria savo kalbą. Vietoj to ji sakė, kad akivaizdaus kalbinio išradimo priežastis tikriausiai yra šiek tiek proziškesnė.
„Vienas tikėtinas paaiškinimas yra atsitiktinė galimybė – tokiame dideliame modelyje gali būti taikomas šiek tiek Merfio dėsnis: jei gali nutikti keistas dalykas, greičiausiai taip ir nutiks“, – pridūrė O'Neillas. Kita galimybė, kurią pasiūlė tyrimų analitikas Benjaminas Hiltonas socialiniame tinkle „Twitter“, aptardamas Daraso išvadas, yra ta, kad frazės „apoploe vesrreaitais“forma imituoja lotyniško gyvūno pavadinimo formą. Taigi sistema sukūrė naują Aves tvarką, pridūrė O'Neillas.
„Smagu grumtis su tokiais galvosūkiais, kaip akivaizdžiai paslėptas DALL-E2 žodynas, tačiau jie taip pat išryškina sunkesnius klausimus, susijusius su rizika, šališkumu ir etika, susijusia su dažnai nesuprantamu didelių modelių elgesiu“, – sakė O'Neillas..
