Pagrindiniai pasiėmimai
- Nauji tyrimai rodo, kad gali būti, kad nėra būdo valdyti itin protingą dirbtinį intelektą.
- Žurnalo straipsnyje teigiama, kad dirbtinio intelekto valdymui reikės daug pažangesnių technologijų, nei turime šiuo metu.
- Kai kurie ekspertai teigia, kad tikrai protingas AI gali pasirodyti anksčiau, nei manome.
Jei žmonės kada nors sukurs itin išmanųjį dirbtinį intelektą, gali nebūti būdo jo suvaldyti, sako mokslininkai.
AI jau seniai buvo reklamuojamas kaip vaistas nuo visų žmonijos problemų arba Terminatoriaus stiliaus apokalipsė. Tačiau iki šiol AI nepriartėjo prie žmogaus lygio intelekto. Tačiau pavadėlio laikymas pažangiam dirbtiniam intelektui gali būti pernelyg sudėtinga problema žmonėms, jei jis kada nors bus sukurtas, teigiama neseniai paskelbtame straipsnyje „Journal of Artificial Intelligence Research“.
„Ypatingai intelektualus aparatas, valdantis pasaulį, skamba kaip mokslinė fantastika“, – pranešime spaudai sakė Manuelis Cebrianas, vienas iš šio straipsnio bendraautorių.
"Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programišiams nesuprantant, kaip to išmoko. Todėl kyla klausimas, ar tai kada nors gali tapti nekontroliuojama ir pavojinga žmonijai."
Netrukus pasirodys puikus kompiuteris šalia jūsų
Žurnalas teigia, kad dirbtinio intelekto valdymui reikės daug pažangesnių technologijų, nei turime šiuo metu.
Savo tyrime komanda sukūrė teorinį sulaikymo algoritmą, užtikrinantį, kad superinteligentiškas dirbtinis intelektas jokiomis aplinkybėmis negali pakenkti žmonėms, pirmiausia imituodama AI elgesį ir sustabdydama jį, jei manoma, kad tai žalinga. Tačiau autoriai nustatė, kad tokio algoritmo sukurti negalima.
"Jei problemą išspręsite iki pagrindinių teorinių kompiuterių mokslo taisyklių, paaiškės, kad algoritmas, kuris lieptų AI nesunaikinti pasaulio, gali netyčia sustabdyti savo veiklą." Iyad Rahwan, Max Planck žmogaus raidos instituto Vokietijoje Žmonių ir mašinų centro direktorius, pranešime spaudai sakė.
"Jei taip atsitiktų, nežinotumėte, ar izoliavimo algoritmas vis dar analizuoja grėsmę, ar jis nustojo turėti žalingą AI. Iš tikrųjų dėl to izoliavimo algoritmas tampa netinkamu naudoti."
Tikrai protingas AI gali atsirasti anksčiau, nei manome, teigia Michalis Vazirgiannis, École Polytechnique Prancūzijoje kompiuterių mokslų profesorius. „AI yra žmogaus artefaktas, tačiau jis greitai tampa savarankišku subjektu“, – sakė jis el. laiške Lifewire.
"Kritinis taškas bus, jei/kai atsiras singuliarumas (t. y. kai dirbtinio intelekto agentai turės sąmonę kaip esybę), todėl jie reikalaus nepriklausomybės, savikontrolės ir galiausiai dominavimo."
Ateina išskirtinumas
Vazirgiannis nėra vienintelis, numatęs neišvengiamą super AI atsiradimą. Tikri tikintieji dirbtinio intelekto grėsme mėgsta kalbėti apie „ypatingumą“, kurį, kaip aiškina Vazirgiannis, reiškia, kad AI pakeis žmogaus intelektą ir kad „AI algoritmai gali suvokti savo egzistavimą ir pradėti elgtis savanaudiškai bei bendradarbiauti“.
Pasak Ray'aus Kurzweilo, „Google“inžinerijos direktoriaus, išskirtinumas pasieks iki XXI amžiaus vidurio. „2029 m. yra nuosekli data, kurią numatiau, kai dirbtinis intelektas išlaikys galiojantį Turingo testą ir taip pasieks žmogaus intelekto lygį“, – „Futurism“sakė Kurzweilas.
Jei negalime išsivalyti savo namų, kokio kodo turėtume prašyti dirbtinio intelekto, kad vadovautųsi?
„Singuliarumo“datą nustatiau 2045 m., kai mes padauginsime savo efektyvų intelektą milijardą kartų, susijungdami su mūsų sukurtu intelektu.“
Tačiau ne visi AI ekspertai mano, kad išmaniosios mašinos kelia grėsmę. Kuriamas dirbtinis intelektas greičiausiai bus naudingas kuriant vaistus ir nerodo jokio tikro intelekto, interviu el. paštu sakė dirbtinio intelekto konsultantas Emmanuelis Maggiori. „Apie AI kyla didelis ažiotažas, todėl atrodo, kad tai tikrai revoliucinga“, – pridūrė jis. "Dabartinės AI sistemos nėra tokios tikslios, kaip skelbiama, ir daro klaidų, kurių žmogus niekada nepadarytų."
Valdykite dirbtinį intelektą dabar
Gali būti sunku reguliuoti dirbtinį intelektą, kad jis nepabėgtų nuo mūsų kontrolės, sako Vazirgiannis. Įmonės, o ne vyriausybės, kontroliuoja AI išteklius. „Net patys algoritmai paprastai yra gaminami ir diegiami šių didelių ir galingų, dažniausiai daugianacionalinių, tyrimų laboratorijose“, – sakė jis.
"Todėl akivaizdu, kad valstybių vyriausybės vis mažiau kontroliuoja išteklius, būtinus dirbtiniam intelektui kontroliuoti."
Kai kurie ekspertai teigia, kad norint valdyti superinteligentišką AI, žmonėms reikės valdyti skaičiavimo išteklius ir elektros energiją. „Mokslinės fantastikos filmai, tokie kaip „Matrica“, pranašauja apie distopinę ateitį, kai dirbtinis intelektas naudoja žmones kaip biologinės energijos š altinius“, – sakė Vazirgiannis.
"Nepaisant tolimesnių galimybių, žmonija turėtų užtikrinti, kad būtų pakankamai kontroliuojami skaičiavimo ištekliai (t. y. kompiuterių klasteriai, GPU, superkompiuteriai, tinklai / ryšiai) ir, žinoma, elektrinės, tiekiančios elektros energiją kenkia AI funkcijai."
Problema, susijusi su DI valdymo problema, yra ta, kad mokslininkai ne visada supranta, kaip tokios sistemos priima sprendimus, interviu el. paštu sakė Michaelas Bertholdas, duomenų mokslo programinės įrangos įmonės KNIME įkūrėjas ir generalinis direktorius. „Jei to nedarysime, kaip galime tai „kontroliuoti“?“
Jis pridūrė: „Mes nesuprantame, kai priimamas visiškai kitoks sprendimas, remiantis mums nereikšmingomis įvestimis.“
Vienintelis būdas kontroliuoti AI naudojimo riziką yra užtikrinti, kad jis būtų naudojamas tik tada, kai tą riziką galima valdyti, sakė Bertholdas. „Kitaip tariant, du kraštutiniai pavyzdžiai: neskirti dirbtinio intelekto valdyti savo atominę elektrinę, nes nedidelė klaida gali turėti katastrofiškų šalutinių padarinių“, – pridūrė jis.
"Kita vertus, dirbtinis intelektas numato, ar jūsų kambario temperatūrą reikėtų šiek tiek pakoreguoti arba sumažinti, gali būti verta šiek tiek rizikuoti gyvenimo komforto labui."
Jei negalime valdyti dirbtinio intelekto, geriau išmokykime jo elgesio, interviu el. paštu sakė buvęs NASA kompiuterių inžinierius Peteris Scottas. „Galiausiai negalime užtikrinti dirbtinio intelekto valdomumo taip pat, nei galime užtikrinti savo vaikų“, – sakė jis.
"Mes juos auklėjame teisingai ir tikimės geriausio; iki šiol jie nesunaikino pasaulio. Kad juos gerai išaugintume, turime geriau suprasti etiką; jei negalime išsivalyti savo namų, kas kodo turėtume paprašyti dirbtinio intelekto sekti?"
Tačiau visos viltys žmonių rasei neprarandamos, sako dirbtinio intelekto tyrinėtojas Yonatanas Wexleris, „OrCam“tyrimų ir plėtros skyriaus vykdomasis viceprezidentas. „Nors pažanga išties įspūdinga, aš tikiu, kad žmogaus intelektas neturėtų būti nuvertintas“, – sakė jis interviu elektroniniu paštu. "Mes, kaip rūšis, sukūrėme gana nuostabių dalykų, įskaitant patį AI."
Vis pažangesnio AI paieškos tęsiasi. Tačiau galbūt geriau pagalvoti, kaip valdome savo kūrinius, kol dar ne vėlu.
