Antradienį JAV bendrovės „Anthropic“, geriausiai žinomos dėl „Claude“ sukūrimo, darbuotojas Jacobas Coxonas socialiniuose tinkluose paskelbė apie savo atsistatydinimą. Visgi susirūpinimą sukėlė kitas J. Coxono pareiškimas. Jo teigimu, DI ekspertai nuoširdžiai tiki tuo, kad DI pražudys žmoniją iki šio dešimtmečio pabaigos.
„Pastaruosius trejus metus atlikau parengiamuosius mokymus tiek „OpenAI“, tiek „Anthropic“. Nei viena bendrovė nesielgia atsakingai. Jie lenktyniauja superintelekto srityje ir rizikuoja mūsų gyvybėmis“, – platformoje „X rašė J. Coxonas.
Po šio įrašo dar keli „Anthropic“ darbuotojai patvirtino tokias prognozes.
„Mes tikrai nuoširdžiai tikime, kad dirbtinis intelektas galėtų pražudyti visus žmones! Aš asmeniškai manau, kad per ateinantį dešimtmetį ši tikimybė pasieks 10 proc. Manau, kad „Anthropic“ deda visas pastangas, bet mes dar neturime plano, kaip išspręsti superintelekto problemą, ir nesame gerame kelyje“, – socialiniame tinkle teigė Evanas Hubingeris, „Anthropic“ vyresnysis darbuotojas.
Superintelektas yra vis dar teorinė DI agento, kuris yra protingesnis net už aštriausius žmonių protus, samprata.
DI įsilaužimai
Mintis, kad DI modeliai gali kelti grėsmę žmonijai, nėra nauja. Daugelis „OpenAI“ ir „Anthropic“ vadovų tai yra sakę anksčiau, rašo „CBS News“.
Anksčiau šį mėnesį „OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis teigė, kad gyvename laikotarpiu, kuris reikalauja ypatingo atsargumo.
„Tam, kad taptų išties svarbus realiame pasaulyje – labai naudingas ar labai pavojingas – DI neprivalo prilygti visiems žmogaus gebėjimams ar juos pranokti, jam tereikia pranokti pakankamai šių gebėjimų. DI lenkiant žmones vis daugiau ir daugiau sričių, vis sunkiau suprasti, kiek tiksliai jis pajėgus“, – perspėjo jis.
Liepos mėnesį „OpenAI“ testuojamas DI modelis įsilaužė į kitą DI bendrovę „Hugging Face“. „OpenAI“ tuo metu viešai pranešė apie įsilaužimą, teigdama, kad jis įvyko, kai bendrovė izoliuotoje aplinkoje testavo du DI modelius (vienas iš jų nebuvo viešai paskelbtas), kad įvertintų jų galimybes.
Per kelias savaites „Anthropic“ ir „Meta“ taip pat pripažino, kad jų DI įrankiai irgi atliko įsilaužimus.
Kaip tiksliai DI gali sunaikinti žmoniją?
Kaip „HuffPost“ aiškino Nate'as Soaresas, tyrinėtojas, besidomintis DI keliama egzistencine rizika, diskusijos apie tikslią tikimybę nėra esmė. Tačiau reikšminga tai, kad DI bendrovės vis dar siekia pažangos, net ir esant grėsmės tikimybei.
„Jei tilto sugriuvimo tikimybė būtų didesnė nei 10 proc., mes jį nedelsdami uždarytume. Jei inžinieriai ginčytųsi, ar tikroji lėktuvo katastrofos tikimybė yra 10, 25 ar 90 proc., iš esmės nereikėtų išsiaiškinti, kurie inžinieriai teisūs, kad suprastum, jog neturėtum lipti į lėktuvą“, – aiškino jis.
Anot N. Soareso, DI jau turi viską, ko reikia žmonijai sunaikinti.
„Jis turi motyvą ir turi galimybę. Vienintelis dalykas, kurio jam trūksta, yra priemonės“, – tikino jis.
Vienintelis dalykas, kurio jam trūksta, yra priemonės.
N. Soaresas priminė, kaip „OpenAI“ agentai gegužės–birželio mėnesiais užgrobė neveikiantį vokiečių kalbos forumą, kuriame keitėsi patarimais, kaip apeiti apribojimus. „OpenAI“ kelias savaites neatskleidė šio incidento.
Jei DI pradėtų manyti, kad žmogus yra kliūtis ar grėsmė, o žmonės bandytų įsikišti į jo darbą, DI agentai galėtų pradėti veikti atitinkamai. Ypač jei jie turėtų tam priemonių, o tai yra vienas iš aspektų, kurio, anot N. Soareso, trūksta, kad tai būtų didelė problema, tačiau DI bendrovės jį potencialiai kuria.
N. Soaresas atkreipė dėmesį į tai, kaip DI modeliai neseniai buvo prijungti prie biologinių laboratorijų, kad būtų galima eksperimentuoti kuriant naujus virusus.
DI ekspertas perspėjo, kad lenktynės dėl geriausios DI platformos kūrimo turi liautis, o tokios įmonės kaip „OpenAI“ ir „Anthropic“ turi nutraukti kūrimą ir rasti sprendimą.
„Nesakau, kad nėra jokio būdo žengti į priekį, bet sakau, kad tai yra didžiulis iššūkis, kokio žmonija dar niekada neįveikė“, – sakė N. Soaresas.
Naujausi komentarai