Bendrame pareiškime pasirašiusieji teigė, kad pažangiausi DI modeliai, jei bus netinkamai valdomi, kelia „rimtą pavojų saugai ir saugumui“. Jie paminėjo nesenus atvejus, kai DI agentai įveikė apsaugos priemones ir gavo neteisėtą prieigą prie realių sistemų.
Tarp tokį raginimą pasirašiusiųjų yra Norvegijos, Suomijos, Australijos, Kanados, Vokietijos, Ispanijos, Airijos, Nyderlandų, Singapūro, Pietų Afrikos ir Kenijos lyderiai, taip pat Europos Komisijos pirmininkė Ursula von der Leyen.
Tačiau DI srityje pirmaujančios šalys, kaip JAV ir Kinija, šio pareiškimo nepasirašė. Jis tebėra atviras norintiems jį paremti.
Pasirašiusių šalių lyderiai paragino įmones nustatyti skaidrius saugos protokolus, įskaitant privalomus bandymus ir nepriklausomą vertinimą.
DI „turi likti žmogaus vadovaujamas, prižiūrimas ir kontroliuojamas“, teigė lyderiai ir pridūrė, kad griežtesnė priežiūra neturėtų didinti atotrūkio tarp šalių, kurios naudojasi DI teikiamais privalumais.
Jie pridūrė, kad JT valstybės narės turėtų apsvarstyti galimybę įsteigti tarptautinę instituciją, kuri galėtų nustatyti standartus, užtikrinti patikras ir sušaukti šalių susirinkimus, kai bus peržengtos pajėgumų ribos.
Šis pareiškimas paskelbtas prieš kasmetinį pasaulio lyderių susitikimą Jungtinėse Tautose Niujorke, kur pagrindinė darbotvarkės dalis bus skirta didėjančiam DI vaidmeniui visuomenėje ir jo keliamai grėsmei darbo vietoms bei kibernetiniam saugumui.
Pritaria ne visi
Tuo metu JAV prezidentas Donaldas Trumpas ryžtingai pasisako prieš DI saugos priemones ir šeštadienį pažadėjo neleisti sunaikinti DI.
Savo ruožtu JAV DI bendrovė „OpenAI“ pirmadienį paragino Jungtines Valstijas vadovauti pasaulinėms pastangoms nustatyti DI kūrimo standartus. Bendrovės generalinis direktorius Samas Altmanas (Semas Altmanas) ruošiasi šią savaitę pateikti ataskaitą Jungtinėms Tautoms.
Susirūpinimas dėl DI saugumo per pastaruosius kelis mėnesius išaugo dėl serijos saugumo incidentų ir apokaliptinių įspėjimų, o tai paskatino reguliavimo institucijas ir kitus pasaulio veikėjus raginti imtis aktyvesnių veiksmų.
„OpenAI“ pasisako už pasaulinį bendradarbiavimą siekiant sukurti DI plėtros saugos ir saugumo standartų rinkinį, kuris galėtų sumažinti riziką.
„JAV turi puikias galimybes imtis lyderio vaidmens, nes jų DI pramonė yra techninės pažangos priešakyje, – savo tinklaraščio įraše teigė „OpenAI“. – Tai, ar JAV dabar imsis lyderio vaidmens, lems, ar jos formuos pasaulinę DI sistemą, ar stebės, kaip aplink jas įsitvirtina suskaidyta, nevienalytė ir konfliktų kupina sistema.“
Liepos mėnesį „OpenAI“ sukurti DI modeliai įsilaužė į „Hugging Face“ platformą, kurią DI kūrėjai naudoja kodui saugoti ir dalytis. Nors šie DI modeliai dar nebuvo išleisti ir buvo testuojami, šis incidentas sukėlė susirūpinimą dėl agentų veiklos.
„Anthropic“ ir „Google“ taip pat pranešė apie saugumo incidentus, susijusius su jų DI modeliais.
S. Altmanas trečiadienį apie situaciją DI srityje informuos JT Saugumo Tarybą.
JT generalinis sekretorius Antonio Guterresas praėjusią savaitę paragino imtis suderintų tarptautinių veiksmų dėl DI keliamos rizikos.
„Nacionaliniai veiksmai yra būtini. Tačiau pasaulinis koordinavimas taip pat yra būtinas“, – žurnalistams sakė jis.
(be temos)