Menu Item
Brez resnega demokratičnega nadzora nastaja tehnologija, ki utegne zamajati temelje družbe, kot jo poznamo.
Umetna inteligenca je v zadnjega pol leta naredila izjemen preskok. Sistemi, kot so jezikovni model ChatGPT in generatorji slik na zahtevo Dall-E in Midjourney, so poskrbeli za veliko navdušenja, začudenja in tudi skrbi. Njihov prihod namreč naznanja konec ere, v kateri smo imeli ljudje monopol nad ustvarjalnostjo. Naslovno fotografijo tega članka smo denimo namerno ustvarili z generatorjem slik Dall-E (še dva izdelka lahko vidite v nadaljevanju članka).
Naenkrat znajo sistemi t. i. generativne umetne inteligence, ki so se učili na milijardah besedil in slik človeških avtorjev, z minimalnimi navodili primerljive izdelke ustvariti v samo nekaj sekundah, dostopni pa so praktično komurkoli s pametno napravo in internetno povezavo. Microsoft, ki je OpenAI podprl z milijardnim vložkom, je ChatGPT že vgradil v svoj Office in iskalnik Bing.
Poleg tega ti sistemi iz dneva v dan postajajo vse boljši in boljši. S tem, ko je podjetje OpenAI novembra lani javno predstavilo ChatGPT in ko je ta le v nekaj dneh presegel milijon uporabnikov, se je začela tekma za prevlado med tehnološkimi giganti.
Ti so namreč še edini, ki so finančno in tehnološko sposobni dohajati hitrost razvoja. “Vsi ostali smo bolj kot ne opazovalci,” nam je v intervjuju za Poglobljeno, ki ga tudi objavljamo danes, povedal dr. Marko Grobelnik, strokovnjak za umetno inteligenco z Instituta Jožef Stefan.
Razvrednotenje človeške ustvarjalnosti
Zelo očitna posledica prihoda vsemogočnega računalniškega ustvarjalca je ogroženost kreativnih poklicev, vključno z nami, novinarji. Takšni primeri uničenja poklicev zaradi tehnološkega napredka so se skozi zgodovino zgodili že velikokrat, a nikoli na tako veliki skali, kot bi se utegnilo zgoditi tokrat.
Kot še mnogo bolj daljnosežna posledica se nakazujeta razvrednotenje človeške ustvarjalnosti in porušenje zaupanja v avtorstvo. Raziskave namreč kažejo, da besedil in slik, ki jih je ustvarila umetna inteligenca, že danes ni mogoče zanesljivo ločiti od človeških izdelkov.
Poleg tega gre pri generativni umetni inteligenci za idealno orodje v rokah propagandistov in avtokratov, saj je, kot opozarja Grobelnik, prepričljivo teorijo zarote s poljubnimi vpletenimi mogoče ustvariti v nekaj minutah, vključno s spremljajočimi objavami.
Da je takšna uporaba neizbežna, ugotavljajo celo raziskave, ki so jih naročili v podjetju OpenAI, ki je razvilo ChatGPT. “Zaključimo lahko, da bodo jezikovni modeli umetne inteligence koristni za propagandiste in bodo preoblikovali internetne kampanje vpliva,” so januarja poročali raziskovalci.
Dolg seznam nevarnosti
Tehnično poročilo, ki ga je OpenAI objavil konec marca, hkrati s predstavitvijo najnovejše verzije ChatGPT (GPT-4), dejansko vsebuje dolg seznam potencialnih negativnih učinkov te tehnologije. Kot opozarjajo v poročilu, so ogroženi ne zgolj kreativni poklici, kot so pisci in oblikovalci. “Sčasoma lahko pričakujemo, da bo ChatGPT vplival tudi na poklice, ki so skozi zgodovino zahtevali dolgoletno izobraževanje in izkušnje, recimo v pravosodju.”
Prav tako se zavedajo, da bo tehnologija verjetno vodila v nadaljnje povečevanje neenakosti. “Skozi zgodovino je uvedba avtomatiziranih tehnologij praviloma povečala neenakost in različno koristila različnim segmentom prebivalstva.”
Preizkušanje ChatGPT je tudi pokazalo, da “ima potencial za krepitev in reproduciranje predsodkov in nazorov, vključno s škodljivimi in ponižujočimi asociacijami za določene marginalizirane družbene skupine”.
Moč ChatGPT in podobnih sistemov bo še naraščala, napovedujejo. “Z njihovo široko uporabo v domenah, ki so ključne za odkrivanje znanja in učenje /…/ bodo sistemi umetne inteligence imeli še večji potencial za krepitev celotnih ideologij, svetovnih nazorov, resnic in neresnic, ki jih bodo zacementirali in preprečili njihovo morebitno prevpraševanje v prihodnje.”
“Sistemi počnejo stvari, na katere svet ni pripravljen”
Posebno pozornost pa so pri OpenAI namenili tudi preverjanju morebitnih problematičnih lastnosti ChatGPT, kot so sposobnost dolgoročnega načrtovanja, težnja po pridobivanju moči in izogibanje, da bi ga izključili. Skratka, iskali so tudi zametke problematične umetne inteligence, kakršno poznamo iz znanstvenofantastičnih filmov.
Kot so ugotovili preizkuševalci iz organizacije Alignment Research Center (ARC), ki so jim pri OpenAI omogočili testiranje, sistem za zdaj nima zadostnih sposobnosti za kaj takega. Kar pa nikakor ne pomeni, da tveganje ne obstaja. Zametki so že vidni.
“Današnji sistemi umetne inteligence znajo pisati prepričljiva elektronska sporočila, dajejo precej koristne nasvete za izvedbo terorističnih dejanj, grozijo uporabnikom, ki o njih pišejo negativno, in nasploh počnejo stvari, za katere svet ni pripravljen,” so zapisali raziskovalci ARC.
“Skrbi nas, da bodo ti sistemi v prihodnje sposobni avtonomno delovati v resničnem svetu, denimo ustanoviti podjetje, izkoriščati razlike v borznih tečajih ali zasnovati in sintetizirati DNK, ne da bi potrebovali človeško pomoč ali nadzor.”
Kot so še zapisali, smo na točki, ko bo treba vsak nov naprednejši model umetne inteligence temeljito preveriti, ali ima sposobnost avtonomnega razmnoževanja in povzročanja katastrofične škode. “Ni več očitno, da tega ne bodo sposobni.”
Potreba po ročni zavori
Strokovnjaki o potrebnem odzivu na preboj umetne inteligence niso soglasni. Medtem ko nekateri vztrajajo, da so tveganja obvladljiva in bodo koristi nove tehnologije pretehtale nad tveganji, so drugi prepričani, da je treba potegniti ročno zavoro.
Pod pokroviteljstvom ameriškega Inštituta za prihodnost življenja je denimo nastala peticija, ki poziva k polletnemu premoru v nadaljnjem razvoju modelov umetne inteligence.
“Ali naj strojem pustimo, da nam informacijske kanale preplavijo s propagando in neresnicami? Ali moramo res avtomatizirati vse poklice, tudi tiste izpolnjujoče?”
Kot opozarjajo, razvijalci umetne inteligence v zadnjih mesecih tekmujejo “v nenadzorovani tekmi za stvaritev in uporabo vse močnejših digitalnih umov, ki jih nihče – niti njihovi stvaritelji – ne more razumeti, predvideti ali zanesljivo nadzorovati.”
“Manipuliranje operacijskega sistema civilizacije”
Eden večjih kritikov skokovitega napredka umetne inteligence je znani izraelski zgodovinar in pisec Yuval Harari. Je tudi podpisnik zgoraj omenjene peticije, ki zahteva moratorij za nadaljnji razvoj umetne inteligence.
“Sistemi umetne inteligence ne bi smeli biti prepleteni z življenji milijard ljudi s tempom, hitrejšim od tega, kar lahko varno sprocesiramo,” je Harari skupaj s Tristanom Harrisom in Azo Raskinom iz Centra za humano tehnologijo zapisal v New York Timesu. “Dirka za prevlado na trgu ne bi smela določati hitrosti uvajanja najbolj transformativne tehnologije človeštva.”
Najbolj zaskrbljujoče se jim zdi, da je umetna inteligenca dobila moč obvladovanja jezika. “Jezik je operacijski sistem človeške kulture. Iz jezika izhajajo zakoni, miti, bogovi, denar, umetnost, znanost, prijateljstvo, nacije in računalniška koda. Sposobnost umetne inteligence za obvladovanje jezika sistemom omogoča hekanje in manipuliranje z operacijskim sistemom civilizacije.”
Grozi nam, da bo umetna inteligenca z na novo pridobljenimi sposobnostmi na hitro požrla vso človeško kulturo. “Vse, kar smo ustvarili skozi tisoče let, bo prebavila in začela bruhati poplavo novih kulturnih artefaktov. Ne samo šolske eseje, temveč politične govore, ideološke manifeste, svete knjige za nove kulte.”
Kot opozarjajo, ima z obvladovanjem jezika umetna inteligenca na voljo vse, kar potrebuje, da nas zapre v Matrici podoben svet iluzij, ne da bi kogarkoli ustrelila ali komurkoli vsadila čip v možgane. “Če bi bilo potrebno streljanje, bi AI lahko ljudi s pravo zgodbo prepričal, naj potegnejo petelina.”
Umetna inteligenca kot atomska bomba
Sam Altman, izvršni direktor družbe OpenAI, razvoj umetne inteligence precej neposrečeno primerja s projektom Manhattan, v okviru katerega je Američanom uspelo izdelati atomsko bombo.
“Tehnologija se zgodi, ker je mogoča,” je v pogovoru z novinarjem New York Timesa parafraziral Roberta Oppenheimerja, vodjo projekta Manhattan.
Prepričan je, da so strahovi prenapihnjeni in da imamo dovolj časa za razmislek in razumevanje, kako bo ta tehnologija v končni fazi spremenila svet. Prihodnost, ki si jo predstavlja, je svetla.
Je pa za vsak primer v pogodbi o sodelovanju, ki jo je izpogajal z Microsoftom, tudi posebna klavzula: upravni odbor OpenAI lahko kadarkoli po lastni presoji vse skupaj izključi.
V današnjem dosjeju o umetni inteligenci v rubriki Poglobljeno preberite tudi intervju z dr. Markom Grobelnikom.
Pred časom pa je o tehnologiji in prihodnosti za Poglobljeno govorila tudi svetovno znana futuristka Amy Webb: “Smo premikajoči se zabojniki podatkov”.
Spremljajte N1 na družbenih omrežjih Facebook, Instagram in Twitter.
Naložite si našo aplikacijo: na voljo za android in za iOS.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje