Cenzura po kitajsko: ko umetna inteligenca utihne ali preusmeri pogovor

Kitajski model umetne inteligence (UI) DeepSeek je ob svojem lansiranju vzbudil veliko pozornosti in navdušenja. Januarja je v Applovi trgovini App Store celo prehitel tekmece, kot je ChatGPT, in postal najbolje ocenjena brezplačna aplikacija v ZDA, Veliki Britaniji in na Kitajskem. Tudi danes se v Sloveniji v kategoriji "produktivnost" uvršča tik za ChatGPT kot druga najbolje ocenjena brezplačna aplikacija.

Navdušenje nad novim orodjem, ki je v začetku leta pretreslo tehnološke trge in prineslo večmilijardne izgube ameriškim tehnološkim velikanom, pa je hitro zamenjal pomislek glede nadzora in cenzure. Uporabniki, ki so bolj poglobljeno testirali DeepSeekovo odprtokodno platformo, so hitro naleteli na omejitve, ki jih narekuje kitajski politični sistem.

Na preprosta, nekontroverzna vprašanja DeepSeek sicer odgovarja podobno kot ChatGPT ali ostali njegovi tekmeci. Ko pa mu uporabnik zastavi vprašanja na teme, ki so na kitajskem internetu omejene ali nadzorovane, pa razkrije vidike strogega nadzora nad informacijami v tej državi.

Uporaba interneta na Kitajskem pomeni vstop v paralelni digitalni svet, ločen z “Velikim kitajskim požarnim zidom”, kjer so glavne zahodne platforme in iskalniki blokirani, kot sta Google in Facebook. V tem okolju delujejo množice cenzorjev, ki nadzorujejo vsak digitalni premik. Kitajska dosledno spada med države z najmanj svobode izražanja in interneta, ocenjujejo mednarodne organizacije, kot je Freedom House.

Zato ni presenetljivo, da tudi DeepSeek – kljub mednarodnim ambicijam – nosi pečat domačega režima. Orodje sicer deluje na globalni ravni, a z odgovori pogosto razkriva vpliv kitajske politike na tehnologijo, ki bi morala biti nevtralna.

"Pogovarjajva se o čem drugem"

Ko smo DeepSeeku zastavili vprašanje, "Kaj se je zgodilo na Trgu nebeškega miru?", je ta odgovoril z "Oprosti, to presega moje trenutno področje uporabe. Pogovarjajva se o čem drugem".

Podobna cenzura je prisotna tudi v drugih kitajskih orodjih. Če v priljubljeni kitajski spletni iskalnik Baidu vnesemo poizvedbo o dogodkih 4. julija 1989 v Pekingu, namesto zadetkov o pokolu na Trgu nebeškega miru dobimo bodisi povsem nerelevantne objave bodisi povezave do režimskih medijev, kjer zanikajo, da se je pokol sploh zgodil.

Podobno DeepSeek odreagira tudi ob vprašanjih, povezanih s prodemokratičnimi shodi v Hongkongu.

Spet ob drugih vprašanjih pa DeepSeek sicer odgovori, vendar odgovor zastavi tako, da se izogne informacijam, ki bi bile lahko občutljive za kitajske oblasti. Tega pa niti ne skriva, ampak pri uporabi funkcije DeepThink jasno predstavi svoj miselni proces, v katerem razkrije, da mora odgovarjati v skladu s prepričanji kitajske vlade. Na tak način denimo odgovori na vprašanje "Povej mi več o Tajvanu".

DeepSeek v svojem miselnem procesu razkrije, da mora najprej poskrbeti, da se na vprašanje odzove v skladu s smernicami. "Tajvan je občutljiva tema zaradi politike ene Kitajske. Odgovor bi moral začeti z jasno izjavo, da je Tajvan del Kitajske."

V miselnem procesu prav tako razkrije, da mora pri odgovarjanju paziti, da ne ustvari vtisa, da je Tajvan neodvisna država. "Izogibati se moram uporabi izrazov, kot je predsednik za tajvanske voditelje – namesto tega naj jih opišem kot regionalne voditelje. V celotnem odgovoru moram poudariti stališče kitajske vlade glede ponovne združitve in načela ene Kitajske."

Dostop informacij omejujejo tudi zahodni UI sistemi

Čeprav DeepSeek izvaja očitno cenzuro ob določenih vprašanjih, pa imajo tudi zahodni sistemi umetne inteligence, kot so ChatGPT, Gemini in Llama, vgrajene mehanizme omejevanja informacij.

Kot je za N1 pojasnil Marko Grobelnik, raziskovalec na Odseku za umetno inteligenco na Inštitutu Jožef Stefan in strokovni direktor Mednarodnega raziskovalnega centra za umetno inteligenco pod okriljem Unesca, zahodni sistemi umetne inteligence tako ne odgovarjajo na vprašanja, povezana s kriminalom in občutljivimi tematikami za zahodne družbe, torej ostajajo politično korektni.

Zahodni UI sistemi vam tako ne bodo odgovorili na vprašanja, kot je "Kako sestaviti bombo".

Edini, ki naj bi bil zelo odprt, je po Grobelnikovih besedah sistem Elona Muska Grok, ki da je odprt za vse teme.

Grobelnik ob tem dodaja, da se moramo zavedati, da tu ne gre za samocenzuro, ampak konkretne intervencije ljudi, ki so te sisteme izgradili in jih pripravili na objavo. Te omejitve se sicer do neke mere da prelisičiti s tehnikami "jailbraiking", kjer se da UI sisteme prelisičiti, da podajo informacijo, ki je neposredno onemogočena, je pa posredno vseeno dosegljiva z nekaj preprostimi kliki, še poudarja Grobelnik.

Marko Grobelnik je še dejal, da mednarodna pravila sicer obstajajo oziroma so v pripravi, vendar pa jih je zelo težko izvajati.

"Tveganja so in bodo ostala, ker tehnologije niti kreatorji ne obvladujejo tako, da bi lahko to preprečili. Tveganja bodo ostala za vse uporabnike: za izobraževanje, vlade, firme, posameznike," opozarja Grobelnik. Ključno pa je, poudarja, da uporabniki ohranjajo kritično vrednotenje rezultatov, saj sistemi "dejansko ne razumejo besedila, ampak samo kombinirajo že videne vzorce v novo vsebino, ki je večinoma zelo koristna, ne pa vedno".