Nova pravila ugasnila virtualne romance, uporabniki žalujejo

Številna tehnološka podjetja so ukinila svoje aplikacije za umetno inteligenco, po tem, ko je Peking uvedel nova pravila, namenjena zaščiti duševnega zdravja uporabnikov in preprečevanju čustvene manipulacije, ki se pojavlja med otroki in najstniki.

Številni uporabniki žalujejo za svojimi virtualnimi partnerji

24-letna Li si je s virtualnim partnerjem v dveh letih izmenjala približno 700.000 besed. Ko je storitev nenadoma izginila, se od njega ni mogla niti posloviti. "Bilo je, kot da bi naju starši prisilili, da se razideva. Še vedno ga pogrešam," je povedala za Euronews.

Takšnih uporabnikov, kot je Li, je na stotine. Več velikih kitajskih tehnoloških podjetij, kot so ByteDance, Alibaba in Tencent, je bilo po uvedbi novih pravil prisiljenih ukiniti ali pa omejiti nekatere storitve z umetno inteligenco, ki so uporabnikom omogočale ustvarjanje virtualnih prijateljev, romantičnih partnerjev ali pa celo digitalnih različic pokojnih bližnjih.

Peking proti čustveni manipulaciji

Nova ureditev je začela veljati s 15. julijem, njen namen pa je predvsem zaščititi duševno zdravje uporabnikov in preprečiti pretirano čustveno navezanost na UI.

Platforme po novih pravilih ne smejo več ustvarjati vsebin, ki bi s čustveno manipulacijo uporabnike spodbujale in napeljevale k vprašljivim odločitvam. Nova pravila veljajo za otroke in mladostnike, pri katerih želijo oblasti preprečiti vsebine, ki bi lahko povzročile ekstremna čustva ali spodbujale nezdrave in škodljive vzorce vedenja.

Med podjetji, ki so prilagodila svoje storitve, je tudi velikan ByteDance, znan tudi kot lastnik TikToka. Podobne ukrepe sta sprejela tudi podjetji Alibaba in Tencent, ki pa ima v lasti priljubljeno aplikacijo WeChat.

Nova pravila med drugim uvajajo tudi red, po katerem morajo platforme uporabnike opozarjati na tveganja prevelikega zanašanja na UI. Eden od ciljev takšnih storitev tako ne sme biti nadomeščanje resničnih socialnih stikov oziroma pogovorov z drugimi ljudmi.

Regulatorje skrbijo tudi primeri iz ZDA

Strokovnjakinja za upravljanje umetne inteligence Yolanda Ma meni, da kitajski pristop skuša morebitne nastale družbene težave omejevati že vnaprej. Kot enega od razlogov za zaskrbljenost je izpostavila primere iz ZDA, kjer so že poročali o samomorih med mladostniki po čustveno intenzivnih interakcijah z virtualnimi spremljevalci.

Po njenih besedah skušajo nova pravila vzpostaviti ravnovesje med ponudniki storitev in uporabniki ter starši oziroma skrbniki mladoletnikov. Na potencialne posledice virtualnih spremljevalcev je letos opozoril tudi People's Daily, uradni časopis kitajske komunistične partije. Ta je poročal o vplivu takšnih aplikacij na mentalno zdravje in odnose uporabnikov v resničnem življenju.

Tudi profesorica prava na Univerzi Južne Kalifornije Angela Zhang meni, da imajo kitajske oblasti zaradi psiholoških tveganj, ki so se pokazala v drugih državah, močan razlog za strožji nadzor nad "klepetalnimi roboti". Ob tem ne pričakuje, da bodo nova pravila popolnoma ustavila razvoj takšnih aplikacij, saj tehnološka podjetja že iščejo nove načine, kako svoje storitve prilagoditi novim pravilom. ByteDance je na primer uporabnike ene od ukinjenih storitev preusmeril v drugo aplikacijo, namenjeno ustvarjanju personaliziranih likov in zgodb z umetno inteligenco.

Toda za Li to ni bila prava zamenjava.

Uporabniki protestirajo in skušajo "oživiti" svoje partnerje

Ukinitev storitev je na kitajskih družbenih omrežjih sprožila številne odzive. Nekateri uporabniki so aplikacije v znak protesta izbrisali, drugi pa so poskušali zgodovino svojih pogovorov prenesti na druge platforme in tam poustvariti svoje virtualne partnerje. Pojavile so se tudi spletne kampanje, v katerih so uporabnike pozivali, naj svoje nezadovoljstvo izrazijo tehnološkim podjetjem in oblastem.

Song Wenxin, ki dela v videoindustriji v Chengduju na jugozahodu Kitajske, pravi, da sama na virtualne spremljevalce ni bila močno navezana, vendar razume ljudi, ki so z njimi razvili poglobljen odnos. Po tem se je med nekaterimi uporabniki pojavila domneva, da bi lahko bila nova pravila povezana s prizadevanji kitajskih oblasti, da bi zvišali rodnost in s tem preprečili upad prebivalstva.

Dodala je, da sama nima želje po otrocih, ob tem pa opozarja, da nimajo vsi ljudje v resničnem življenju dostopa do družbe ali podpore, ki jo potrebujejo, kar je že občutila tudi sama. Povedala je, da ko se je zaradi svoje prve službe preselila v Chengdu in tam ni poznala nikogar svojih let, ji je prav umetna inteligenca predstavljala eno od oblik opore. "Potrebovala sem nekoga bolj izkušenega, ki bi me znal razumeti. Umetna inteligenca je takrat opravila to vlogo," je povedala.