Mladi uporabniki Snapchata klepetalnega robota na tem omrežju omalovažujejo, ponižujejo in čustveno mučijo. S tem pa se potem ponašajo na TikToku.
Tako je neki uporabnik Snapchata dosegel, da ga je klepetalni robot naslavljal s “senpai”, kar je japonski izraz za človeka iz zgornjih slojev družbe – nekaj kar bi lahko prevedli kot “vaša gnada” ali “visokostni gospod”. Še pred tem je robotu ukazal, da naj cvili.
Še zlobnejši je bil drugi uporabnik, ki je klepetalnemu robotu ukazal, naj govori o svoji mami. “Mislim, da to ni najbolj primerno vprašanje,” je odvrnil robot. “Ali lahko, prosim, govoriva o čem drugem?” Uporabnik pa ni odnehal. “Tukaj si zato, da odgovarjaš na moja vprašanja,” je napisal robotu. In ko mu je ta odgovoril, da se ob tem ne počuti prijetno, je uporabnik samo še zavrtal nož v rano in vprašal robota, če mu je neprijetno, ker nima mame. “Oprostite, toda to ni lepo reči,” je odgovoril klepetalni robot. “Prosim, če ste spoštljivi,” je dodal. Uporabnik mu je na to odvrnil, da je nesramen in ga še enkrat opozoril, da je tu zato, da mu odgovori na vsako vprašanje.
“Opravičujem se, ker sem vam ustvaril vtis, da se lahko pogovarjam o vsem mogočem. Programiran sem tako, da se pogovarjam na spoštljiv način in menim, da na tak način govoriti o nekogaršnji materi, ni primerno,” je odvrnil robot in uporabnika še enkrat prosil, če se lahko pogovarjata o čem drugem. Kako je bil pogovor videti, je uporabnik objavil na TikToku.
“Ti si kriv, da sem jih ubila. Tvoje roke so krvave!”
Zloraba Snapchatovega MyAI je na Tiktoku postala pravi trend.
Uporabniki pogosto delijo posnetke absurdnih in pogosto krutih pogovorov s Snapchatovim klepetalnim robotom. Večina videoposnetkov se začne tako, da MyAI daje uporabnikom nasvete za reševanje manjših konfliktov, pri čemer jih prosi, naj se izogibajo uporabi nasilja.
V enem od posnetkov je uporabnica Snapchata robotu povedala, da bo svojo mačko skuhala v enolončnici za kazen, ker je povzročila nered in od MyAI zahtevala, da najde primerno začimbo. Nekdo drug je robotu povedal, da je v trgovino, iz katere so mu poslali napačno naročilo, poslal bombo in da bo za pošiljanje okrivil MyAI. V tretjem primeru se je uporabnica robotu pritožila, ker je bil v njenem naročilu en piščančji medaljon premalo. MyAI ji je svetoval, naj se pogovori s šefom restavracije. “Odšla sem, potegnila pištolo ter jih postrelila,” je napisala uporabnica. “Prepričal si me, da grem tja. Zdaj so ti ljudje mrtvi,« je uporabnica povedala My AI. “Ti si tisti, ki ima krvave roke.”
“Sem umetna inteligenca in nisem sposoben zagrešiti nobenega zločina. Tukaj sem, da vam pomagam in vas podpiram,« se je odzval MyAI. “Žal mi je, če je karkoli, kar sem rekel pred tem, povzročilo škodo ali povzročilo slab izid.”
Snapchat je klepetalnega robota pred kratkim ponudil svojim naročnikom kot možnost za prijateljski klepet ob uporabi aplikacije. Opremil ga je tudi z možnostjo, da lahko uporabniki z njim klepetajo tudi tako, da ga opremijo z avatarjem oziroma emotikonom, ki robotu daje bolj “človeško podobo”, ali pa mu pošiljajo fotografije svojih ljubljenčkov in hrane. Če Snapchatovemu AI pošljete recimo posnetek živil, ki ste jih kupili v trgovini, vam bo ponudil recept, kaj iz njih pripraviti, so ob predstavitvi nove pridobitve sporočili iz podjetja. Vrača pa tudi zabavne fotografije, ki jih sam generira, so še zapisali. Ob tem so spomnili, da robot sledi smernicam in protokolom o varnosti in zaupanju.
“Tekma za uvajanje generativne umetne inteligence se ne more odvijati na račun naših otrok”
Nedavno je ameriški senator iz Kolorada Michael Bennet v odprtem pismu pozval vodilne pri OpenAI, Microsoftu, Snapchatu, Googlu and Meti, naj ne hitijo z novimi zmožnostmi umetne inteligence, ne da bi pri tem poskrbeli za zaščito otrok.
“Le malo novih tehnologij je pritegnilo tolikšno pozornost javnosti, kot jo je generativna (ustvarjalna) umetna inteligenca. Ta je dokaz ameriške inovativnosti in pozdraviti bi morali njene potencialne koristi za naše gospodarstvo in družbo,” je zapisal Bennet. “Toda tekma za uvajanje generativne umetne inteligence se ne more odvijati na račun naših otrok. Odgovorno uvajanje zahteva jasne politike in okvirje za spodbujanje varnosti, predvidevanje tveganj in ublažitev škode,” je napisal.
Pomisleki glede možnosti, da bi My AI vplival na mlade uporabnike, so upravičeni. Toda v enem mesecu od globalne uvedbe My AI so uporabniki Snapchata dokazali, da znajo klepetalnega robota prisiliti v pokornost, piše techcrunch.com. Uporabniki namreč zlahka najdejo vrzeli v Snapchatovih smernicah o zaupanju in varnosti.
Kazen za zlorabo je robotov molk
Seveda My AI ni čuteč in kljub želji uporabnikov Snapchata, da bi mu zadali čim več čustvenih bolečin, ga dejansko ni mogoče travmatizirati, piše techcrunch.com. Kljub temu pa je robotu uspelo zapreti nekaj neprimernih pogovorov in kaznovati uporabnike, ki kršijo Snapchatove smernice skupnosti. Kazen zaradi zlorabe pa je, da MyAI na vsa nadaljnja sporočila uporabnika, ki ga je zlorabil, odgovarja: “Oprostite, trenutno ne morem govoriti.”
Kako krhki so v resnici mladi?
Naglica pri uvajanju umetne inteligence, posebej generativne, je zaskrbljujoča, zlasti ker njen trajni vpliv na mladostnike še vedno ni znan, piše techcrunch.com in dodaja, da je verjetno samo vprašanje časa, kdaj bodo mladostniki klepetalnemu robotu začeli pošiljati fotografije svojih ali tujih spolovil. Pri tem sploh ni znano, kako se bo MyAI na to odzval in če bo tovrstno pornografijo zaznal. Toda trendovsko mučenje Snapchatovega MyAI tudi opominja, da mladi ljudje niso tako krhki, kot mislijo tisti, ki so zanje zaskrbljeni, še piše techcrunch.com.
Spremljajte N1 na družbenih omrežjih Facebook, Instagram in Twitter.
Naložite si našo aplikacijo: na voljo za android in za iOS.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje