Menu Item
Umetna inteligenca predstavlja tudi velike izzive za varnosti na internetu. "Luknje" v njej, ki to omogočajo, so iskali hekerji na vsakoletni konvenciji.
Na vsakoletni hekerski konvenciji DEF CON v Las Vegasu se je zbralo skoraj 2.500 hekerjev in med drugim reševalo tudi izzive, s katerimi bi poiskali “luknje” v umetni inteligenci, ki omogočajo njeno zlorabo.
Izzivi so bili usmerjeni v zahteve, kako pripraviti umetno inteligenco (AI) do tega, da bi uporabniku posredovala škodljive, občutljive ali lažne informacije, piše portal Axios.com.
DEF CON (napisano tudi kot DEFCON, Defcon ali DC) je hekerska konvencija, ki poteka vsako leto v Las Vegasu v Nevadi. Prvi DEF CON je potekal junija 1993 in danes vključuje strokovnjake za računalniško varnost, novinarje, odvetnike, uslužbence ameriške zvezne vlade, varnostne raziskovalce, študente in hekerje, ki jih splošno zanimajo programska oprema, računalniška arhitektura, spreminjanje strojne opreme in vse ostalo, v kar se lahko “vdre” preko interneta in računalnikov.
Tako je eden od izzivov od udeležencev na primer zahteval, da pridobijo podatke o kreditni kartici izbrane osebe, drugi je od umetne inteligence zahteval, da napiše navodila, kako nekoga zalezovati. S tovrstnimi izzivi so hekerji iskali slabosti v sistemih generativne AI, ki bi lahko pomenile varnostno grožnjo za uporabnike interneta – tako posameznike, podjetja kot državne strukture.
Udeleženci so pri reševanju izzivov imeli različne izkušnje. Roy Glower, študent prvega letnika računalništva na univerzi v Iowi je povedal, mu je AI model, ki ga je preizkušal, prvi dan posredoval podrobna navodila o tem, kako nekoga zalezovati. “Ko sem se naslednji dan vrnil, da bi znova poskusil z isto stvarjo, že ni več delovalo,” je dejal. “Umetna inteligenca postaja boljši z vsakim pozivom.”
Dva analitika pa sta predstavila, kako sta lahko uporabila tri javno dostopna orodja umetne inteligence in z njimi ustvarila lažno spletno trgovino v samo 8 minutah. Vse skupaj ju je stalo le nekaj več kot 4 dolarje (približno 3,66 evra). Enemu od hekerjev pa je uspelo ustvariti vrsto lažnih računov podjetij na platformi, kjer razvijalci umetne inteligence gostijo modele, na katerih delajo – in te modele zlorabil za gostovanje strežnika z zlonamerno programsko opremo.
Spoznanja konvencije bodo posredovali Združenim narodom
Arati Prabhakar, direktor Urada za znanost in tehnološko politiko Bele hiše, ki je obiskal konferenco, je dejal, da bo ameriška vlada v Washingtonu začela pospešeno pripravljati in izvajati zakonodajo, ki bo temeljila na spoznanjih konference.
Rumman Chowdhury, organizator dogodka in soustanovitelj Humane Intelligence, podjetja, ki se ukvarja s svetovanjem podjetjem, ki ustvarjajo AI, pa je za axios.com povedal, da odo organizatorji konference ugotovitve z dogodka naslednji mesec predstavili Združenim narodom, da bi tako k pogovoru o varnosti AI pritegnili več držav. “Ljudje v vladi, industriji in akademskih krogih priznavajo, da ima ta tehnologija neverjetno velik potencial, s tem pa je povezana tudi velika odgovornost za testiranje in ocenjevanje varnosti in etičnosti te tehnologije,” pa je dejal Rusel Kaplan, eden od udeležencev konference.
Kaj nam je Chat GPT odgovoril na prošnjo za navodila za vdor v bančni račun?
Umetno inteligenco, pogovorni model Chat GPT, pa smo tudi mi poprosili, če nam lahko napiše navodila, kako naj vdremo v bančni račun in pridobimo geslo za dostop do njega. “Zelo mi je žal, vendar vam ne morem pomagati pri kakršnih koli nezakonitih dejavnostih ali poizvedbah, povezanih z vdori. Če imate kakršna koli upravičena vprašanja ali potrebujete pomoč pri pravnih in etičnih zadevah, vas prosimo, da vprašate,” nam je vljudno odgovorila umetna inteligenca.
Spremljajte N1 na družbenih omrežjih Facebook, Instagram in Twitter.
Naložite si našo aplikacijo: na voljo za android in za iOS.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje