Lahko umetna inteligenca napove zločin? Strokovnjaki opozarjajo na nevarne pasti

Ali lahko umetna inteligenca napove zločin? In ali bi smela policija v tem primeru preventivno ukrepati? Koliko pred zločinom?

Kako je s krivdo "bodočega zločinca", ki zločina še ni zagrešil? Ali napovedim umetne inteligence sploh gre zaupati?

To je le nekaj vprašanj, o katerih so na okrogli mizi v okviru drugega festivala Krimifest v Ljubljani razpravljali strokovnjaki s področij prava, kriminologije in umetne inteligence.

Predstavljajte si svet, v katerem policija aretira človeka, ker bo čez nekaj ur zagrešil umor. Ne zato, ker bi mu grozil ali ga načrtoval, temveč zato, ker sistem, ki napoveduje prihodnost, ve, da ga bo storil.

Prav takšen svet prikazuje znanstvenofantastični film Posebno poročilo (Minority Report) režiserja Stevena Spielberga iz leta 2002.

V njem policija leta 2054 s pomočjo treh jasnovidcev preprečuje umore, še preden se zgodijo. Toda ko sistem kot prihodnjega morilca označi enega izmed policistov, se zastavi vprašanje, ali so napovedi res nezmotljive.

Film je bil uvod v sredino okroglo mizo z naslovom "Meje prihodnosti – Umetna inteligenca in pregon storilcev kaznivih dejanj", ki je v Krimifesta potekala v Slovenski kinoteki.

Pogovor je vodil prof. dr. Aleš Završnik z Inštituta za kriminologijo, njegovi sogovorniki pa so bili dr. Lora Briški iz Pravne fakultete Univerze v Ljubljani, dr. Maja Modic s Fakultete za varnostne vede Univerze v Mariboru in prof. dr. Danijel Skočaj, dekan ljubljanske Fakultete za računalništvo in informatiko.

Ko umetna inteligenca napoveduje zločin

Čeprav se Spielbergova zgodba še vedno zdi znanstvena fantastika, je napovedovanje kriminalitete s pomočjo računalniških algoritmov že nekaj časa resničnost.

Tako imenovano napovedno policijsko delo (predictive policing) temelji na analizi podatkov o preteklih kaznivih dejanjih in drugih dejavnikih, na podlagi katerih računalniški modeli ocenjujejo, kje, kdaj ali v kakšnih okoliščinah bi se lahko zgodila nova kazniva dejanja. Nekateri sistemi ocenjujejo tudi tveganja, povezana s posamezniki.

Toda ali so takšne napovedi zanesljive? In predvsem, ali so pravične?

Katere so tehnične, pravne, etične in druge dileme, ki se v zvezi s tem pojavljajo? To so bila vprašanja, ki so jih na okrogli mizi naslovili govorniki.

Preprečevanje kaznivih dejanj je že danes ena temeljnih nalog policije. Če preiskovalci odkrijejo, da nekdo pripravlja teroristični napad, jim ni treba čakati, da se ta zgodi.

Povsem drugo vprašanje pa je, ali bi smela policija ukrepati zgolj zato, ker računalniški model posameznika označi za potencialnega storilca kaznivega dejanja.

Ali je statistična verjetnost lahko zadosten razlog za poseg v človekove pravice? In kaj, če se algoritem moti?

Koliko lahko zaupamo umetni inteligenci pri policijskem delu

Uvajanje umetne inteligence v delo policije je "naraven proces", ki je nadaljevanje digitalizacije policijskega dela, je dejal prof. dr. Završnik.

Z njeno pomočjo lahko policija obdela nekajkrat več podatkov, zbranih iz preteklosti, kot bi to zmogli ljudje, in razkrije vzorce na primer "nevarnih sosesk" pa tudi "nevarnih vedenj".

Zato policija danes marsikje uporablja tako imenovane "napovedne modele", ki pomagajo predvsem pri predikciji oziroma napovedovanju kriminalitete, kar vpliva na odločitve policije pri njenem odkrivanju, pa tudi preprečevanju.

Vendar se pri tem pojavljajo tudi težave. Ena največjih težav napovednih modelov je pristranskost vhodnih podatkov, iz katerih se umetna inteligenca uči. Ti podatki namreč niso nujno objektiven odraz resničnosti.

Če je policija v preteklosti pogosteje nadzorovala določene soseske ali skupine prebivalcev, se lahko v podatkih o policijski dejavnosti nabere nesorazmerno veliko zabeleženih kaznivih dejanj prav na teh območjih. Algoritem lahko zato sklepa, da gre za nevarnejše soseske, in priporoča še intenzivnejši nadzor.

Tako nastane začarani krog, v katerem tehnologija utrjuje obstoječe pristranskosti.

Na to je po okrogli mizi v pogovoru za N1 opozorila tudi dr. Maja Modic.

Po njenih besedah imajo napovedni modeli težave s pristranskostjo zgodovinskih podatkov, posledica pa sta lahko pretiran policijski nadzor nekaterih območij in nezadostna pozornost drugim.

Zaupanje v umetno inteligenco pri policijskem delu je srednje ali celo nizko

Zaupanje v umetno inteligenco pri policijskem delu je glede na vse povedano na okrogli mizi je po njeni oceni srednje ali celo nizko.

"Povečuje pa se tudi, neka občutljivost za to, kakšni so pravzaprav izidi uporabe teh modelov; se pravi, kako sploh merimo njihovo učinkovitost," je dodala.

Poudarila je še, da so nekatere napovedne programe, ki so jih uporabljale policije – tako v svetu, kot pri nas – opustili.

"Pa ne vedno zgolj na pobudo oziroma na račun prepovedi s strani normativno-pravnih ureditev, ampak tudi zaradi dejansko nizke napovedne vrednosti, ki so jo policije same ugotovile, ali pa zaradi neekonomičnosti," je dejala.

Ali lahko kaznujemo nekoga, ki še ni ničesar storil?

Drugo, še občutljivejše vprašanje je, kdaj sme država ukrepati na podlagi napovedi o prihodnjem kaznivem dejanju.

Že takrat, ko nekdo o zločinu šele razmišlja? Ko ga začne načrtovati? Tik preden ga izvrši?

In kaj, če si oseba, ki načrtuje kaznivo dejanje vmes premisli?

Policija lahko že zdaj ob izpolnjenih zakonskih pogojih ukrepa zaradi konkretnih groženj ali priprav na kaznivo dejanje.

Vprašanje pa je, kdaj, kako in do katere mere pa naj ukrepa, če napoved kaznivega dejanja ali kriminalnega vedenja poda umetna inteligenca.

To do neke mere rešuje Akt Evropska unije o umetni inteligenci.

V njem je že prepovedala nekatere oblike napovedovanja kriminalnega vedenja posameznikov, kadar temeljijo izključno na profiliranju oziroma ocenjevanju njihovih osebnostnih lastnosti, smo izvedeli na okrogli mizi.

Govorniki so se strinjali, da vprašanja, ki so jih naslavljali, segajo v samo jedro sodobnega kazenskega prava. Predvsem v načelo domneve nedolžnosti.

"Nihče ne sme biti obravnavan kot kriv zgolj zato, ker bi računalniški model predvidel, da bi lahko nekoč storil kaznivo dejanje," je dejala dr. Briški, ki je načelo podrobneje pojasnila.

Umetni inteligenci ne smemo slepo zaupati. Toda tudi človeku ne

Kljub številnim pomislekom pa umetne inteligence pri policijskem in pravosodnem delu ne bi smeli vnaprej zavračati, meni prof. dr. Danijel Skočaj.

"Mislim, da vnaprej zavračati nekaj zato, ker lahko povzroči probleme, ni pravi pristop," je povedal za N1 in poudaril, da je treba morebitne težave in izzive upoštevati že pri razvoju ter uvajanju novih sistemov.

Opozoril je tudi na zanimivo protislovje pri ocenjevanju umetne inteligence.

"Mislim, da delamo malo krivico umetni inteligenci, ko poudarjamo, da ni stoodstotna. Seveda ni. Ampak noben človek ni, noben strokovnjak ni stoodstoten."

Pri uvajanju novih sistemov bi morali zato po njegovem mnenju presojati, ali umetna inteligenca določene naloge opravlja bolje od človeka, ne pa zahtevati popolne nezmotljivosti.

To pa nikakor ne pomeni, da lahko računalniku prepustimo odločanje o človeških usodah.

Skočaj je poudaril pomen človekovega nadzora nad umetno inteligenco ozirome tako imenovanega načela "human in the loop" (angleško: "človek v zanki" v smislu "prisotnost človeka v procesu").

Gre za pristop, pri katerem človek nadzira delovanje umetne inteligence, preverja njene rezultate in sodeluje pri odločanju.

Pri policijskem delu je to posebej pomembno zaradi možnosti napačnih odločitev, ki bi lahko vplivale na pravice posameznikov.

Posebej pa je izpostavil pomen odgovornosti. "Odgovornost, sploh pri takih odločitvah, mora biti na človeku," je dejal.

Opozoril je tudi na nevarnost tako imenovane pristranskosti do avtomatizacije (angleško: automation bias), ko ljudje rezultatom računalniških sistemov zaupajo bolj, kot bi jim smeli, tudi kadar so ti napačni ali v nasprotju z drugimi informacijami, in ne preverjajo njihovih morebitnih napak.

Si ljudje sploh želijo digitalnih policistov?

Ob vseh tehnoloških možnostih pa ostaja še eno pomembno vprašanje: kaj od policije pričakujejo ljudje?

Dr. Modic je opozorila, da raziskave v Sloveniji vedno znova kažejo, da si prebivalci želijo predvsem neposrednega stika s policisti.

"Ljudje si želijo policije v svojih soseskah, želijo si prisotnosti policistov, želijo si jih videti. Želijo vedeti, da je policiji mar za njihovo varnost," je povedala za N1.

Po njenem mnenju bi bilo zato težko pričakovati, da bi ljudje prisotnost policistov sprejeli zamenjati s tehnologijo.

Umetna inteligenca lahko torej pomaga pri obdelavi podatkov, iskanju vzorcev, prepoznavanju nevarnosti in učinkovitejši organizaciji dela.

Toda ali lahko nadomesti človeško presojo, odgovornost in zaupanje, ki ga ljudje potrebujejo v odnosu do policije?

Kot je poudaril dr. Skočaj, se umetni inteligenci ne smemo niti slepo prepustiti niti je zaradi pomislekov slepo zavrniti.

Spielbergovo Posebno poročilo tako v kontekstu povedanega tudi skoraj četrt stoletja po nastanku ostaja aktualno.

Ne toliko zaradi vprašanja, ali bomo nekoč znali napovedati zločin, temveč zaradi veliko pomembnejšega: kako bomo do takšne napovedi prišli in kaj bomo z njo smeli storiti?