Umetno inteligenco si predvsem zaradi vpliva znanstvene fantastike pogosto predstavljamo v obliki robotov s človeku podobnimi lastnostmi, ki bodo prevladali nad človeštvom. In čeprav se zdi ideja, da bi računalniki in umetna inteligenca nadzorovali in upravljali svet, grozljiva in neverjetna, je to večinoma že del našega vsakdanjega življenja. Kakšni so začetki prodora umetne inteligence, kaj vse nam danes omogoča, zaradi česa bi nas moralo skrbeti in kakšna bi morala biti umetna inteligenca, ki bo v dobrobit človeštvu?
Danes je umetna inteligenca tako vseprisoten del naših življenj, da se pogosto niti ne zavedamo, kako odvisni smo od nje – navzoča je, ko ob vklopu telefona prepoznava naš obraz, ko ob nakupovanju po spletnih straneh dobimo predlog, kaj bi nas lahko še zanimalo, ko preverimo, koliko časa bomo vozili od Ljubljane do Maribora …
Je tudi gonilna sila priljubljenih platform, kot so Facebook, Twitter in Instagram, pa tudi Netflix, ki zaradi umetne inteligence natančno ve, kaj nas bo v danem trenutku pritegnilo. Pomaga pa nam tudi pri odkrivanju skrivnosti vesolja.
Čeprav enotne definicije umetne inteligence ni, bi jo v grobem lahko opredelili kot simulacijo procesov človeške inteligence (kot je zmožnost učenja, uporabe znanja in spretnosti pri reševanju različnih problemov) s stroji, zlasti z računalniškimi sistemi.
PROFIMEDIA
Uporabljamo ozko umetno inteligenco, sveti gral pa je široka
Strokovnjaki umetno inteligenco delijo na ozko ali šibko in široko ali močno. Umetna inteligenca, kot jo poznamo in uporabljamo danes, je ozka, saj je zasnovana za izvajanje ozkih, specifičnih nalog (npr. samo prepoznavanje obraza ali samo iskanje po internetu ali samo vožnja avtomobila). Dolgoročni cilj oz. nekakšen sveti gral številnih raziskovalcev pa je ustvariti splošno umetno inteligenco.
Medtem ko je ozka umetna inteligenca od ljudi lahko boljša pri izvajanju katerekoli specifične naloge, kot je igranje šaha ali reševanje enačb, pa naj bi bila splošna umetna inteligenca od ljudi boljša pri praktično vseh kognitivnih nalogah – bila naj bi tako prilagodljiva in prožna kot človeška inteligenca.
O tem, kdaj bodo znanstveniki lahko razvili splošno umetno inteligenco, še vedno poteka vroča razprava. Nekateri pravijo, da bo to mogoče že do leta 2040, drugi pa, da je zaradi pomanjkljivega razumevanja človeških možganov oddaljeno več stoletij, tretji, da je sploh ni mogoče doseči.
PROFIMEDIA
Leta 1970 je pionir umetne inteligence Marvin Minsky za revijo Life Magazine dejal: “V treh do osmih letih bomo imeli stroj s splošno inteligenco povprečnega človeka.” Po dobrih 50 letih od njegove izjave smo še vedno daleč od razvoja splošne umetne inteligence.
Začetki umetne inteligence
Še preden je bil izraz umetna inteligenca skovan, se je z vprašanjem Ali lahko stroji mislijo? spopadal Alan Turing, skrivnostni matematik in kriptograf, ki je med drugo svetovno vojno razbil nemško kodo nacističnega šifrirnega stroja Enigma. Leta 1950 je predstavil kriterije, ki naj bi omogočali spoznanje, ali naprava vsebuje (umetno) inteligenco, ter jih poimenoval Turingov test. Do danes ga ni prestala še nobena naprava.
Za ustanovni dogodek umetne inteligence kot področja pa velja Dartmouthski poletni raziskovalni projekt o umetni inteligenci leta 1956, ki je potekal na pobudo uglednega računalničarja in kognitivnega znanstvenika Johna McCarthyja, danes znanega kot očeta umetne inteligence.
V tistem času sta bila navdušenje in optimizem nad potenciali te tehnologije izjemna, vendar se je napredek sčasoma ustavil in sledilo je obdobje, ki mu pravijo zima umetne inteligence. Ponoven zagon se je zgodil v 80. in 90. letih, ko so se zgodili številni prelomni dogodki.
PROFIMEDIA / Gari Kasparov in znanstvenik IBM
Eden od prelomnih dosežkov umetne inteligence se je zgodil leta 1997, ko je aktualnega svetovnega šahovskega prvaka in velemojstra Garija Kasparova premagal IBM računalniški program za igranje šaha Deep Blue. Ta zelo odmevna tekma je pomenila velik korak v razvoju umetne inteligence. Na zgornji sliki sta Kasparov, ki se drži za glavo, in znanstvenik IBM, ki v imenu računalnika premika figure.
Smo v tretji paradigmi umetne inteligence
Danes je navdušenje nad umetno inteligenco ponovno na vrhuncu. Trenutno smo v tretjem valu navdušenja ali pompa oz. tretji paradigmi umetne inteligence, ki jo zaznamujejo pristopi strojnega učenja, je pojasnjeval dr. Pieter Verdegem, raziskovalec in predavatelj teorije medijev na Univerzi Westminster v Londonu. Pred kratkim je uredil zbornik Umetna inteligenca za vse? (AI for Everyone? Critical Perspectives), ki prinaša kritične premisleke o področju umetne inteligence.
Dr. Pieter Verdegem (osebni arhiv)
Posebnost strojnega učenja je, da računalniškim programom omogoča, da samodejno izboljšajo svoje delovanje z učenjem iz velike količine podatkov, ne da bi to terjalo njihovo vnovično specifično programiranje.
Najbolj uspešna in odmevna metoda strojnega učenja so globoke nevronske mreže, ki delujejo po vzoru človeških možganov. Prav v obdobju 2010 in 2016, ko so se pojavili poskusi z globokimi nevronskimi mrežami, ki so dajali osupljive rezultate, je strojno učenje doživelo največji razcvet. In povzročilo preporod umetne inteligence.
Eden najbolj prelomih prebojev se je zgodil leta 2015, ko je računalniški program AlphaGo podjetja DeepMind v Googlovi lasti z uporabo globokega učenja in nevronskih mrež premagal do takrat nepremaganega profesionalnega človeškega igralca igre Go.
Ker je imel Alpha Go sposobnost učenja na podlagi pristopov strojnega učenja, je bil veliko bolj podoben človeku kot IBM Deep Blue, ki je leta 1997 premagal Kasparova. Zaradi tega je Googlova zmaga v igri Go tako velik dogodek v zgodovini umetne inteligence.
V nasprotju s strojnim učenjem so se starejši pristopi umetne inteligence učili neposredno od ljudi, in ne iz podatkov. Ideja je bila, da se znanje največjih strokovnjakov z odločenega področja zapiše v obliki pravil, računalnik pa bo nato na podlagi teh pravil, ki jih ljudje vnesejo v sistem, znal sklepati.
“To se ni obneslo, saj ljudje ne znamo dobro povedati, kaj vemo in počnemo /…/ Ta veja umetne inteligence zato tiho bdi v nekem kotu in čaka, kaj se bo zgodilo,” je povedal priznani strokovnjak na področju umetne inteligence in vodja laboratorija za bioinformatiko na Fakulteti za računalništvo in informatiko v Ljubljani dr. Blaž Zupan.
Dr. Blaž Zupan (osebni arhiv)
Pouk s ščepcem umetne inteligence
Blaž Zupan poleg dela na ljubljanski fakulteti poučuje tudi na univerzi v Houstonu. Tam že sedmo leto zapored doktorske študente biomedicine uči uporabe umetne inteligence s pomočjo programa za podatkovno analitiko Orange, ki ga razvijajo že 20 let. Ta omogoča učenje principov umetne inteligence s pomočjo preprostih grafičnih elementov, ki se zlagajo kot legokocke.
Sedaj želi Zupan z načeli umetne inteligence seznaniti tudi mlade v slovenskih šolah. Njegova skupina v okviru projekta Pumice razvija izobraževalne aktivnosti, s katerimi je mogoče popestriti različne šolske predmete. Pri tem uporabijo podatke, povezane z učno snovjo, in jih raziskujejo s pristopi umetne inteligence in strojnega učenja. Aktivnosti želijo preizkusiti v vsaj 20 šolah pri desetih različnih predmetih. Projekt je podprla fundacija Google.org z 200.000 evri za naslednji dve leti.
Blaž Zupan / orodje Orange
Danes ročno vnašanje pravil ni več potrebno, saj jih lahko algoritmi strojnega učenja sami izluščijo iz podatkov. Več je podatkov, boljši bodo rezultati, od tu izhaja pogosto omenjen rek: podatki so zlato oz. nova nafta.
Prav razpoložljivost velikih količin podatkov iz realnega sveta (ki jih omogočajo družbena omrežja, internet stvari, senzorji) v kombinaciji s skoraj neomejenimi računalniškimi zmogljivostmi in hitrim tehnološkim napredkom, ki je omogočil razvoj kompleksnejših algoritmov in modelov globokega učenja, ter s tem nevronskih mrež, je razlog, da smo trenutno v novem obdobju navdušenja oz. novi paradigmi umetne inteligence.
Slovenci verjeli v potencial strojnega učenja
Strojno učenje sicer ni novo. Že leta 1960 sta bila razvita prvi računalniški program za strojno učenje in nevronska mreža, ki se je zgledovala po strukturi človeških možganov.
Pri pionirskih poskusih strojenega učenja so sodelovali tudi slovenski raziskovalci, ki so ga že pred 40 leti uporabili v različnih poskusih v medicini in ekološkem modeliranju. Takrat je bila Slovenija med vodilnimi v svetu na področju strojnega učenja, veliko pomembnih dogodkov in konferenc s področja strojnega učenja je potekalo prav pri nas, na Bledu, v Ljubljani in Mariboru.
Tega obdobja se dobro spominja tudi utemeljitelj umetne inteligence v Sloveniji, nekdanji profesor na Fakulteti za računalništvo in informatiko v Ljubljani, dr. Ivan Bratko, ki sodi med pionirje strojnega učenja v mednarodnem merilu.
Dr. Ivan Bratko (FRI UL)
Kot nam je povedal, mnogi raziskovalci po svetu v moč te metode takrat niso verjeli, slovenski raziskovalci pa so čutili, da ima neverjeten potencial. “Zanimivo, da je trajalo 30 let, da je to ugotovil tudi preostali del sveta. Sedaj ves svet skorajda preveč verjame v moč strojenega učenja, ki je skoraj kot božanstvo, ki lahko naredi vse.”
Uveljavila se je miselnost, da lahko algoritmi strojnega učenja ob zadostni količini podatkov rešijo vse težave človeštva. A tudi strojno učenje ima omejitve, je opozoril Bratko.
Med drugim potrebuje ogromne količine dobrih podatkov, česar za vse probleme ni mogoče doseči. Poleg tega ni sposoben sklepanja in uporabe zdrave pameti, o kateri se v kontekstu umetne inteligence v zadnjih letih veliko govori. To recimo pomeni, da algoritmi strojnega učenja ne znajo dobro razložiti, zakaj je na neki sliki koala ali panda ali zakaj se je samovozeči avto zaletel v drevo.
Prav ta komunikacija računalnika s človekom – da algoritem zna razložiti, zakaj je določeno odločitev sprejel – je trenutno eden glavnih ciljev v umetni inteligenci, kjer še ni bilo veliko napredka, je dejal Zupan.
PROFIMEDIA
Področje umetne inteligence ni le strojno učenje, temveč tudi avtomatsko sklepanje in reševanje problemov, obvladovanje naravnega jezika (prevajanje in razumevanje jezika), strojni vid (razpoznavanje slik in videa) ter robotika.
Navdušenje poganja tekmo za prevlado
Trenutno obdobje (pretiranega) navdušenja nad strojnim učenjem se zrcali tudi v gospodarskih napovedih, ki pravijo, da bi lahko umetna inteligenca do leta 2030 k svetovnemu bruto domačemu proizvodu (BDP) prispevala 15,7 bilijona dolarjev.
To pa zaostruje tudi tekmovanje med državami in podjetji za to, kdo bo vodil razvoj umetne inteligence. Kot je pred nekaj leti dejal Putin: “Kdor bo postal vodilni na tem področju, bo postal vladar sveta.”
V ospredju te tekme za globalno vodstvo v umetni inteligenci so ZDA in Kitajska. Ta tekma med državami se odvija tudi na vojaškem področju, kjer je umetna inteligenca ključnega pomena za razvoj avtonomnih oborožitvenih sistemov in robotov ubijalcev.
PROFIMEDIA / Štirinožni robot Q-UGV podjetja Ghost Robotics, ki že nekaj let izdeluje psu podobne robote za vojsko.
Čeprav je bila Slovenija nekoč med vodilnimi na področju umetne inteligence, danes močno zaostaja za Kitajsko in ZDA. “Smo približno tam, kjer je Evropa,” je povedal Zupan.
Večina moči v polju umetne inteligence je skoncentrirane v rokah peščice tehnoloških velikanov. Med največjimi podjetji, kibijejo bitko za prvo mesto, so Google, Apple, Facebook, Amazon in Microsoft v ZDA ter kitajski velikani Baidu, Alibaba in Tencent (BAT).
Ta koncentracija moči znotraj peščice največjih podjetij je razlog za skrb, saj so odločitve o tem, kakšno vrsto umetne inteligence bodo razvili, kako se bo ta uporabljala in komu bo namenjena, povsem v njihovih rokah.
Čeprav je nesporno, da je potencial umetne inteligence ogromen, da lahko prinese revolucionarne spremembe v načinu življenja, organizaciji gospodarstva, da lahko pomaga naslavljati najbolj pereče probleme našega časa, kot so podnebne spremembe, pandemije ali zgodnje prepoznavanje bolezni, je z njo povezanih tudi mnogo težav – od pristranskosti algoritmov do širjenja dezinformacij in škodljivih vsebin po družbenih medijih.
Med najbolj perečimi sta po Bratkovem mnenju razvoj in uporaba avtonomnih orožij ter možnost zlorabe osebnih podatkov za manipulacijo ljudi in ogrožanje demokracije.
Večina zgoraj omenjenih tehnoloških velikanov so namreč podjetja za zbiranje podatkov. Poslovni model Facebooka je na primer, da natančno sledi vsem interakcijam uporabnikov, da bi lahko na podlagi podatkov o tem spremenil ali manipuliral vedenje ljudi z algoritmom, ki prioritizira določeno vsebino pred drugo. Na ta način lahko vpliva ne le na naše nakupne odločitve, temveč tudi na demokratične procese, kar se je jasno pokazalo v primeru podjetja Cambridge Analytica, ki je stalo za predsedniško kampanjo Donalda Trumpa leta 2016.
Ključen problem umetne inteligence tako po mnenju Zupana in Bratka ni tehnologija, temveč lastništvo nad podatki.
PROFIMEDIA / Facebookov podatkovni center
Eden od očitkov strojnemu učenju je tudi poraba energije. Vse več študij namreč kaže, da je strojno učenje izjemno energetsko potratno – že samo delovanje najosnovnejšega algoritemskega sistema terja veliko energije, je pojasnil Verdegem. Če želimo nasloviti enega največjih izzivov današnjega časa – podnebno krizo – bo zato treba razmisliti tudi o umetni inteligenci.
Umetna inteligenca kot mehanizem avtomatizacije neenakosti
Praksa kaže, da je umetna inteligenca danes predvsem orodje, ki služi povečevanju profitov velikih podjetij, težje razumljena pa je njena vloga pri izboljševanju kakovosti življenja posameznika, še posebej marginaliziranih družbenih skupin, opaža Nika Mahnič, ki študira na doktorskem programu politologije na Šoli za politiko in mednarodne odnose (School of Politics and International Relations) na Queen Mary University v Londonu, kjer se ukvarja z informacijsko tehnologijo in podatki v javni upravi.
Podobno v svoji knjigi Automating inequality iz leta 2018 trdi Virginia Eubanks, ki na podlagi treh študij primerov posledice avtomatiziranega odločanja na javne storitve v ZDA, ugotavlja, da umetna inteligenca pogosto služi kot mehanizem avtomatizacije neenakosti.
Nika Mahnič (osebni arhiv)
Nika Mahnič ima magisterij iz velikega podatkovja v kulturi in družbi (MA Big Data in Culture and Society). Na Queen Mary University piše doktorat, na King’s Collegeu v Londonu pa ima asistentsko mesto. Je med ustanovitelji inštituta Danes je nov dan, trenutno pa je del znanstvenega sveta inštituta.
To ima lahko pomembne in dolgoročne vplive na življenja ljudi, saj danes avtomatizirani sistemi skrbijo za odločanje na številnih področjih, kot so dodeljevanje kreditov, zaposlovanje, kaznovanje, dodeljevanje socialne pomoči … in pogosto so najbolj prikrajšane prav šibkejše, marginalizirane skupine.
Algoritmi namreč prevzamejo pristranskosti in predsodke resničnega sveta in jih reproducirajo, avtomatizacija pa daje vtis, da je bila politična izbira pravzaprav nevtralna, saj je ni sprejel “ideološki” človek, temveč “nevtralna” naprava.
Preglednost nad sprejetimi odločitvami dodatno otežujejo podjetja, ki si lastijo algoritme. Računalniške kode za svoje algoritme ne želijo razkriti, saj gre za poslovno skrivnost. Umetna inteligenca lahko tako služi predvsem tudi kot orodje prikrivanja oz. odmikanja od odgovornosti za odločitve javnih uslužbencev, podjetij itd.,” meni Nika Mahnič.
PROFIMEDIA
Leta 2018 so raziskovalci ugotovili, da je sistem za zaposlovanje, ki ga uporablja Amazon, diskriminiral ženske. Za učenje algoritma za ugotavljanje primernosti kandidata so namreč njegovi razvijalci uporabili življenjepise, ki jih je Amazon dobil v zadnjih desetih letih. Ker je Amazon zaposloval manj žensk kot moških, je algoritem domneval, da je neravnovesje med spoloma del njegove formule za uspeh.
Poudarja, da informacijske tehnologije v državni upravi ne bi smele privatizirati in sklepati javno-zasebnih partnerstev, saj le tako lahko zagotovimo, da programska koda ostane odprta, sistem pa transparenten.
Z naslanjanjem na ponudnike informacijskih tehnologij iz zasebnega sektorja se namreč širi polje privatizacije državnih funkcij, namesto javnega interesa pa se v državni upravi potencialno uveljavlja interes profita, opozarja ter dodaja, da ima Slovenija še vedno možnost, da se izogne napakam nekaterih drugih držav.
PROFIMEDIA
V Veliki Britaniji je leta 2020 odmeval primer Fuck the algorithm, protest, ki je sledil, potem ko je skoraj 40 odstotkov učencev zaradi avtomatiziranega procesa ocenjevanja dobilo nižje ocene od predvidenih.
Etika je nova “zelena”, potrebna je pravna regulacija
Zaradi vpliva umetne inteligence na naša življenja in mnogih groženj o resnih zlorabah, ki jih predstavlja, so se v zadnjih letih razplamtele diskusije o etičnih načelih na področju umetne inteligence. Čeprav so etične smernice pomembne, niso dovolj, opozarjajo raziskovalci.
Etičnost je namreč v industriji postala nova “zelena” in podobno kot “green washing” se dogaja tudi “ethics washing”. Pri tem tehnološki velikani pretirano poudarjajo, kako etično ravnajo, hkrati pa ne spoštujejo predpisov (recimo v zvezi z varstvom podatkov). Zato potrebujemo regulacijo in ustrezne zakonodaje, menijo sogovorniki, česar pa trenutno ni.
PROFIMEDIA
Timnit Gebru je priznana raziskovalko etike umetne inteligence, ki je pri Googlu skrbela za to, da njegovi algoritmi ne bodo reproducirali rasizma ali drugih družbenih neenakosti. Google jo je leta 2020 odpustil, ker ni želela umakniti članka, v katerem je opozorila na etične probleme velikih jezikovnih modelov, na katerih Google temelji.
Na načelnem vidiku je bilo doseženih kar nekaj korakov k dobri regulaciji, in sicer v okviru OECD, Svetovne zdravstvene organizacije in mednarodne pobude Globalno partnerstvo za umetno inteligenco.
Lani je Evropska komisija predstavila tudi akt o umetni inteligenci, ki je trenutno v zakonodajnem postopku. Gre za enega prvih tako obsežnih oz. celostnih poskusov v svetovnem merilu za urejanje področja umetne inteligence, je pojasnila doktorska študentka na pravni fakulteti v Tilburgu Tjaša Petročnik. “Večina opazovalcev je predlog pozdravila, se pa pojavljajo tudi kritike: npr. da predlog ne upošteva (dovolj) končnih uporabnikov oz. tistih, na katere bo uporaba takšnih sistemov dejansko najbolj vplivala.”
Na ravni EU so trenutno v različnih fazah zakonodajnega postopka tudi nekateri drugi akti, pomembno vprašanje pa je, kako se bodo vsi ti novi akti, ki jih imamo na mizi, implementirali oz. uveljavljali v praksi, ko bodo enkrat sprejeti, je še dodala Petročnik.
Naša dolžnost je, da zahtevamo spremembe
Če želimo, da bo umetna inteligenca dobra za vse, moramo preseči debate o tem, kakšne so priložnosti in tveganja pri njenem razvoju, ter začeti razpravljati, kdo ima v tem polju moč, za koga se umetna inteligenca razvija in implementira ter kako lahko to moč prerazporedimo, meni Verdegem.
Poudarja, da potrebujemo radikalno demokratizacijo umetne inteligence – da bo ta predstavljala vsakogar, da bo dostopna vsem in koristna za vse. »Razmišljati moramo o tem, kako lahko ustvarimo nekakšen humanizem, ki bo zagotovil, da bo umetna inteligenca razvita v korist družbe in človeštva.« In naša dolžnost je, da zahtevamo spremembe na bolje.
“Lahko bi bili cinični in rekli, da je v tem sistemu nemogoče karkoli spremeniti. Toda mi kot družba – raziskovalci in civilna družba – se moramo za to boriti, da pritiskamo na svoje vlade in zahtevamo regulacijo, več nadzora in boljše sisteme umetne inteligence in boljše algoritme. Pomemben del tega boja je tudi ozaveščanje o tem,” pravi Verdegem.
Dr. Zupan pa dodaja: “Umetna inteligenca je samo tehnologija, njeni učinki so lahko zato, podobno kot pri vseh novih tehnologijah, tako pozitivni kot negativni. Kako jo bomo izrabili, pa je na nas.”
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje