Nacionalna platforma umetne inteligence: pristop s številnimi neznankami in pastmi

Začnimo z nekaj nenavadnostmi. Za začetek projekt vodi ministrstvo za visoko šolstvo, znanost in inovacije, pod taktirko Igorja Papiča, in ne vsebinsko morda pristojnejše ministrstvo za digitalno preobrazbo pod vodstvom njegove strankarske kolegice Ksenije Klampfer. Z vladnega urada za komuniciranje, kamor so naša vprašanja preposlali iz kabineta predsednika vlade, so nam odgovorili, da je to tako, ker da so sredstva za vzpostavitev nacionalne platforme načrtovana v okviru Papičevega ministrstva. Omenjeni minister v pogovoru za N1 doda, da gre za "mejni projekt, podobno kot superračunalnik. Mi (MVZI, op. p.) smo ga prevzeli, ker je težko definirati, kdaj je nekaj razvojnega in kdaj implementacija obstoječih rešitev". Pojasni, da so "koordinacijo aktivnosti" zato prevzeli na njegovem ministrstvu.

A predstavnika ministrstva za digitalno preobrazbo ni niti v za to postavljeni komisiji za javno naročilo platforme umetne inteligence. Doslej sta se v javnosti pojavljala le dva njena člana, in sicer dr. Marko Bajec z ljubljanske fakultete za računalništvo in informatiko in Marko Grobelnik z Instituta Jožef Stefan. Predsednica komisije je Simona Kuzman z ministrstva za javno upravo; še dva člana, Peter Sterle in Klemen Prešeren, prihajata s Papičevega ministrstva. Po ministrovih trditvah je v času priprave gradiva za razpis "neformalno" poleg njega sodelovala tudi državna sekretarka z ministrstva za digitalno preobrazbo, Aida Kamišalić Latifić.

Med pripravami vključili tudi Žigo Debeljaka

Minister je za N1 potrdil še, da je v pripravah razpisa sodeloval tudi Žiga Debeljak, sicer predsednik Slovenskega državnega holdinga (SDH). Po njegovih besedah naj bi Debeljak sodeloval v začetni fazi "zaradi zanimanja snovalcev razpisa za potrebe gospodarstva po uporabi platforme". Kot dodaten argument nam je navedel, da je Debeljakova osnovna izobrazba inženir računalništva.

Javni razpis se je prejšnji teden zaključil, a na MVZI pojasnjujejo, da ne smejo "razkriti nobenih podatkov, do trenutka, ko bo jasno, s kom so se odločili voditi konkurenčni dialog". Tako naj ne bi izvedeli niti, kdo vse je izkazal zanimanje za prodajo tovrstne licence.

Zgolj za vzpostavitev platforme ima MVZI rezerviranih deset milijonov. Koliko bo stala letna naročnina za licenco na različnih nivojih, minister Papič ne ve. To naj bi se, pravi, razjasnilo skozi pogajanja s potencialnim prodajalcem, a računajo na količinski popust, cena bo odvisna tudi od zanimanja za različne stopnje licence. Analize o potencialnem povpraševanju po omenjeni nacionalni platformi niso pripravili. Operirali so zgolj s splošno oceno o številu uporabnikov svetovnega spleta v Sloveniji, teh naj bi bilo okoli milijona. Tudi sredstva za podaljševanje licenc še niso zagotovljena, v prihodnjih letih jih bo treba najti v proračunu, dodaja minister.

Bo za vse ali ne bo za vse? Golob tako, minister Papič nekoliko drugače

Naslednja zanimivost. Kot je ob napovedi javnega naročila nacionalne platforme povedal predsednik vlade, naj bi bil vladni namen omogočiti brezplačen dostop do orodij umetne inteligence za "vsako Slovenko in Slovenca,". A minister Papič v to še ni povsem prepričan.

O uporabi omenjene platforme pri mladih in v šolah se predhodno niso posvetovali s pedagoško stroko. Minister ob tem doda: "Tudi meni se zastavlja vprašanje, kdo naj bi uradno dobil licenco. Možnost je, da jo dobijo samo učitelji v šolah in da bo uporaba pod nadzorom. V petek bom imel sestanek z ministrom Logajem na to temo, da bo povedal, kako nadaljevati razpravo o tem vprašanju, tudi glede uporabe platforme vse do ravni univerzitetnega izobraževanja."

Uporaba generativne umetne inteligence je v Sloveniji sicer razširjena. Po podatkih eurostata naj bi jo letos uporabljalo 37,6 odstotkov prebivalcev v starosti 16-74 let (povprečje EU je 32,7 odstotkov). Z njo so v stiku tudi mlajši otroci prek klepetalnikov. Univerzalen dostop do generativne umetne inteligence se številnim strokovnjakom zato zdi sporen iz več razlogov. Ne le, da je to še en nedomišljen projekt, brez podlag, informacij o povpraševanju ali razdeljevalnih kriterijev, licenco bi se podeljevalo brez ustrezne digitalne pismenosti, usposobljenosti in ozaveščenosti prebivalstva o omejitvah in tveganjih uporabe, kakor tudi z njo povezanih odvisnostih in negativnih učinkih na okolje.

V nedavnem Studiu ob sedemnajstih na Radiu Slovenija je, denimo, dr. Maja Jančič Bogataj, strokovnjakinja za avtorsko pravo in vodja Inštituta za intelektualno lastnino, opozorila, da lahko tovrstna tehnologija prinaša koristne rešitve le, "če je zgrajena v skladu z javnim interesom in se v skladu z javnim interesom tudi uporablja. Največja tovrstna podjetja, tako imenovani tehnološki lordi ne pri izgradnji UI ne pri njeni uporabi ne sledijo javnemu interesu, temveč želijo maksimizirati dobiček, zato potrebujemo javno UI."

Slednja rešitve vidi v prizadevanjih Evrope in nekaterih evropskih držav, med njimi tudi Slovenije, ki gradijo superračunalniške centre in podatkovne oblake, saj da imajo na ta način države več vpliva. "Zato se mi ne zdi smotrno, da Slovenija razmišlja o preskoku in kupovanju licenc od teh tehnoloških lordov, saj to ne vodi v večjo suverenost."

Informacijski pooblaščenki še niso mogli dati odgovorov

Tudi urad informacijske pooblaščenke je zanimalo, kako si vlada zamišlja omenjeno platformo z vidika zagotavljanja varstva osebnih podatkov.

Minister Papič priznava, da na vprašanja informacijske pooblaščenke o "arhitekturi" platforme, shranjevanju podatkov in drugem "nimamo tehničnih podatkov in ga ni v državi junaka, ki bi znal povedati, kako poteka delovanje". "Osnovni koncept je, da nam ponudniki teh rešitev natančno razložijo, kaj se bo dogajalo s podatki, kje so serverji, kdo dostopa do njih, kdo lahko vidi naše vnose." Minister trdi, da bo z določenim ponudnikom mogoče priti do dogovora le pod pogojem, da "bomo dobili natančno razlago arhitekture algoritmov. Šele če bo cena sprejemljiva, če so sposobni spoštovati evropsko in slovensko zakonodajo na tem področju, lahko pridemo do faze, ko bomo rekli, naj nam dajo ponudbo." Tako Papič, ki dopušča možnost, da s potencialnim kandidatom tudi ne bodo našli skupnega jezika.

Nadaljujmo z nenavadnostmi. Z vladnega urada za komuniciranje so za N1 pojasnili, da je pravna podlaga za uporabo platforme šele v pripravi. Pristop, ko obstaja še toliko nejasnosti in nedorečenosti, a se projekt "javnosti že prodaja kot ena čudovita rešitev, je simptomatičen," pravi Maja Cimerman z zavoda Danes je nov dan. Ob številnih pomislekih o smotrnosti takšnega nakupa – z vidika porabe javnih sredstev, digitalne suverenosti, zasebnosti in varnosti uporabnikov in naših podatkov, spoštovanja avtorskih in delavskih pravic in zavezanosti za zaščito okolja - bi morale biti pred odločitvijo za razpis opravljene različne analize, med drugim tudi o učinku na osebne podatke. Prav tako ni bilo opravljene širše javne in strokovne razprave (predsednik vlade je organiziral en posvet, op.p.). Cimerman se zato sprašuje, ali bi odgovorni za projekt sploh razmišljali o teh vprašanjih, če na pasti ne bi opozorili v odprtem pismu predsedniku vlade.

Cimerman pravi, da javnost še danes ne ve, kdo je sodeloval pri pripravi javnega naročila in zato ni jasno, ali so pripravljalci res sledili javnemu interesu, ki ostaja eno ključnih in najpomembnejših vprašanj pri tem projektu.

Država in možnost lažnega občutka varnosti

"Javna razprava pred objavo naročila bi bila znak dobre prakse, saj bi pokazala, ali res potrebujemo kaj takega. Oni pa so se odločili za nakup in šele zdaj začenjamo razpravljati o potencialnih nevarnostih in pomislekih strokovnjakov. To je napačna logika."

Tako Cimerman, ki spomni na enega od dokumentov podjetja Meta, ki je pricurljal v javnost in na katerem so razvijalcem UI dovolili, da se otroke, starejše od osmih let, zapleta v romantične pogovore, da bodo več časa preživeli z uporabo klepetalnika. "To je izjemno nevarna tehnologija, ki je v preteklosti pripeljala nekatere do samomora, ali pa so posamezniki z njeno uporabo na različne načine škodovali sebi in drugim. Tudi zato je država ne more kar dati v roke prebivalcev, ne da bi pred tem zagotovila ustrezen nivo digitalne pismenosti." Pri tem opozori še na eno pomembno past: "Ko ti država da nekaj v uporabo, lahko posameznik ob misli, da mu je to dala javna institucija, dobi lažen občutek varnosti."

Minister Papič na tovrstne očitke odgovarja, da ljudje že imajo dostop do UI in jo tudi uporabljajo in da bi z nacionalno platformo "radi zagotovili našim državljanom, da so njihovi podatki procesirani v skladu s slovensko in evropsko zakonodajo." Prepričan je, da se bodo kot država bistveno lažje pogajali s potencialnim ponudnikom UI kot se posamezne institucije.

Minister Papič: Nismo poskusni zajček, orjemo ledino!

Minister tudi zavrača očitke, ki so se pojavili v javnosti, da naj bi bila Slovenija poskusni zajček. "Poskusni zajček si, če ti drugi diktira, kaj moraš narediti, katere pogoje sprejeti. Če ti njemu narekuješ, katera rešitev bo sprejemljiva zate in pod kakšnimi pogoji, to pomeni, da mi s tem orjemo ledino. Prepričan sem, da ima UI neverjetno pozitivne učinke. Seveda pa moramo narediti vse, da ne bi prihajalo do zlorab." In doda, da ni UI kriva, če zapiše netočen podatek ali neumnost, saj jo je le povzela s svetovnega spleta. Tisti, ki jo uporablja, mora znati presoditi, ali je podatek resničen ali ne. A prav veščin za presojo, kakor tudi za ustrezno uporabo UI naj bi primanjkovalo, opozarjajo nekateri strokovnjaki.

Za presojo, ali so odgovori klepetalnikov, kot sta denimo ChatGPT ali Gemini, pravilni, je zato nujno vlaganje v izboljšanje digitalne pismenosti in kritično razumevanje tveganj in omejenosti uporabe UI. Minister pravi, da se bo v to še vlagalo in se že preko ministrstva za digitalno prihodnost. Iz slednjega so sporočili, da so v letu 2023 5,9 milijona evrov namenili krepitvi digitalnih kompetenc dobrih 23.000 posameznikov, starih 30 in več let. Enak znesek so namenili v zadnjih letih, vključenih je bilo dobrih 25.000 prebivalcev. Mladim od šestega do 29. leta starosti so za krepitev digitalnih kompetenc in poznavanje delovanja UI v letu 2023 namenili 3,8 milijona evrov. Vključenih je bilo 21.000 mladih. Letos so na ta način izobraževali 16.400 otrok. Dodali so, da imajo tudi vsi nastajajoči projekti, ki jih podpirajo – tovarna UI, EDIH, kompetenčni center za UI - predvideno izvajanje usposabljanj in izobraževanj s področja umetne inteligence. Tudi z ministrstva za vzgojo in izobraževanje so sporočili, da so v zadnjih letih v okviru Načrta za okrevanje in odpornost objavili več javnih razpisov za dvig digitalnih kompetenc in temeljnih znanj računalništva in informatike, namenjenih otrokom, učencem, študentom, vzgojiteljem in profesorjem.

Dr. Blaž Zupan, ki na Fakulteti za računalništvo in informatiko v Ljubljani predava o UI, kljub temu meni, kot je dejal v Studiu ob sedemnajstih na Radiu Slovenija, da izobraževanja o umetni inteligenci v šolstvu ni, "prav tako Nacionalne strategije, kako to prenesti v podjetja, nismo vzeli resno."

Sam pravi, da se mu "zdi fino", da je država pripravljena vlagati v UI, a se sprašuje, ali je nacionalna platforma "res prava pot in ali to res potrebujemo. Mnenja stroke so tu zelo deljena; tisti, ki so sodelovali pri pripravi razpisa, so zelo za, in praktično vsi drugi, ki so zelo proti."

Zupan še dodaja, da vsi, ki genUI orodja potrebujejo, od šolstva, raziskovalne sfere in gospodarstva, že imajo dostop do najboljših pogovornih robotov, saj plačujejo licenco ameriškemu podjetju. Pri tem povzame raziskavo ljubljanske Ekonomske fakultete, po kateri naj bi bila Slovenija prva v Evropi po uporabi pogovornih robotov v gospodarstvu, medtem ko raziskave, opravljene v ZDA, kažejo, da uporaba pogovornih robotov ni konkurenčna prednost, ker jim imamo vsi. "Konkurenčna prednost je, ko UI pravilno vpeljemo v procese, na način, da tako odločevalske kot proizvodne procese spremeniš, in to ne s tehnologijo pogovornih robotov. To pa terja izobraževanje. In tu imamo mi ogromno luknjo."

Da je to eden od temeljnih namenov nacionalne platforme, s pomočjo UI gospodarstvu zagotoviti razvoj, trdi minister Papič. "Gospodarstvo ne potrebuje klepetalnikov. Generativna UI je močno orodje, ki se ga lahko uporablja za razvoj drugih aplikacij. Je zgolj orodje, predpogoj razvoja in ne končni cilj." Tako minister, pristojen tudi za inovacije, ki pomisleke podpisnikov pisma Danes je nov dan označuje kot utemeljene in je zato o njih pripravljen razpravljati. Na drugi strani sogovorniki pričakujejo, da se bo razpravljajo z argumenti in da ne bodo prevladala mnenja odločevalcev zgolj kot pozicije moči v družbi. K temu je, pravijo, treba dodati še razpravo o etiki rabe generativne umetne inteligence in njenih vplivih na okolje.

Danes prireja Danes je nov dan okroglo mizo "Generativna umetna inteligenca v vsako vas: Komu koristi javno naročilo platforme z velikimi jezikovnimi modeli?". Med drugim se jo bo udeležil tudi minister Papič.