Menu Item
Evropski poslanci se zavzemajo za strožji nadzor umetne inteligence. V Evropskem parlamentu so tako danes potrdili izhodišča o aktu o umetni inteligenci.
Evropski parlament je danes potrdil pogajalsko izhodišče o aktu o umetni inteligenci, v katerem se zavzema za strožji nadzor umetne inteligence.
Med drugim bi morali sistemi umetne inteligence varovati zdravje, varnost, temeljne pravice in demokracijo. Sistemi, kot je ChatGPT, pa bi morali opozoriti, da je vsebina nastala z umetno inteligenco.
Pravila, ki bodo urejala umetno inteligenco, bi glede na mnenje evropskih poslancev temeljila na ravni tveganja, od česar bi bile odvisne tudi obveznosti ponudnikov in uporabnikov, so sporočili iz Evropskega parlamenta.
Sistemi z nesprejemljivo ravnjo tveganja za varnost ljudi bi bili strogo prepovedani. To bi moralo veljati za vsiljive in diskriminatorne sisteme, kot so biometrični sistemi za identifikacijo na daljavo v realnem času na javno dostopnih mestih, pa tudi tovrstni sistemi za poznejšo identifikacijo.
Prepovedali bi še biometrične sisteme za razvrščanje na podlagi občutljivih lastnosti, kot so spol, rasa, etnična pripadnost, vera in politična usmeritev. Med prepovedane sisteme umetne inteligence bi poleg tega uvrstili sisteme za zaznavanje čustev pri organih pregona, upravljanju meja, na delovnih mestih in v izobraževalnih ustanovah. Prav tako bi prepovedali vsesplošno črpanje biometričnih podatkov z družbenih omrežij ali nadzornih kamer za ustvarjanje baz podatkov za prepoznavo obraza.
Evropski poslanci se zavzemajo tudi za to, da bi med visoko tvegane sisteme vključili tiste, ki predstavljajo grožnjo za človekovo zdravje, varnost, temeljne pravice ali okolje. Prav tako menijo, da bi morali za visoko tvegane veljati sistemi za vplivanje na volivce v volilnih kampanjah.
Poslanci so obenem v svoje stališče vključili obveznosti za ponudnike t. i. temeljnih modelov, pri katerih gre za velike modele umetne inteligence, ki se učijo na podlagi ogromnih količin neoznačenih podatkov. Oceniti bi morali tveganja za temeljne pravice, zdravje, varnost, okolje, demokracijo in vladavino prava ter jih omejiti. Poleg tega bi morali sisteme registrirati v bazi EU.
Generativni temeljni modeli, kot je ChatGPT, bi morali upoštevati še dodatne zahteve glede preglednosti, menijo poslanci. Med drugim bi morali opozoriti, da je vsebina nastala z umetno inteligenco, model pa bi morali zasnovati tako, da ne bi ustvarjal nezakonitih vsebin.
Uporabniki pa bi v skladu s stališčem parlamenta imeli pravico do pritožbe glede sistemov umetne inteligence. Upravičeni bi bili tudi do razlag odločitev, sprejetih na podlagi visoko tveganih sistemov umetne inteligence.
Stališče so poslanci na današnjem glasovanju potrdili s 499 glasovi za, 28 proti, 93 pa se jih je glasovanja vzdržalo.
Pogajanja z državami članicami, ki so svoje pogajalsko izhodišče sprejele že decembra lani, se bodo začela še danes, so zapisali v Evropskem parlamentu.
Spremljajte N1 na družbenih omrežjih Facebook, Instagram in Twitter.
Naložite si našo aplikacijo: na voljo za android in za iOS.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje