Združeni narodi so pozvali k moratoriju za nekatere sisteme umetne inteligence, kot je prepoznavanje obrazov, dokler ne bodo določeni elementi zaščite človekovih pravic.
“Tehnologije umetne inteligence imajo lahko negativne učinke, celo katastrofalne, če se uporabljajo brez zadostnega upoštevanja njihovega vpliva na človekove pravice,” je dejala Michelle Bachelet, visoka komisarka Združenih narodov (ZN) za človekove pravice.
Pozvala je k oceni tveganja različnih sistemov, ki se za pravico do zasebnosti ali svobode gibanja in izražanja opirajo na umetno inteligenco, in predlagala prepoved ali ureditev tistih, ki pomenijo največjo nevarnost.
Medtem ko čakajo na dokončne ocene, bi morale države uvesti moratorij za tehnologije, ki potencialno pomenijo veliko tveganje, je dejala nekdanja čilska predsednica Bachelet med predstavitvijo novega poročila, posvečenega tej temi.
V poročilu, izdelanem na zahtevo Sveta Združenih narodov za človekove pravice, piše, kako se te tehnologije pogosto uporablja brez ustreznega vrednotenja njihovega delovanja ali potencialnega vpliva.
Slabo delovanje umetne inteligence je ljudem preprečilo, da bi dobili socialno pomoč, našli delo ali je privedlo do aretacije nedolžnih ljudi na podlagi sistemov za prepoznavanje obrazov, ki niso dobro narejeni in na primer ne morejo pravilno prepoznati ljudi z afriškimi lastnostmi.
Resno tveganje za diskriminacijo
“Obstaja resno tveganje za diskriminacijo v zvezi z odločitvami, ki temeljijo na umetni inteligenci – to so odločitve, ki lahko spremenijo, stigmatizirajo ali škodijo življenju osebe,” je dejala Bachelet.
Poročilo navaja, da se umetna inteligenca razvija na podlagi ogromnih zbirk podatkov, katerih zbiranje je pogosto zelo netransparentno. Te baze podatkov so lahko tudi slabo sestavljene, zastarele, in zato lahko prispevajo h kršitvam človekovih pravic.
Poročilo poudarja predvsem vse večjo uporabo sistemov, ki temeljijo na umetni inteligenci, s strani organov pregona.
Kakšno je tvoje mnenje o tem?
Bodi prvi, ki bo pustil komentar!