Iznašel naj bi srajco, ki nas "skrije" pred nadzornimi kamerami. Ali res deluje?

Pozornost navdušencev nad digitalnimi tehnologijami, pa tudi uporabnikov družbenih omrežij, je pred kratkim pritegnila nekoliko nenavadna srajca z nekakšnim havajskim vzorcem.

Srajca je živahnih barv z abstraktnim vzorcem in njen uporabnik bi na ulici verjetno pritegnil poglede.

Toda srajca z imenom Digital Camouflage (digitalna kamuflaža) ni bila oblikovana zato, da bi pritegnila človeške poglede, pač pa, da bi človeka skrila pred "digitalnimi očmi" umetne inteligence.

Njen avtor, berlinski umetnik Simon Weckert, namreč trdi, da posebej oblikovani vzorec na srajci zmede algoritem za računalniški vid, zaradi česar ta človeka, ki jo nosi, sistem za prepoznavanje z nadzornimi kamerami ne prepozna več kot osebo.

Na posnetkih, s katerimi predstavlja projekt, se zdi, da zamisel res deluje.

Sistem okoli drugih mimoidočih izrisuje okvirčke in jih označuje kot ljudi, človeka v pisani srajci pa spregleda.

Kamera naš še vedno vidi, a v nas ne prepozna človeka

Toda ali bi nas takšna srajca res lahko naredila "nevidne" za sodobne nadzorne kamere?

Odgovor je precej bolj zapleten.

Najprej pomembna razlika: srajca človeka ne naredi nevidnega za kamero. Na videoposnetku je še vedno povsem jasno viden.

Namen srajce je nekaj drugega – zmesti programsko opremo, ki analizira sliko in poskuša ugotoviti, kaj je na njej.

Weckert je svoj vzorec preizkušal s sistemom YOLO, eno najbolj znanih družin algoritmov za zaznavanje objektov na slikah in videoposnetkih.

Ime je kratica za You Only Look Once (Pogledaš samo enkrat). Sistem lahko na sliki išče različne predmete in jim pripiše oznake – denimo avtomobil, kolo, pes ali človek.

Če sliko pogleda človek, lahko brez težav vidi osebo v pisani srajci. Algoritem pa slike ne razume na enak način.

Ne "ve", kaj je človek v našem pomenu besede.

Da gre za človeka, se nauči z analizo velike količine slik in prepoznavo vzorcev, ki mu pomagajo določiti, da določena kombinacija vizualnih informacij najverjetneje predstavlja človeka.

In prav to je mogoče izkoristiti.

Vzorec, namenjen zmedi umetne inteligence

Digital Camouflage temelji na konceptu tako imenovanih adversarialnih napadov oziroma "nasprotnih primerov".

Gre za posebej pripravljene spremembe slike ali vzorce, ki so zasnovani tako, da izkoristijo način delovanja modela umetne inteligence in ga pripravijo do napačne odločitve.

Za človeka je lahko takšen vzorec videti kot naključna kombinacija oblik in barv, računalniški model pa lahko zaradi njega bistveno spremeni svojo oceno tega, kar vidi.

Weckert po navedbah portala Dezeen, ki poroča o kreaciji, vzorca ni preprosto narisal.

Nastajal je v ponavljajočem se procesu: računalnik je ustvaril oziroma prilagodil vzorec, tega so preverili z detektorjem, izmerili, kako samozavestno sistem še zaznava človeka, nato pa vzorec ponovno spreminjali.

Postopek so ponavljali tako dolgo, dokler sistem ni bil več "prepričan", da vidi človeka.

Ideja ni nova – in res lahko deluje

Čeprav je Weckertova srajca predvsem umetniški projekt in kritika vse bolj razširjenega avtomatiziranega nadzora, znanstveno načelo v njenem ozadju ni izmišljeno.

Raziskovalci že več let dokazujejo, da je mogoče sisteme računalniškega vida zmesti s posebej oblikovanimi fizičnimi vzorci.

Raziskovalci so "adversarialno majico" predstavili že leta 2020 na evropski konferenci o računalniškem vidu. Takrat so poročali o približno 57-odstotni uspešnosti.

Pomembna težava je bila, da se majica med hojo guba, razteza in spreminja obliko, človeka pa kamera opazuje z različnih razdalj in kotov.

Raziskovalci z univerze Tsinghua so zato pozneje razvili drugačen vzorec, ki lahko zmede detektorje, ki poskušajo prepoznati ljudi z opazovanjem z različnih zornih kotov.

Vzorec ne zmede vseh sistemov za prepoznavanje

Osnovna zamisel Weckertove srajce ima torej resno znanstveno podlago, a ima ključne omejitve.

Weckert na svoji spletni strani izrecno navaja, da demonstracija uporablja generični odprtokodni sistem YOLO in da projekt ne trdi, da srajca premaga katerega od konkretnih državnih nadzornih sistemov.

YOLO namreč ni edini sistem za prepoznavanje ljudi na posnetkih.

Vzorec, izdelan posebej za en sistem, zato ni nujno enako učinkovit proti drugemu.

Z drugimi besedami: srajca, ki zelo dobro zmede en algoritem v določenem preizkusu, lahko drug algoritem zmoti precej manj – ali pa sploh ne.

Obstaja še ena pomembna omejitev. Srajca ne zakrije človekovega obraza.

Sodobni videonadzor namreč lahko uporablja več različnih algoritmov.

Eden lahko zaznava ljudi, drugi jim sledi skozi zaporedje posnetkov, tretji pa išče in analizira obraze.

Ker srajca obraza ne zakrije, Weckerova demonstracija ne dokazuje, da bi bila uporabna tudi za zavajanje sistemov za zaznavanje ali prepoznavanje obrazov.

Prav tako ne vemo, kako bi se obnesla proti dejanskim naprednim nadzornim sistemom, saj njihove arhitekture, modeli in podatki za učenje pogosto niso javno dostopni.

Bolj opozorilo kot "plašč za nevidnost"

Človek in računalnik lahko "gledata" popolnoma isto sliko, pa vendar na njej v določenem smislu "vidita" nekaj drugega.

Mi brez težav vidimo človeka v pisani havajski srajci.

Algoritem, ki je bil naučen iskati statistične značilnosti človeka, pa je mogoče s skrbno izdelanim vzorcem pripraviti do tega, da ga spregleda.

Srajca tako ne razkriva samo domiselnega načina za zavajanje umetne inteligence.

Razkriva tudi nekaj o omejitvah sistemov, ki jim vse pogosteje prepuščamo nalogo opazovanja in razvrščanja sveta okoli nas.