Kako Islamska država in druge ekstremistične skupine uporabljajo umetno inteligenco

Takoj ko so orodja, kot je ChatGPT, postala širše dostopna, so jih začele izkoriščati tudi militantne skupine. Čeprav še vedno raziskujejo polni potencial tehnologije, generativno umetno inteligenco (UI) vse pogosteje uporabljajo za ustvarjanje realističnih fotografij in videoposnetkov, poroča Euronews.

Strokovnjaki za nacionalno varnost opozarjajo, da UI predstavlja močno orodje za novačenje, ustvarjanje globokih ponaredkov (deepfakes) in izpopolnjevanje kibernetskih napadov, kar omogoča celo manjšim, slabo financiranim skupinam nesorazmerno velik vpliv.

Podporniki Islamske države na spletu že aktivno pozivajo k uporabi umetne inteligence, saj je ta preprosta za uporabo in predstavlja "nočno moro" za obveščevalne službe. Islamska država, ki se je v preteklosti že izkazala s spretno uporabo družbenih omrežij, tehnologijo zdaj uporablja za prevajanje sporočil in celo ustvarjanje zvočnih posnetkov svojih voditeljev.

Primeri zlorab vključujejo širjenje lažnih, čustveno nabitih podob iz vojne med Izraelom in Hamasom ter propagandnih videoposnetkov po napadu v Moskvi, s čimer so skupine podžigale sovraštvo in novačile.

Čeprav teroristične organizacije v tehnološkem znanju še zaostajajo za državnimi akterji, kot sta Kitajska in Rusija, tveganja hitro naraščajo. Hekerji že uporabljajo sintetične medije (ki jih generira umetna inteligenca) za napredno spletno ribarjenje (phishing) in pisanje zlonamerne kode.

Ameriško ministrstvo za domovinsko varnost pa še posebej skrbi scenarij, v katerem bi skrajneži UI uporabili za pridobivanje manjkajočega znanja pri izdelavi biološkega ali kemičnega orožja.

Odzivajo se tudi zakonodajalci v ZDA, saj poročila razkrivajo, da Islamska država in Al Kaida že organizirata delavnice za uporabo UI. Pripravljajo se zakonski ukrepi, ki bi od varnostnih organov zahtevali redne letne ocene tveganj in spodbudili tesnejše sodelovanje z razvijalci tehnologije. Politiki poudarjajo, da se je na zlonamerno uporabo UI treba pripraviti enako resno kot na konvencionalne napade, saj morajo varnostne zmogljivosti dohajati grožnje prihodnosti, še piše Euronews.