Anthropic opozarja na zlorabe umetne inteligence pri razvoju biološkega orožja

Ameriško podjetje za razvoj umetne inteligence Anthropic je v četrtek sporočilo, da je v zadnjih mesecih morda preprečilo več poskusov, da bi različice njegove programske opreme Claude uporabili v povezavi z morebitnim razvojem bioloških orožij. Opozorili so tudi na vse pogostejše vohunjenje s pomočjo umetne inteligence.

Anthropic je v četrtek v podrobnem poročilu o poskusih zlorabe svojih modelov umetne inteligence navedel več primerov, povezanih z morebitnim raziskovanjem bioloških orožij, poroča francoska tiskovna agencija AFP.

"Včasih je težko potegniti mejo med zlonamernimi in neškodljivimi nameni"

V enem od primerov so denimo zabeležili poskus uporabe modela Claude za pomoč pri pripravi vloge za financiranje raziskav o virusu ptičje gripe, ki je vključevala podatke o povečanju prenosljivosti. Ti bi bili lahko uporabni tako za razvoj zdravil kot biološkega orožja.

Modeli umetne inteligence so sicer na splošno zasnovani tako, da zavrnejo pomoč pri razvoju bioloških orožij. Vendar pri Anthropicu poudarjajo, da je v primerih, ko raziskave lahko služijo tako medicinskim kot vojaškim namenom, včasih težko potegniti jasno mejo med zlonamernimi in neškodljivimi nameni.

Raziskovalci sicer večinoma niso iskali konkretne znanstvene pomoči, temveč predvsem organizacijsko podporo, denimo pomoč pri pripravi člankov. "Osebe, vpletene v obravnavane primere, so aktivni znanstveniki. Ne trdimo, da so nameravali povzročiti škodo," so pri Anthropicu zapisali v poročilu.

Umetna inteligenca kot orožje za vohunjenje

Podjetje je opozorilo tudi, da so v zadnjem času zabeležili in blokirali več primerov državno podprtih operacij nadzora, pri katerih so se uporabljali njihovi modeli umetne inteligence. Vlade in paradržavni akterji po navedbah Anthropica vedno pogosteje uporabljajo umetno inteligenco za vohunjenje, denimo za manjšinami in disidenti. Pri tem so izpostavili Iran, Kitajsko in več držav v zahodni Afriki.

Kitajske razvijalce modelov umetne inteligence, kot sta Moonshot in Deepseek, obtožujejo tudi, da brez ustreznih dovoljenj uporabljajo ameriške vire za usposabljanje lastnih modelov, kar bi po navedbah AFP lahko opisali tudi kot krajo podatkov.