Menu Item
Nobelov nagrajenec Geoffrey Hinton, ki mu pravijo boter umetne inteligence, je znova posvaril, da bi ta lahko povzročila izumrtje človeštva.
Britansko-kanadski računalniški znanstvenik Geoffrey Hinton, ki mu pravijo boter umetne inteligence (UI), opozarja, da je hitrost sprememb v tehnologiji veliko hitrejša od pričakovane.
Profesor Geoffrey Hinton, ki je za svoje delo na tem področju letos prejel Nobelovo nagrado za fiziko, je tako dejal, da obstaja “10- do 20-odstotna” možnost, da bo umetna inteligenca v naslednjih treh desetletjih povzročila izumrtje človeštva”, poroča Guardian. Pred tem je Hinton dejal, da je možnost, da tehnologija povzroči katastrofalne posledice za človeštvo, 10-odstotna.
Na vprašanje voditelja na Radiu 4 BBC, ali je spremenil svojo analizo potencialne apokalipse zaradi UI, za katero je pred tem dejal, da je ena proti 10, je Hinton odgovoril: “Pravzaprav ne, ta možnost je od 10 do 20-odstotna.”
Hinton je opozoril, da se “nam še nikoli ni bilo treba ukvarjati s stvarmi, ki so bolj inteligentne od nas”. Dodal je, da ni veliko primerov, ko manj inteligentna stvar nadzoruje bolj inteligentno. “Takih primerov je zelo malo. Eden od njih sta mati in otrok. Evolucija je vložila veliko dela v to, da je otroku omogočila nadzor nad materjo, vendar je to edini primer, ki ga poznam,” je dejal Nobelov nagrajenec.
Smo kot triletniki
V Londonu rojeni Hinton, zaslužni profesor na univerzi v Torontu, je posvaril, da bi bili ljudje v primerjavi z inteligenco zelo zmogljivih sistemov UI kot malčki. “Predstavljajte si sebe in triletnika. Mi bomo triletniki,” je opisal.
Hinton je lani prišel na naslovnice medijev, ko je dal odpoved pri Googlu, da bi bolj odkrito spregovoril o tveganjih, ki jih predstavlja neomejen razvoj UI. Poudaril je, da je zaskrbljen zaradi možnosti, da bi tehnologijo uporabljali za škodovanje drugim. Glavna skrb Hintona in njegovih somišljenikov je, da bi se sistemi, pametnejši od ljudi, izmaknili človeškemu nadzoru in eksistencialno ogrozili človeštvo.
Hinton je poudaril, da si ni predstavljal, da bo razvoj umetne inteligence trenutno raven dosegel tako kmalu. Po njegovih besedah je ta “zelo, zelo hiter, veliko hitrejši, kot sem pričakoval”. Zato, pravi, se večina strokovnjakov strinja, da bomo v prihodnjih 20 letih razvili umetno inteligenco, ki bo pametnejša od ljudi. “To je zelo strašljiva misel,” je dejal.
Pozval je k vladni regulaciji tehnologije. “Skrbi me, da nas nevidna roka ne bo varovala. To, da se prepustimo motivu profita velikih podjetij, ne bo zagotovilo varnega razvoja,” je poudaril. “Edino, kar lahko ta velika podjetja prisili, da naredijo več raziskav o varnosti, je vladna regulacija.”
Hinton je eden od treh “botrov umetne inteligence”, ki so za svoje delo prejeli Turingovo nagrado, ki v računalništvu velja za enakovredno Nobelovi. Eden od treh botrov, Yann LeCun, glavni znanstvenik za UI pri podjetju Meta Marka Zuckerberga, je sicer dejal, da bi umetna inteligenca “lahko dejansko rešila človeštvo pred izumrtjem”.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje