Menu Item
Številni strokovnjaki, med njimi tudi vodje OpenAI in Google Deepminda, so prepričani, da bi umetna inteligenca lahko povzročila izumrtje človeštva. Vendar drugi menijo, da so ti strahovi pretirani.
Umetna inteligenca bi lahko povzročila izumrtje človeštva, so opozorili strokovnjaki. “Zmanjševanje tveganja izumrtja zaradi umetne inteligence bi morala biti prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna,” piše v izjavi, objavljeni na strani Centra za varnost umetne inteligence.
Izjavo so podpisali izvršni direktor podjetja OpenAI, ki ustvarja ChatGPT, Sam Altman, izvršni direktor podjetja Google DeepMind Demis Hassabis in Dario Amodei iz podjetja Anthropic, poroča BBC. Poziv je podprl tudi dr. Geoffrey Hinton, ki je v preteklosti že opozoril na nevarnosti superinteligentne umetne inteligence. Podpisal ga je tudi profesor računalništva na univerzi v Montrealu Yoshua Bengio.
Hintona, Bengia in profesorja newyorške univerze Yanna LeCunna pogosto opisujejo kot “botre umetne inteligence”. Leta 2018 so za svoje prelomno delo na področju umetne inteligence prejeli Turingovo nagrado, ki jo podeljujejo za izjemne prispevke na področju računalništva.
So ti scenariji verjetni?
Vendar se LeCunn opozorilom ni pridružil, poroča BBC. Profesor, ki dela tudi za podjetje Meta, je prepričan, da so apokaliptična opozorila pretirana.
Tudi številni drugi strokovnjaki menijo, da so strahovi, da bo umetna inteligenca uničila človeštvo, nerealni in odvračajo pozornost od že sedaj problematičnih vprašanj, kot je pristranskost sistemov.
Računalniški znanstvenik z univerze Princeton Arvind Narayanan je za BBC povedal, da so katastrofični scenariji, podobni znanstvenofantastičnim, nerealni: “Trenutna umetna inteligenca še zdaleč ni dovolj sposobna, da bi se ta tveganja lahko uresničila. Posledično se pozornost odvrača od kratkoročnih škodljivih posledic umetne inteligence”.
Marca pozvali k zaustavitvi razvoja umetne inteligence
Poročanje o domnevni “eksistencialni” grožnji umetne inteligence se je okrepilo od marca 2023, ko so strokovnjaki, vključno s šefom Tesle Elonom Muskom, podpisali odprto pismo, v katerem so pozvali k zaustavitvi razvoja naslednje generacije tehnologije umetne inteligence. V njem so se spraševali, ali bi morali “razvijati nečloveške ume, ki bi nas sčasoma lahko presegli, prelisičili, zastareli in nadomestili”.
Nasprotno pa je tokratna kampanja namenjena “odprtju razprave”. V izjavi so primerjali tveganje z nevarnostjo jedrske vojne. Podjetje OpenAI je nedavno na svojem blogu zapisalo, da bi lahko superinteligenco urejali na podoben način kot jedrsko energijo: “Verjetno bomo sčasoma potrebovali nekaj podobnega kot IAEA (Mednarodna agencija za atomsko energijo) na področju superinteligence,” je zapisalo podjetje.
Kako se bo regulacije lotilo Združeno kraljestvo?
Nedavno so tehnološki voditelji, med njimi tudi Sam Altman in izvršni direktor Googla Sundar Pichai, z britanskim premierjem Rishijem Sunakom razpravljali o regulaciji umetne inteligence.
Po zadnjem opozorilu je Sunak poudaril koristi umetne inteligence za gospodarstvo in družbo. “Pred kratkim je pomagala paraliziranim hoditi, odkriva nove antibiotike. Vendar moramo zagotoviti, da bo varno in zanesljivo,” je rekel po poročanju BBC.
Pojasnil je, da je z direktorji največjih podjetij s področja umetne inteligence razpravljal o vzpostavitvi varovalk. “Zaradi poročil, da umetna inteligenca predstavlja eksistenčna tveganja, kot so pandemije ali jedrske vojne, bodo ljudje zaskrbljeni. Želim si, da bi jih pomirili,” je rekel. Sunak je še povedal, da so o tem vprašanju razpravljali tudi na vrhu držav G7. Ta skupina je pred kratkim ustanovila delovno skupino za umetno inteligenco.
Spremljajte N1 na družbenih omrežjih Facebook, Instagram in Twitter.
Naložite si našo aplikacijo: na voljo za android in za iOS.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje