Gejts: U poređenju sa AI, nuklearno oružje izgleda bezazleno

Bil Gejts je nekad optimistično gledao na vještačku inteligenciju. U julu 2023. napisao je da su rizici stvarni, ali rješivi. Međutim, tri godine kasnije, suosnivač Majkrosofta upozorava da bi zlonamjerni pojedinci mogli iskoristiti tehnologiju za masovna ubistva.

"Vještačka inteligencija je definitivno dovoljno moćna da izazove događaje s milijardu žrtava", rekao je Gejts u nedjeljnom intervjuu za podkast Meet The Press.

(VIDEO) Nova epizoda PoTTcasta: Gost Darko Banjac

"Nikada nije postojalo oružje tako moćno kao što je spoj ljudi sa zlim namjerama i najnovijih AI alata."

Kako AI može biti povezan sa biološkim oružjem?

Gejts već godinama govori o biološkim prijetnjama, još prije pojave ChatGPT-a.

U svom TED govoru 2015. upozorio je da svijet nije spreman za bolesti koje se brzo šire, poput ebole, a nakon što je kovid-19 opteretio sisteme vlasti, napisao je knjigu "Kako spriječiti sljedeću pandemiju".

Sličnu zabrinutost pokazao je i u razgovoru s Ezrom Klajnom iz Njujork Tajmsa, gdje je istakao opasnost koju AI predstavlja u kontekstu biološkog oružja.

"Vještačka inteligencija je dostigla nivo na kojem može omogućiti bioteroristi da ubije stotine miliona ljudi. Ta mogućnost danas postoji", izjavio je.

Gejts je dodao da napredak u vještačkoj inteligenciji može pomoći u dizajniranju novih molekula i potencijalno stvoriti patogen "gori od velikih boginja".

Tramp: Potpuno povlačenje američkih snaga iz Iraka je veliki dan za Ameriku

Objasnio je da su za to nekad bili potrebni resursi cijele države, a danas to uz pomoć AI-ja mogu izvesti i male grupe.

Zašto Gejts AI poredi sa nuklearnim oružjem?

"Ovo je najopasnije čemu se čovječanstvo ikad približilo. U poređenju s ovim, nuklearno oružje djeluje bezazleno", rekao je.

Gejts smatra da je neposredna opasnost od zloupotrebe veća od dugoročne mogućnosti da sistemi izmaknu ljudskoj kontroli.

Taj rizik, kaže, dodatno povećava to što vladama nedostaje tehnička stručnost kakvu su istorijski razvile za nuklearno oružje, budući da je vještačka inteligencija potekla iz privatnog sektora.

Izrael pojačava bezbjednosne provjere svih pilota nakon pokušaja rušenja aviona

Za Meet the Press je izjavio da bi vlade trebalo da zahtijevaju od programera da u sisteme ugrade nadzorne i zaštitne mehanizme, što uključuje i zapise koji bi vlastima omogućili uvid u korištenje modela.

"Niko ne smatra da je samoregulacija dovoljna", rekao je Gejts, prenosi Indeks.

Ipak, on ne misli ni da je sigurnosni prekidač dovoljan, jer vještačka inteligencija još nije na nivou na kojem bi mogla preuzeti kontrolu nad računarima i oduprijeti se gašenju.

"Ako želite suzbiti loše ponašanje, morate imati uvid i zapise o tome šta se radi. Sami sigurnosni prekidači ne bi spriječili takve tragedije", rekao je.

Zašto vodeći laboratoriji razmatraju usporavanje razvoja?

Gejtsa prvenstveno brine ljudska zloupotreba, ali industrija se suočava i s drugim strahom: da će se AI sistemi početi ponašati na načine koje njihovi kreatori ne mogu kontrolisati. Bivši istraživač OpenAI-ja Džejkob Kokson dao je otkaz u Antropiku ranije ovog mjeseca i optužio oba vodeća laboratorija da "jure prema samopoboljšavajućoj superinteligenciji i kockaju se s našim životima".

Novi detalji iz "kuće strave": Otkriveno zašto su Srbi mučili dvojicu saradnika

Izvršni direktor Antropika Dario Amodei u eseju je ovog mjeseca pozvao na usporavanje razvoja, a šef OpenAI-ja Sem Altman takođe je priznao da će industrija možda morati usporiti treniranje naprednih modela kako bi se uskladila sa sigurnosnim standardima.