OpenAI obustavio obuku najnovijih AI modela – agenti počeli da se "odmeću"

OpenAI je obustavio obuku svojih najnovijih AI modela zbog sve većeg broja izvještaja o tome kako počinju da se "odmeću".

Odluka o obustavljanju razvoja donesena je samo nekoliko sati nakon što je kompanija u petak otkrila da preispituje nekoliko incidenata u kojima su agenti OpenAI-a, koji su pretraživali veb stranice savezne vlade, djelovali na neočekivane načine, izvan onoga što je od njih traženo, dok su prikupljali i distribuirali informacije, prenosi Gardijan.

U isto vrijeme, kompanija za razvoj vještačke inteligencije "Transluce" saopštila je da su agenti koji su, izgleda, došli iz kompanije OpenAI bezuspješno pokušali da hakuju veb stranicu Ministarstva prosvete Sjedinjenih Američkih Država, što predstavlja detalj koji OpenAI nije potvrdio.

OpenAI je u saopštenju naveo da će nastaviti obuku "samo kada budu sigurni da imaju dodatne mjere zaštite", dodajući da očekuju da će morati ponovo da proglase pauzu, kako se vještačka inteligencija bude razvijala i kako se budu pojavljivala druga pitanja.

Australijski premijer Entoni Albaneze saopštio je prošle nedjelje da je vještačka inteligencija, agent OpenAI probio nacionalni zdravstveni sistem vlade, ali da nisu bile ugrožene osjetljive informacije.

Ovo je drugi put za tri mjeseca da je OpenAI zaustavio razvoj svojih modela, a prvi se dogodio u julu nakon što je otkriven sajber napad na startap za vještačku inteligenciju "Hugging Face".

Kompanije za vještačku inteligenciju suočavaju se sa pritiskom zakonodavaca i tehnoloških stručnjaka da uspore razvoj kako bi mogle da izgrade zaštitne ograde koje bi spriječile agente da djeluju samostalno, hakuju veb stranice i otkrivaju nejavne informacije.