Гејтс: У поређењу са AI, нуклеарно оружје изгледа безазлено

Бил Гејтс је некад оптимистично гледао на вјештачку интелигенцију. У јулу 2023. написао је да су ризици стварни, али рјешиви. Међутим, три године касније, суоснивач Мајкрософта упозорава да би злонамјерни појединци могли искористити технологију за масовна убиства.

"Вјештачка интелигенција је дефинитивно довољно моћна да изазове догађаје с милијарду жртава", рекао је Гејтс у недјељном интервјуу за подкаст Мeet The Press.

(ВИДЕО) Нова епизода PoTTcasta: Гост Дарко Бањац

"Никада није постојало оружје тако моћно као што је спој људи са злим намјерама и најновијих АI алата."

Како АИ може бити повезан са биолошким оружјем?

Гејтс већ годинама говори о биолошким пријетњама, још прије појаве ChatGPT-а.

У свом ТЕД говору 2015. упозорио је да свијет није спреман за болести које се брзо шире, попут еболе, а након што је ковид-19 оптеретио системе власти, написао је књигу "Како спријечити сљедећу пандемију".

Сличну забринутост показао је и у разговору с Езром Клајном из Њујорк Тајмса, гдје је истакао опасност коју АI представља у контексту биолошког оружја.

"Вјештачка интелигенција је достигла ниво на којем може омогућити биотерористи да убије стотине милиона људи. Та могућност данас постоји", изјавио је.

Гејтс је додао да напредак у вјештачкој интелигенцији може помоћи у дизајнирању нових молекула и потенцијално створити патоген "гори од великих богиња".

Трамп: Потпуно повлачење америчких снага из Ирака је велики дан за Америку

Објаснио је да су за то некад били потребни ресурси цијеле државе, а данас то уз помоћ АI-ја могу извести и мале групе.

Зашто Гејтс АI пореди са нуклеарним оружјем?

"Ово је најопасније чему се човјечанство икад приближило. У поређењу с овим, нуклеарно оружје дјелује безазлено", рекао је.

Гејтс сматра да је непосредна опасност од злоупотребе већа од дугорочне могућности да системи измакну људској контроли.

Тај ризик, каже, додатно повећава то што владама недостаје техничка стручност какву су историјски развиле за нуклеарно оружје, будући да је вјештачка интелигенција потекла из приватног сектора.

Израел појачава безбједносне провјере свих пилота након покушаја рушења авиона

За Мeet the Press је изјавио да би владе требало да захтијевају од програмера да у системе уграде надзорне и заштитне механизме, што укључује и записе који би властима омогућили увид у кориштење модела.

"Нико не сматра да је саморегулација довољна", рекао је Гејтс, преноси Индекс.

Ипак, он не мисли ни да је сигурносни прекидач довољан, јер вјештачка интелигенција још није на нивоу на којем би могла преузети контролу над рачунарима и одупријети се гашењу.

"Ако желите сузбити лоше понашање, морате имати увид и записе о томе шта се ради. Сами сигурносни прекидачи не би спријечили такве трагедије", рекао је.

Зашто водећи лабораторији разматрају успоравање развоја?

Гејтса првенствено брине људска злоупотреба, али индустрија се суочава и с другим страхом: да ће се АИ системи почети понашати на начине које њихови креатори не могу контролисати. Бивши истраживач ОpenAI-ја Џејкоб Коксон дао је отказ у Антропику раније овог мјесеца и оптужио оба водећа лабораторија да "јуре према самопобољшавајућој суперинтелигенцији и коцкају се с нашим животима".

Нови детаљи из "куће страве": Откривено зашто су Срби мучили двојицу сарадника

Извршни директор Антропика Дарио Амодеи у есеју је овог мјесеца позвао на успоравање развоја, а шеф ОpenAI-ја Сем Алтман такође је признао да ће индустрија можда морати успорити тренирање напредних модела како би се ускладила са сигурносним стандардима.