Da li AI modeli dostižu svoje granice?

Kompanija OpenAI, poznata po svom četbotu ChatGPT, nije uspela da postigne očekivane rezultate sa najnovijim modelom pod kodnim imenom Orion. Naime, Orion nije ispunio očekivanja u testovima kodiranja, što ukazuje na potrebu za dodatnim treniranjem pre nego što bude spreman za javnost.

I drugi AI giganti se suočavaju sa sličnim poteškoćama. Google-ov novi model Gemini, kao i Anthropic-ov model Claude 3.5 Opus, takođe nisu ispunili interna očekivanja i nailaze na problem stagnacije u poboljšanjima performansi. Jedan od ključnih razloga ovih prepreka leži u ograničenoj dostupnosti visokokvalitetnih podataka potrebnih za obuku novih modela. Orion se, na primer, pokazao slabim u kompleksnim zadacima iz oblasti kodiranja, što se djelimično pripisuje nedostatku adekvatnih podataka za obuku u toj oblasti.

Razvoj ovih modela zahtjeva sve veće resurse, kako u smislu podataka tako i u pogledu računarske snage, što značajno povećava troškove i stavlja pritisak na kompanije da opravdaju ove investicije. Zbog toga, OpenAI i druge kompanije sve više ulažu u post-trening procese koji uključuju ljudsku reviziju odgovora modela i finu prilagodbu tona komunikacije sa korisnicima. Ipak, bez značajnog pomaka u osnovnim performansama, sve veći broj stručnjaka postavlja pitanje o dugoročnoj održivosti "zakona skaliranja" na kojima se temelje ovi modeli, gdje je količina podataka i računarske snage ključ za napredak.

Stručnjaci upozoravaju da količina podataka više nije presudna; kvalitet i raznovrsnost podataka sada igraju glavnu ulogu u daljem razvoju. Oslanjanje na sintetičke podatke, kao što su kompjuterski generisani tekstovi i slike, postaje sve češće, ali to može dovesti do ograničenja u kvalitetu obuke modela. Lila Tretikov, bivša zamjenica direktora za tehnologiju u Microsoftu, napominje da samo ljudsko učešće može obezbediti potrebnu raznovrsnost i autentičnost u obuci AI modela.

Kompanije sada preispituju kako dalje – da li ulagati u potpuno nove modele ili unaprjeđivati postojeće. Google se okrenuo manjim, praktičnim poboljšanjima svog modela Gemini, dok OpenAI fokus stavlja na poboljšanja glasovnog asistenta i model o1, koji koristi dodatno procesiranje za preciznije odgovore na kompleksna pitanja.

Budućnost razvoja veštačke inteligencije je sada pod znakom pitanja, i iako se očekuju nova poboljšanja, trenutni izazovi ukazuju na to da bi tempo inovacija mogao biti znatno sporiji nego što se ranije očekivalo.

(Telegraf.rs)