Vijesti o UI-ju: Tencentov sigurniji model (6. 11. 2026.)

Tencent predstavlja Hy4, ograničeniji model umjetne inteligencije

Najveća vijest o umjetnoj inteligenciji ovog tjedna stiže iz Kine. Reuters je 4. studenoga izvijestio da je Tencent objavio Hy4, model umjetne inteligencije otvorenog koda treniran na ograničenim podacima o kibernetičkoj sigurnosti. Prema navodima Tencenta, ti su podaci usmjereni na obrambene sadržaje, a iz materijala za treniranje izbačeni su sadržaji o razvoju eksploatacija, reverznom inženjerstvu i penetracijskom testiranju, čime se, kako je rekao, ograničavaju potencijalne ofenzivne sposobnosti modela. Tencent je taj potez predstavio kao odgovor na kibernetičke napade potaknute umjetnom inteligencijom diljem svijeta.

Zašto je to važno

Kako modeli umjetne inteligencije postaju sposobniji, postoji stvaran rizik da bi se mogli zloupotrijebiti za pomoć pri izvođenju kibernetičkih napada. Tencentov pristup modelu Hy4 pokušaj je rješavanja tog rizika uređivanjem onoga što model uči prije objave, a ne samo filtriranjem izlaza naknadno. Reuters je naveo da je i Moonshot AI nedavno ograničio kibernetičke ofenzivne sposobnosti svojeg najnovijeg modela.

Hoće li sužavanje podataka za treniranje na ovaj način doista spriječiti zloupotrebu ili bi korisnici i dalje mogli iz modela nekim drugim putem izvući štetne informacije, ostaje otvoreno pitanje. Reutersovo izvješće ne sadrži rezultate testiranja ni mjerenja kojima bi se pokazalo koliko ta ograničenja drže.

Šira slika

Tencent je jedna od najvećih kineskih tehnoloških tvrtki, a njegova odluka da lansiranje modela javno predstavi kroz ono što je namjerno izostavljeno, a ne samo kroz ono što model može, drukčija je vrsta objave od uobičajenih izdanja usmjerenih na mjerne testove. Za sada ne postoji neovisna provjera koliko su ta ograničenja učinkovita u praksi.

Što pratiti dalje

Može se očekivati pomno ispitivanje sigurnosne istraživačke zajednice o tome drži li Hy4-ovo obrambeno usmjereno treniranje pod pokušajima izvlačenja ofenzivnih sposobnosti te hoće li i drugi veliki laboratoriji za umjetnu inteligenciju javno objaviti što isključuju iz podataka za treniranje.