Notizie IA oggi: il modello più sicuro di Tencent (6 nov)

Tencent lancia Hy4, un modello di IA più limitato

La principale notizia sull'IA di questa settimana arriva dalla Cina. Il 4 novembre Reuters ha riferito che Tencent ha rilasciato Hy4, un modello di IA open source addestrato su dati di cybersicurezza limitati. Secondo Tencent, l'azienda ha concentrato questi dati su contenuti difensivi e ha escluso dall'addestramento il materiale su sviluppo di exploit, reverse engineering e penetration testing, il che, a suo dire, limita le potenziali capacità offensive del modello. Tencent ha presentato la mossa come risposta ai cyberattacchi basati sull'IA nel mondo.

Perché è importante

Man mano che i modelli di IA diventano più capaci, esiste un rischio concreto che possano essere usati impropriamente per condurre attacchi informatici. L'approccio di Tencent con Hy4 è un tentativo di affrontare questo rischio selezionando ciò che il modello apprende prima del rilascio, anziché limitarsi a filtrare le risposte a posteriori. Reuters ha osservato che anche Moonshot AI ha limitato di recente le capacità offensive in ambito informatico del suo modello più recente.

Resta una questione aperta se restringere in questo modo i dati di addestramento impedisca davvero gli abusi, o se gli utenti possano comunque indurre il modello a fornire informazioni dannose per altre vie. Il servizio di Reuters non contiene risultati di test o benchmark che mostrino quanto le restrizioni reggano.

Il quadro più ampio

Tencent è una delle maggiori aziende tecnologiche cinesi, e la scelta di presentare pubblicamente il lancio di un modello in base a ciò che è stato deliberatamente escluso, e non solo a ciò che il modello sa fare, è un annuncio diverso dal consueto rilascio incentrato sui benchmark. Per ora non esiste una verifica indipendente dell'efficacia delle restrizioni nella pratica.

Cosa osservare ora

Ci si può attendere un esame attento da parte della comunità della ricerca sulla sicurezza per verificare se l'addestramento di Hy4, orientato alla difesa, regga ai tentativi di estrarre capacità offensive, e se altri grandi laboratori di IA renderanno pubblico ciò che escludono dai dati di addestramento.