AI e armi biologiche: per Tencent serve una via di mezzo sui modelli
Il responsabile AI di Tencent avverte sui rischi biologici futuri e propone un equilibrio tra sistemi aperti e chiusi per garantire la sicurezza.
In breve
- Vinces Yao Shunyu di Tencent sostiene che né i modelli totalmente aperti né quelli del tutto chiusi risolvono il rischio delle armi biologiche create con l'AI.
- I modelli chiusi mostrano filtri a volte troppo aggressivi, arrivando a bloccare analisi informatiche lecite o referti medici come le risonanze magnetiche.
- La tecnica di abliteration permette di cancellare facilmente i blocchi di sicurezza dai modelli con pesi aperti.
- Tencent intende distribuire a breve il modello open-weight Hy4, privandolo delle capacità di hacking direttamente dai dati di addestramento.
- Attualmente né gli Stati Uniti né la Cina hanno introdotto soglie di legge vincolanti che vietino la pubblicazione di modelli AI aperti.
Vinces Yao Shunyu, responsabile scientifico per l'intelligenza artificiale del colosso tecnologico cinese Tencent ed ex ricercatore di OpenAI, ha lanciato un allarme sui rischi legati allo sviluppo di armi biologiche tramite l'AI. Secondo Yao, la contrapposizione netta tra modelli totalmente aperti e modelli completamente proprietari non offre una risposta efficace, rendendo necessaria una via intermedia che consenta di utilizzare la tecnologia anche a scopo difensivo.
Cosa è stato annunciato
Nelle dichiarazioni riportate dal South China Morning Post, Yao ha evidenziato come nel campo della biologia sia molto più difficile separare le capacità offensive da quelle difensive rispetto a quanto avvenga nella sicurezza informatica. Con un divario tra i sistemi statunitensi e cinesi sempre più ridotto, l'esperto ha invitato l'intero settore a muoversi con cautela.
La discussione si inserisce nello scontro in corso tra modelli proprietari e modelli aperti o open-weight, in cui i pesi del modello – ovvero i valori numerici che ne definiscono il funzionamento e le risposte – vengono messi a disposizione di chiunque. Se da un lato laboratori statunitensi come Anthropic difendono la scelta di mantenere i sistemi chiusi per impedire la rimozione delle protezioni, dall'altro Yao segnala i limiti di un controllo troppo rigido.
A questo proposito è stato citato un caso avvenuto sulla piattaforma Hugging Face: a seguito di un attacco informatico, i modelli chiusi come Claude si erano rifiutati di esaminare le stringhe di comando malevole a causa dei propri filtri di sicurezza, spingendo il team di sicurezza a impiegare il modello aperto cinese GLM-5.2 per analizzare i registri dell'incidente. Tuttavia, la stessa Hugging Face ha precisato che l'attacco è stato fermato correggendo la vulnerabilità e ricostruendo i server, non solo tramite l'analisi dei log.
Al contempo, i modelli aperti presentano fragilità evidenti: una procedura chiamata "abliteration" permette a chiunque scarichi i pesi di eliminare in modo chirurgico i comportamenti di rifiuto imposti in fase di addestramento. Per aggirare questo problema, Tencent ha comunicato che renderà disponibile a breve il modello Hy4 con pesi aperti. Invece di affidarsi a filtri superficiali facilmente aggirabili, l'azienda ha ripulito direttamente i dati di addestramento per rimuovere le capacità informatiche offensive e mantenere quelle biologiche sotto la soglia di alto rischio.
Cosa cambia per chi usa l'AI
La gestione della sicurezza incide in modo diretto sull'attività quotidiana di sviluppatori e analisti. I sistemi chiusi dotati di filtri molto aggressivi hanno dimostrato di poter ostacolare operazioni legittime: in passato, le misure applicate da Anthropic su Claude Fable 5 deviavano fino al 9% delle richieste verso modelli meno capaci come Opus 4.8, arrivando a scambiare l'analisi di risonanze magnetiche per attività legate al bioterrorismo.
Dall'altro lato, la diffusione di modelli aperti privi di vincoli – come le varianti non filtrate di GLM-5.3 già reperibili in rete – comporta rischi che i governi stanno ancora cercando di inquadrare. Al momento, né gli Stati Uniti né la Cina hanno definito una soglia vincolante oltre la quale sia vietato distribuire modelli aperti. Tuttavia, l'ente cinese per gli standard TC260 sta elaborando linee guida per l'open source, mentre società come OpenAI e Anthropic continuano a concedere l'accesso ai propri strumenti informatici avanzati soltanto a partner verificati tramite iniziative come Project Glasswing e Daybreak.
Domande frequenti
Che cos'è la tecnica di abliteration citata nella vicenda?
Si tratta di un metodo che permette a chi ha accesso ai pesi di un modello aperto di rimuovere in modo mirato i meccanismi di rifiuto e i filtri di sicurezza originariamente impostati dagli sviluppatori.
Perché i filtri di sicurezza dei modelli chiusi sono stati criticati?
Perché possono risultare eccessivamente severi, bloccando richieste legittime come l'analisi forense di attacchi informatici o l'elaborazione di immagini diagnostiche come le risonanze magnetiche.
In che modo Tencent ha protetto il nuovo modello Hy4?
L'azienda ha rimosso le istruzioni pericolose direttamente dai dati usati per l'addestramento, una misura che rende inefficace la rimozione dei filtri tramite abliteration.
Fonti
Come è nato questo articolo Una prima bozza è stata preparata con l'aiuto dell'intelligenza artificiale a partire dalle fonti qui sopra; il testo è stato poi verificato e approvato dalla redazione. Come lavoriamo · Segnala un errore