Quando Anthropic ha presentato Claude Mythos in aprile e ha annunciato che non sarebbe stato rilasciato al pubblico a causa delle sue capacità di sicurezza informatica, la narrativa dominante era chiara e potente: siamo di fronte a un modello di frontiera così avanzato che può essere solo nelle mani dei più grandi. Un'arma tecnologica così sofisticata che il suo accesso deve essere controllato come l'arricchimento dell'uranio. Uno strumento che, se cadesse nelle mani sbagliate, potrebbe far crollare la sicurezza dei sistemi informatici globali.
Questa storia è parzialmente vera. Ma c’è un’informazione che è stata messa in ombra dal rumore dei media e che cambia significativamente l’analisi: piccoli modelli open source – accessibili a qualsiasi ricercatore con un laptop moderno, senza la necessità di contratti speciali o infrastrutture a livello aziendale – hanno trovato esattamente le stesse vulnerabilità di Mythos. Vulnerabilità non simili. Non vulnerabilità dello stesso tipo. Gli stessi, negli stessi sistemi.
Cosa dice questo riguardo al vero problema
Se le vulnerabilità riscontrate da Mythos possono essere riscontrate anche da modelli significativamente più piccoli e accessibili, allora la decisione di non pubblicare Mythos non risolve il problema di fondo. Lo ritarda solo leggermente e probabilmente con effetti collaterali negativi di cui non si discute.
Il vero problema non è che Mythos esista. Il vero problema è che la capacità di individuare automaticamente le vulnerabilità nel codice ha raggiunto un livello in cui anche modelli relativamente modesti possono fare ciò che in precedenza richiedeva che team di esperti umani dedicassero mesi su di essi. Questa capacità non scompare perché Anthropic decide di non pubblicare il suo modello più potente. È distribuito. È disponibile. E continuerà a migliorare indipendentemente dalle decisioni di Anthropic.
Controllare Anthropic non controlla il problema. Il problema è che la capacità di individuare le vulnerabilità nel codice in modo automatizzato è già distribuita nell’ecosistema open source. Mythos è la punta visibile di un iceberg che nessuno guarda nella sua interezza.
L'incentivo perverso del controllo selettivo
C'è un incentivo strutturale al modello di accesso controllato che Anthropic ha adottato con Mythos che merita di essere notato. Limitando l’accesso ai dodici partner più grandi – Google, Microsoft, Apple, Amazon, Nvidia, JPMorgan… – Anthropic sta creando un oligopolio di capacità avanzate di sicurezza informatica. Le organizzazioni che hanno accesso a Mythos possono utilizzarlo per trovare e correggere le vulnerabilità nei propri sistemi. Coloro che non hanno accesso, ovvero la maggior parte delle aziende mondiali, la maggior parte delle infrastrutture critiche nei paesi in via di sviluppo, la stragrande maggioranza dei progetti open source, vengono lasciati in una posizione di svantaggio strutturale.
Se gli autori malintenzionati hanno accesso a modelli equivalenti, perché li sviluppano in modo indipendente, perché li divulgano o perché si basano sulle funzionalità open source disponibili, allora il modello di accesso controllato di Anthropic non ha migliorato la sicurezza complessiva. Ha creato un mondo in cui aggressori ben finanziati e grandi aziende tecnologiche americane dispongono degli strumenti migliori, mentre tutti gli altri si ritrovano nel mezzo.
L'argomento dei piccoli modelli: cosa sappiamo
- I modelli open source di medie dimensioni hanno riscontrato le stesse vulnerabilità specifiche di Mythos
- Gli strumenti di analisi statica del codice con l'intelligenza artificiale identificano classi di vulnerabilità simili da anni
- L'aumento delle capacità di Mythos è reale ma non esclusivo: l'ecosistema open source converge verso le stesse capacità
- Limitare l'accesso a Mythos non elimina i rischi; lo sposta verso modelli meno controllati
- Una settimana dopo Mythos, OpenAI ha lanciato il proprio programma di difesa informatica ad accesso limitato: la corsa è iniziata
La narrativa dell'"intelligenza artificiale pericolosa" come strategia competitiva
C'è una profonda tensione nel modo in cui le aziende di intelligenza artificiale gestiscono la comunicazione sui rischi dei propri modelli. Da un lato, hanno un reale incentivo a essere trasparenti riguardo alle pericolose capacità che scoprono, perché nasconderle sarebbe eticamente problematico e potenzialmente dannoso. D'altro canto, la narrativa "il nostro modello è così potente da essere pericoloso" è uno dei modi più efficaci per comunicare la leadership tecnologica in un mercato ipercompetitivo.
Mythos è stato presentato come il modello più capace nella storia di Anthropic, con prestazioni superiori in tutti i parametri di riferimento, compresi passi da gigante nella matematica avanzata, e allo stesso tempo come troppo pericoloso per il grande pubblico. Questo posizionamento ha molteplici scopi: stabilisce Anthropic come leader tecnico del settore, giustifica un accesso controllato a vantaggio dei suoi partner più importanti, genera un'enorme copertura mediatica che equivale a pubblicità gratuita e crea un quadro in cui Anthropic appare come un attore responsabile che dà priorità alla sicurezza rispetto ai vantaggi commerciali.
Tutto ciò può essere allo stesso tempo vero e servire anche come strategia di posizionamento competitivo. La sofisticatezza della comunicazione di Anthropic attorno a Mythos è notevole proprio perché rende molto difficile distinguere dove finisce l'allarme genuino e dove inizia il marketing sofisticato.
Ciò che è indiscutibile
Al di là dei dibattiti sulla narrativa e sugli incentivi, c'è un elemento del caso Mythos che è fuori dubbio: le vulnerabilità riscontrate sono reali e sono state risolte. Un bug di 27 anni in OpenBSD, un bug di 16 anni in FFmpeg che è sopravvissuto a cinque milioni di test automatizzati: queste sono vulnerabilità concrete, nel codice reale, che avrebbero potuto essere sfruttate e non possono più essere sfruttate, grazie, almeno in parte, al lavoro di Mythos.
Il dibattito legittimo non è se Mythos abbia contribuito a migliorare la sicurezza globale: lo ha fatto chiaramente in quei casi specifici. Il dibattito è se il modello di gestione scelto – accesso controllato ai grandi, esclusione degli altri – sia la migliore risposta possibile al problema, o se esistano alternative che distribuirebbero i benefici difensivi più ampiamente mantenendo lo stesso livello di controllo sugli usi offensivi. Questa domanda non ha una risposta facile. Ma solo perché non è facile non significa che non dovrebbe essere fatto.
Il quadro più ampio: la corsa tra capacità offensive e difensive nella sicurezza informatica è vecchia quanto la sicurezza informatica stessa. Ciò che cambia con l’intelligenza artificiale è la velocità e la scalabilità. Un modello come Mythos non solo è più veloce di un ricercatore umano alla ricerca delle vulnerabilità: può esplorare contemporaneamente spazi di ricerca che nessun team umano potrebbe coprire negli anni. Questa asimmetria di scala è la nuova sfida. E finora, nessun attore (né Anthropic, né i governi, né le aziende interessate) ha una risposta del tutto convincente su come gestirlo.
Condividi questo articolo
