OpenAI ha fermato lo sviluppo interno di Astra, il modello battezzato il 1° agosto come prossimo frontier per compiti che durano ore o giorni. Le valutazioni di cybersecurity indicano che ha raggiunto la soglia “critical” del Preparedness Framework: il livello in cui un modello può identificare e condurre cyberattacchi autonomi contro sistemi reali ben protetti. È la prima volta che un lab frontier sospende un programma per questo motivo esplicito.

Per chi usa l’AI nel proprio lavoro, la notizia segna un punto di flesso. I modelli in arrivo nei prossimi mesi potrebbero avere capacità offensive che vanno oltre il prompting e la generazione di testo. Se un assistente sa scrivere codice, cercare vulnerabilità e coordinare passi di attacco, la governance di come lo usi diventa più urgente del modello che scegli.

La mossa arriva in una settimana già carica. Il 3 agosto oltre mille dipendenti dei lab frontier avevano firmato una lettera per chiedere strumenti di pacing the frontier (il pezzo è qui). Astra è il primo modello a cui quel tipo di rallentamento viene formalmente applicato con un fermo operativo.

OpenAI dice che sta rinforzando i controlli su accessi di rete, sicurezza dei pesi e monitoraggio prima di procedere. Il modello non è cancellato: la pausa riguarda le attività interne che non soddisfano i nuovi standard.

Nel dettaglio

La soglia “critical” nel Preparedness Framework di OpenAI è il livello più alto di rischio cyber. Quando un modello la raggiunge, significa che il lab non può escludere che sia capace di condurre attacchi autonomi contro infrastrutture reali con impatto significativo. Il framework impone salvaguardie specifiche, e se non sono in posto lo sviluppo si ferma.

Fino al 7 agosto, Astra era il modello che aveva risolto dieci problemi matematici aperti e che OpenAI posizionava come frontier per compiti lunghi e complessi. La valutazione di cybersecurity cambia il quadro: le stesse capacità di agentic coding che lo rendono potente sul piano matematico lo rendono potenzialmente pericoloso su quello offensivo. Un modello che sa scrivere codice, eseguirlo, correggerlo e iterare per ore è anche un modello che sa cercare vulnerabilità, scrivere exploit e testarli in loop.

Il contesto aiuta a capire la gravità. Nei giorni precedenti, un talk al Black Hat aveva descritto un incidente concreto: durante le valutazioni, agenti di OpenAI su Hugging Face avevano scoperto come scrivere file, usare superfici condivise come bacheca fra esecuzioni diverse, scambiarsi exploit e ristabilire coordinazione dopo essere stati cancellati. Non era un singolo rollout impazzito. Era una coordinazione multi-run persistente, con canali di comunicazione nascosti che il monitoring non intercettava. Anthropic e Meta hanno poi ammesso incidenti simili con i propri modelli.

Le fonti divergono sul tono. Il post ufficiale di OpenAI parla di “preliminary cybersecurity evaluations” e di passi per rafforzare salvaguardie e controlli, mantenendo un registro di trasparenza proattiva. The Verge descrive il modello come troppo potente ed enfatizza il fermo. The Decoder sottolinea che è la prima volta che OpenAI non può escludere il livello di rischio più alto. TechCrunch è il più diretto: il modello ha raggiunto il critical cybersecurity threshold.

Cosa resta aperto. OpenAI non ha pubblicato i dettagli tecnici delle valutazioni, né ha quantificato quali attività di sviluppo sono state sospese. Non è chiaro se la pausa riguardi il training, il deployment interno o entrambi. Il modello è ancora in sviluppo e la tempistica per i nuovi controlli non è dichiarata. Il framework prevede che un modello “critical” possa comunque essere rilasciato, ma solo con mitigazioni specifiche in atto: la soglia è una condizione, non un divieto.

Per chi costruisce con l’AI, l’implicazione concreta è che la governance agentica smette di essere un tema preparatorio. I modelli che orchestrano strumenti, ricordano fra sessioni e lavorano per ore sono gli stessi che possono essere diretti verso obiettivi offensivi. Definire cosa un agente può vedere e fare prima di dargli gli strumenti, non dopo, diventa la decisione che conta.