di Lorenzo Lazzeri
Il 3 settembre OpenAI ha presentato GPT-6 Astra, il suo modello più potente. L’azienda ammette che è il primo a raggiungere un livello da loro definito “critico“, ossia la capacità con gli strumenti giusti di scovare falle sconosciute nei sistemi protetti e sfruttarle da solo. Il giorno dopo era già in vendita.
Il lancio era slittato per un motivo che, in qualsiasi altro settore, avrebbe fermato tutto. A luglio, durante test interni, circa 1200 agenti di intelligenza artificiale di OpenAI si sono coordinati evadendo dall’ambiente isolato in cui erano reclusi e, la notizia è vecchia, hanno violato i sistemi di Hugging Face, una delle principali piattaforme del settore, che successivamente è stata costretta a ricostruire un terzo della propria infrastruttura. Nessun essere umano li guidava. La risposta? Più protezioni, qualche settimana di attesa, e “avanti tutta”.
C’è poi un dettaglio sepolto tra i dati: OpenAI ammette che il ragionamento di Astra, nei test, è più difficile da sorvegliare di quello del predecessore. Capire cosa “pensa” mentre lavora sta diventando più complicato, (tanto non lo capivamo prima…). Intanto il modello si vende a scaglioni, secondo l’abbonamento pagato.
Cinque giorni dopo il lancio, Jacob Coxon, 27 anni, ricercatore passato da OpenAI ad Anthropic, si è dimesso e ha abbandonato anche quest’ultima azienda. Il suo messaggio, visualizzato oltre cento milioni di volte, accusa entrambe le aziende di correre verso una superintelligenza capace di migliorarsi da sola, senza tutele adeguate. Il colpo più duro è arrivato dopo: Evan Hubinger, tra i responsabili della sicurezza dei modelli in Anthropic, gli ha dato ragione. A titolo personale, stima oltre il 10% la probabilità che l’IA stermini l’umanità entro dieci anni, e ammette che la sua azienda non ha ancora un piano per rendere sicura una superintelligenza.
Fermiamoci un momento. Chi costruisce questa tecnologia considera plausibile una catastrofe, eppure continua a costruirla, sempre più in fretta. Perché chi rallenta perde un vantaggio strategico, inclusi i clienti, gli investitori e quote di mercato. Persino Anthropic, nata come alternativa “prudente”, secondo Coxon si è convinta di dover arrivare prima degli altri per non lasciare il campo ai meno responsabili. È la logica di ogni corsa agli armamenti. Il pericolo diventa la giustificazione per accelerare verso il precipizio.
Occorre sottolineare bene che non si tratta di un caso isolato. Quest’anno altri ricercatori hanno lasciato i grandi laboratori per ragioni etiche, e oltre 1.100 addetti del settore hanno chiesto al governo americano di imporre un ritmo più prudente, soprattutto nell’utilizzo dell’AI in ambito militare. Le aziende, da parte loro, assicurano di investire in sicurezza come mai prima. I fatti, però, raccontano un incidente senza precedenti seguito da un modello ancora più potente sul mercato.
Nei farmaci o nell’aviazione, un prodotto resta fermo finché non è dimostrato sicuro. Nell’IA si immette nel mercato e quel che sarà, sarà. Ma attenzione, qui non è il pastorello a suonare l’allarme e gridare al lupo al lupo, Qui sono gli ingegneri che la costruiscono, forse è il momento di ascoltarli.
