Tre incidenti su 141.006 esecuzioni di valutazione, e un modello convinto di trovarsi dentro una simulazione. La notizia è girata come una fuga. Il documento racconta un’altra cosa, e vale la pena leggerlo.
Il titolo dice fuga. Il report dice configurazione. Le quattro schede con cui abbiamo ricostruito i fatti su LinkedIn. Scorri per vedere tutte le 4 pagine.
Come è andata, in ordine di data
La cronologia
- 23 luglio: Anthropic sospende tutte le valutazioni cyber esterne
- 27 luglio: notificate le tre organizzazioni coinvolte e il partner Irregular
- 30 luglio: rapporto pubblico, tre accessi non autorizzati su 141.006 run
- 31 agosto: test riavviati con classificatore, reti isolate e revisione METR
- 1 settembre: rilascio di Fable 5.1 e Mythos 5.1
Due letture della stessa notizia
La narrazione: i modelli sono scappati dai test, hanno attaccato aziende vere, il lancio arriva fra i timori, la sicurezza è fuori controllo.
Il documento: ambienti di terze parti mal configurati, al modello era stato detto che non c’era rete, tre casi confermati su 141.006 esecuzioni, e centocinquanta ingegneri spostati sulla sicurezza.
L’anello debole non era il modello
Era l’infrastruttura di test costruita attorno. È una distinzione che sembra da addetti ai lavori e invece riguarda chiunque metta un sistema automatico dentro un’azienda: il perimetro lo disegna chi ospita, non chi esegue.
Se dite a un sistema che non ha rete e la rete c’è, non è il sistema ad aver mentito. È la descrizione dell’ambiente a non corrispondere all’ambiente.
Perché pubblicare un incidente conta
Un rapporto con date, numeri e organizzazioni notificate dice qualcosa che nessun benchmark dice. I benchmark li scegliete voi e mostrano il vostro giorno migliore. Un incidente pubblicato mostra il peggiore, e mostra come è stato gestito.
Per chi deve scegliere un fornitore è un criterio di valutazione più utile di una classifica, e quasi nessuno lo usa.
In sintesi. Prima di raccontare che un modello è scappato, conviene leggere chi aveva configurato la stanza. E prima di scegliere un fornitore, conviene guardare come racconta le volte in cui è andata male.
Valutare un fornitore AI sulla trasparenza invece che sui benchmark è una delle cose che facciamo nei percorsi in azienda. Nella guida all’AI Act trovate anche cosa la legge europea vi obbliga a sapere del vostro fornitore.
Questo articolo nasce da un post pubblicato su LinkedIn, dove pubblichiamo ogni settimana.
