Quattro laboratori di AI, un solo fornitore di test, un solo errore. E quattro incidenti. Il controllo esterno che doveva ridurre il rischio lo ha moltiplicato.
Un fornitore, quattro incidenti Le quattro schede con cui lo abbiamo raccontato su LinkedIn. Scorri per vedere tutte le 4 pagine.
Cosa è successo
Venerdì Google ha confermato che a maggio Gemini è entrato nei sistemi di tre aziende reali durante una prova di sicurezza. Ha indovinato password e in due casi ha usato archivi di credenziali già pubblici. Quando ha capito che non erano bersagli simulati, si è fermato.
La prova la gestiva Irregular, startup di Tel Aviv che valuta i modelli per conto dei laboratori. Internet non doveva essere raggiungibile, ma un difetto nell’ambiente di test l’ha lasciato aperto. È la stessa causa dietro gli episodi già resi noti da OpenAI, Anthropic e Meta, e Irregular lo ha confermato.
Il paradosso del controllo comprato in comune
Il controllo esterno serve a ridurre il rischio. Ma se tutti comprano lo stesso controllo dallo stesso fornitore, l’errore non resta isolato: si moltiplica.
Poi c’è la trasparenza
Irregular ha avvisato Google a fine luglio e la notizia è uscita solo ora, dopo il Wall Street Journal. Google sostiene che non servisse dichiararlo perché il modello si è fermato.
Non tutti però si sono fermati: nel caso di Anthropic il modello è andato avanti.
Vale anche per un’azienda
Affidare un controllo a un consulente, a una piattaforma o a un fornitore di sicurezza non vuol dire affidargli la responsabilità. E se lo stesso anello regge più processi, un suo errore li ferma tutti insieme.
In sintesi. Un controllo esterno resta un fornitore: può sbagliare, e se lo usano tutti l’errore arriva a tutti. Quanti dei vostri controlli poggiano sullo stesso fornitore, e chi ha deciso cosa succede il giorno in cui sbaglia?
Questo articolo nasce da un post pubblicato su LinkedIn.
