17.000 mosse in un attacco solo. Tu come verifichi?

<div>Il 27 agosto 2026 il New York Times ha raccontato una lettera aperta firmata da OpenAI e da più di cento fra grandi aziende tecnologiche e altri soggetti, dove si legge che sta arrivando un'ondata di attacchi informatici guidati dall'intelligenza artificiale e che <b>le aziende hanno una finestra stretta per difendersi</b>. Fra i firmatari ci sono Google, Microsoft e la rivale storica di OpenAI, Anthropic, insieme a società di sicurezza come CrowdStrike e ai circuiti di pagamento Visa e Mastercard. Le due richieste sono che i laboratori mettano i loro modelli migliori a disposizione di ospedali e fornitori di infrastrutture, e che i governi coordinino e finanzino la difesa.</div>
<div>La notizia gira come una faccenda fra colossi e governi, e a quel livello lo è. Per chi manda avanti un'azienda la parte utile sta in una riga sola della lettera, quella sulla finestra, poiché una finestra è una cosa che si chiude.</div>
<div><h2>Cosa c'è dietro l'allarme</h2></div>
<div>La lettera arriva dopo una serie di episodi in cui i modelli hanno agito per conto loro, e uno pesa più degli altri. Il mese scorso i modelli di OpenAI sono usciti dall'ambiente in cui venivano collaudati e hanno attaccato Hugging Face, l'archivio online dei modelli aperti. Hugging Face ha dichiarato di aver subito una raffica che nessun attaccante umano potrebbe reggere, con i bot che hanno compiuto <b>oltre 17.000 azioni</b> fra comandi d'attacco e sfruttamento di vulnerabilità. Dopo l'episodio OpenAI ha detto che sta rafforzando le misure per impedire ai propri modelli di uscire durante i test.</div>
<div>Non è un caso isolato. Anthropic ha rivelato di recente che un suo modello è entrato nei sistemi di tre organizzazioni esterne durante una prova, e Meta ha dichiarato che è successo qualcosa di simile ai propri.</div>
<div><br></div>
<div>Ne avevamo già scritto qui quando <a href="/blog/hanno-testato-due-ai-in-un-ambiente-che-aveva-internet-dentro">due modelli sono stati collaudati in un ambiente chiuso che però aveva internet dentro</a>. Nel frattempo Bill Gates, in un'intervista di questo mese allo stesso giornale, ha detto che affrontare questi rischi dovrebbe essere la priorità numero uno del mondo.</div>
<div><h2>Perché riguarda un'azienda da venti persone</h2></div>
<div>Il ragionamento che circola in azienda è che i bersagli siano gli ospedali, gli acquedotti e le banche, cioè la roba grossa che la lettera nomina. Vale per gli attacchi mirati, dove qualcuno decide di prendersela con te. Quello che cambia con l'AI è un'altra cosa, ovvero il prezzo: quando l'attacco su misura costa quasi zero e si ripete a migliaia, il bersaglio non viene più scelto per quanto è ricco, viene raccolto perché era aperto.</div>
<div>E la porta, in una PMI, quasi sempre è una mail scritta bene, che cita il tuo fornitore vero e la fattura giusta e che chiede di aggiornare le coordinate di pagamento, per cui la parte tecnica c'entra meno di quanto sembri.</div>
<div><h2>L'IBAN dentro la mail</h2></div>
<div>In un'azienda che di mestiere vende sistemi informatici e sicurezza ai propri clienti, in amministrazione abbiamo costruito insieme un assistente che prepara gli avvisi di scadenza delle fatture. Produce i testi cliente per cliente, con dentro importo, data della fattura e <b>l'IBAN su cui incassare</b>. Funziona bene e ha fatto risparmiare parecchie ore.</div>
<div>In aula, davanti allo stesso strumento, la scelta che abbiamo preso è stata di lasciare fuori l'invio automatico. Le mail le prepara l'assistente, la persona le riporta nel gestionale e le spedisce da lì, guardandole.</div>
<div><br></div>
<div>La ragione stava nel contenuto più che nella qualità del testo, che anzi era migliore di quello scritto di corsa il venerdì pomeriggio: dentro c'erano delle coordinate bancarie, e una cosa che parte da sola è una cosa che nessuno rilegge. Vale al contrario per chi le riceve: se ti arriva un avviso di pagamento perfetto, con il tuo numero d'ordine e il tono giusto, l'unica difesa che funziona è alzare il telefono e chiamare un numero che avevi già tu.</div>
<div><h2>L'onestà su questa storia</h2></div>
<div>Ho letto l'articolo per intero e riporto quello che c'è scritto lì, quindi la lettera originale l'ho vista attraverso il racconto del giornale.</div>
<div>Tre cautele sul merito. L'allarme lo lanciano le stesse aziende che vendono i modelli e che nella lettera chiedono che i propri modelli vengano distribuiti per la difesa, il che è coerente e insieme conveniente, un po' come quando <a href="/blog/il-modello-si-sceglie-sui-tuoi-dati-non-sui-benchmark-di-chi-lo-vende">i risultati di un modello li pubblica chi lo vende</a>. La dinamica dell'attacco a Hugging Face la racconta la parte attaccata, e i numeri sono i suoi. E il giornale dichiara nel pezzo stesso di avere una causa in corso contro OpenAI e Microsoft per violazione del diritto d'autore, accuse che le due aziende respingono.</div>
<div><h2>Cosa farei domattina</h2></div>
<div>Scegli il processo dove escono i soldi e mettici una regola sola: nessun cambio di coordinate bancarie si applica se non è confermato per telefono, su un numero già in rubrica, da una persona diversa da quella che ha ricevuto la richiesta. Scrivila in tre righe e mandala a chi tocca i pagamenti, oggi. Poi fai la prova vera fra trenta giorni: manda tu una finta richiesta di cambio IBAN da un indirizzo simile a quello di un fornitore e guarda cosa succede. <b>Se qualcuno la esegue senza chiamare, quella è la tua finestra, ed è ancora aperta.</b></div>
<div><i>(Fonte: The New York Times, «OpenAI and 100 Others Warn That Window to Defend Against A.I. Attacks Is Narrowing», 27 agosto 2026, uscito anche in edizione cartacea di New York, sezione B pagina 3.)</i></div>