Chi crea l'AI la teme da vent'anni. E tu hai regole?

<div>Il 10 settembre 2026 il blogger americano Sean Goedecke ha pubblicato «They really do think AI might kill everyone», partendo da un tweet di dimissioni scritto da un ricercatore di Anthropic: «Chi costruisce l'AI crede davvero che potrebbe ucciderci tutti entro la fine del decennio». Goedecke aggiunge un dettaglio che raramente arriva fino in Italia: quella frase non nasce oggi.</div><div><br></div><div><b>Il termine «p(doom)», la probabilità stimata che l'AI porti all'estinzione umana, gira tra i ricercatori almeno dal 2010.</b> Eliezer Yudkowsky, la figura da cui è nata gran parte della cultura sulla sicurezza dell'AI, scrive di questo rischio almeno dal 2008.</div><div>La reazione più diffusa a un'affermazione così è archiviarla come marketing per spingere una regolamentazione, o come mossa per far salire il valore di un'azienda prima di una quotazione. Goedecke risponde con un argomento pratico: se quei ricercatori credessero davvero a uno scenario del genere, non starebbero a scrivere thread su X, starebbero facendo qualcosa di molto più drastico. Che restino al lavoro con questa convinzione in tasca da vent'anni racconta qualcosa di più utile del singolo scenario apocalittico: nel settore che sta costruendo lo strumento, la prudenza si discute da dentro, in una conversazione aperta da prima che diventasse un business.</div><div><h2>Una paura vecchia di vent'anni</h2></div><div>Gli scenari che Goedecke elenca sono quelli su cui i ricercatori discutono da tempo: laboratori autonomi pensati per accelerare la scoperta di nuovi farmaci che, mal sorvegliati, potrebbero produrre un agente patogeno progettato per essere il più letale possibile, oppure sistemi militari sempre più automatizzati dove un errore di coordinamento innesca un conflitto nucleare. Sono ipotesi estreme, e l'autore lo ammette: suonano da fantascienza anche a lui, che frequenta questi ambienti da tutta la vita adulta. <b>Quello che gli sembra sbagliato è liquidarle come propaganda</b>, quando la stessa comunità ne discute apertamente da prima che l'AI generativa arrivasse al grande pubblico.</div><div><h2>La corsa che tiene tutti al lavoro</h2></div><div>La parte più utile del pezzo, per chi non lavora nella ricerca, spiega perché quegli stessi ricercatori restino comunque al proprio posto. Molti credono in una logica di corsa: se prima o poi qualcuno costruirà un'AI molto più capace di quella attuale, conviene che ad arrivarci per primo sia un laboratorio che ha lavorato sull'allineamento, cioè sul far condividere all'AI i valori umani, piuttosto che uno che quel lavoro non l'ha fatto.</div><div><br></div><div>Alcuni ipotizzano anche un «decollo rapido»: il primo sistema in grado di migliorare se stesso potrebbe distanziare tutti gli altri in pochissimo tempo, e in quello scenario arrivare secondi conta come non arrivarci affatto. <b>È la logica con cui si spiegano la fretta e le giornate infinite di chi lavora nel settore.</b></div><div><h2>Cosa cambia per chi la usa in azienda</h2></div><div>Niente di tutto questo riguarda direttamente una PMI di Romagna. Nessuna azienda che seguiamo sta addestrando un modello capace di sfuggire di mano, e questo non è un motivo per avere paura di usare Claude o ChatGPT in ufficio domani mattina. Se però chi costruisce lo strumento, dopo vent'anni passati a discuterne, continua a chiedere prudenza, <b>la stessa prudenza pesa ancora di più per chi lo strumento lo usa senza averlo costruito</b> e senza conoscerne davvero i limiti.</div><div>Quando scrivo la policy sull'uso dell'AI con un cliente, la domanda che sento più spesso è se serva davvero un documento per qualcosa che in ufficio usano già tutti senza problemi. <b>La risposta che do resta sempre la stessa</b>: il rischio concreto per un'azienda è quotidiano, un dipendente che incolla in una chat il listino riservato o la cartella di un paziente per farsi scrivere una mail più in fretta, un dato che da quel momento non torna più indietro.</div><div><h2>Cosa farei domattina</h2></div><div>Scrivi oggi, in due righe, cosa non deve mai finire dentro un prompt: dati di clienti, prezzi riservati, contratti, informazioni sanitarie. Mandale a chi in azienda usa l'AI ogni giorno, non fra un mese. Scegli poi una sola decisione che oggi lasci quasi interamente all'AI, una risposta a un cliente o una valutazione su un fornitore, e stabilisci chi deve rileggerla prima che parta. Segna la data e fra trenta giorni chiedi a chi la usa se quelle due righe le ha rispettate davvero o se le ha dimenticate alla prima scadenza stretta. <b>Se chi costruisce l'AI ammette di avere paura, perché nella tua azienda gira ancora senza una sola regola scritta?</b></div><div><i>(Fonte: Sean Goedecke, «They really do think AI might kill everyone», seangoedecke.com, 10 settembre 2026)</i></div>