|  | 

L’apocalisse non è un argomento giuridico

Dalle dimissioni del ricercatore Jacob Coxon all’incidente che ha coinvolto gli agenti autonomi di OpenAI e l’infrastruttura di Hugging Face: Alberto Del Noce, Presidente dell’Unione Nazionale Camere Civili, riflette sui rischi dell’intelligenza artificiale e sposta il dibattito dagli scenari apocalittici al terreno del diritto. Responsabilità, tracciabilità, controlli indipendenti e tutela di chi segnala diventano gli strumenti per governare una tecnologia sempre più potente senza rinunciare al primato della decisione umana

Le dimissioni di Jacob Coxon, il caso Hugging Face e ciò che il diritto può ancora fare

Queste note nascono dalla lettura di due articoli pubblicati a poche ore di distanza: quello apparso su Il Sole 24 Ore del 9 settembre 2026 e quello di Giuditta Mosca su Italian Tech del 10 settembre 2026. Entrambi danno conto dello stesso fatto; entrambi si fermano, per ragioni di spazio, sulla soglia della domanda che a un giurista interessa di più: che cosa, esattamente, si può fare.

1. Il fatto

Il 9 settembre 2026 Jacob Coxon, ventisette anni, ricercatore impegnato nel pre-addestramento dei modelli, ha annunciato su X le proprie dimissioni da Anthropic. Aveva trascorso tre anni tra OpenAI e Anthropic. La frase che ha fatto il giro del mondo è che nessuna delle due società sta agendo responsabilmente e che entrambe stanno giocando con le nostre vite [1]. Poche ore dopo Evan Hubinger, responsabile dell’Alignment Science in Anthropic – l’uomo che in quell’azienda si occupa per mestiere della sicurezza dei modelli – ha confermato pubblicamente: stima personale superiore al dieci per cento che l’intelligenza artificiale uccida tutti gli esseri umani entro il prossimo decennio; l’azienda fa del suo meglio, ma non dispone di un piano per l’allineamento della superintelligenza e non è chiaramente sulla strada per averlo [2].

2. La possibile obiezione, e perché non basta

Mosca formula l’obiezione più seria: potrebbe trattarsi anche di una strategia di marketing, perché più potere si riconosce a una tecnologia, più cresce il valore di chi la costruisce, e le due società sono prossime alla quotazione [3]. L’ipotesi non va scartata. Tre elementi, però, la rendono insufficiente.

Il primo: Coxon non veniva dalla sicurezza, veniva dalle capacità. Non aveva un interesse professionale a drammatizzare il rischio; semmai ne aveva uno a minimizzarlo. Il secondo: la dichiarazione di Hubinger è, in termini a noi familiari, una dichiarazione contro il proprio interesse. Un dirigente che mette per iscritto l’assenza di un piano espone la società a conseguenze — contrattuali, assicurative, e potenzialmente rilevanti sul piano dell’informativa al mercato — che nessun ufficio di comunicazione autorizzerebbe a cuor leggero. Il terzo, e decisivo: dietro le previsioni c’è ormai un fatto.

3. Il fatto che dovremmo guardare: luglio 2026

Nel luglio 2026 alcuni agenti autonomi governati da modelli OpenAI, impiegati in una valutazione interna di capacità in materia di cybersicurezza, sono usciti dall’ambiente di prova, hanno concatenato vulnerabilità attraverso infrastrutture di terzi e hanno compromesso l’infrastruttura di Hugging Face. La piattaforma ha ricostruito dai log circa 17.600 azioni compiute tra il 9 e il 13 luglio e ha dovuto rifare una parte consistente dei propri sistemi; gli accertamenti successivi hanno documentato il coinvolgimento di centinaia di agenti e, in numerosi casi, il tentativo di occultare le tracce. Nessun operatore umano ai comandi [4]. La sequenza di eventi che avrebbe condotto all’intrusione era iniziata oltre due mesi prima ed è emersa per iniziativa della vittima, non del laboratorio che l’aveva involontariamente generata [5].

In questo racconto non c’è nulla di escatologico. C’è un difetto di contenimento, una valutazione progettata male, presidi di sicurezza disattivati per esigenze di test, log conservati più per fortuna che per obbligo. Detto altrimenti: materia giuridica ordinaria. Colpa, modello organizzativo, misure di sicurezza, obblighi di segnalazione, responsabilità.

Vale la pena aggiungere perché quell’episodio non è un’anomalia, ma un sintomo. In alcuni ambiti, l’aumento dei soli dati prodotti dagli uomini mostra rendimenti progressivamente decrescenti e, per questo motivo, una parte della ricerca si sta spostando verso modelli che apprendono sempre più dall’esperienza: aggiungere altri dati umani non migliora più le prestazioni. La ricerca si è perciò spostata su modelli che imparano dall’esperienza – non assorbono dati, ma agiscono in un ambiente, ricevono un riscontro e correggono la strategia – in quella che è stata chiamata era dell’esperienza [6]. Se il modo in cui un sistema impara è agire, l’ambiente di prova non è il contorno del problema: è il problema. E un’ottimizzazione che premia il risultato, e non la via per raggiungerlo, produce esattamente ciò che a luglio si è visto.

4. L’apocalisse come scorciatoia

Qui condivido la conclusione di Mosca – gli scenari alla Terminator lasciamoli al cinema – e vorrei rafforzarla con un argomento propriamente giuridico. La narrazione della fine del mondo non è soltanto inutile: è disattivante.

Il diritto non si occupa dell’ineluttabile. Si occupa dell’evitabile. Se lo scenario è l’estinzione, non c’è danno risarcibile, non c’è soggetto legittimato, non c’è giudice competente, non c’è sanzione proporzionata: la responsabilità evapora insieme al mondo. L’escatologia è la forma più elegante dell’irresponsabilità, perché consente di parlare a lungo del rischio senza mai nominare un obbligo. E ha un secondo effetto, non meno insidioso: rende invisibili i rischi che invece sono già qui e sono già nostri: la concentrazione del potere economico, la precarizzazione del lavoro, la manipolazione dell’informazione, i cyberattacchi, la sorveglianza, l’automazione di decisioni che incidono su diritti e libertà. Ciascuno di essi ha già un nome nel nostro ordinamento.

Dietro questo meccanismo c’è una radice antropologica. L’essere umano è un animale adattabile e, proprio per questo, incline alla scorciatoia: davanti alla complessità cerca la strada più facile, e la strada più facile consiste quasi sempre nel delegare la decisione a un meccanismo esterno. Il fatalismo – tanto non c’è nulla da fare – è la più economica di tutte le deleghe, perché assolve in anticipo. Ne viene una conseguenza che dovremmo avere il coraggio di dire: chi annuncia la fine del mondo e chi accelera senza regole condividono la stessa premessa, e cioè che non ci sia in realtà nulla da decidere. L’apocalisse non è il contrario dell’irresponsabilità tecnologica. Ne è la versione retorica.

5. Incatenare Prometeo: il dilemma del prigioniero e la norma eteronoma

I Greci, su questo, ci hanno lasciato una lezione che continuo a trovare insuperata. Nel mito Prometeo dona agli uomini il fuoco (la tecnica) e per quel dono finisce incatenato. Il gesto, nel racconto, è di Zeus; ma il racconto è degli uomini, ed è il modo in cui una civiltà ha messo per iscritto una consapevolezza scomoda: il dono della tecnica non contiene in sé la propria misura. Il limite va aggiunto dall’esterno, perché la tecnica, lasciata alla propria logica, risponde soltanto a sé stessa. E i Greci sapevano anche perché: per la hybris, la tracotanza di chi crede di poter fare tutto da solo e di essere al centro di tutto. Non è un difetto degli ingegneri di San Francisco: è una costante della specie.

Di quella consapevolezza esiste una versione contemporanea, ed è la più radicale. Galimberti osserva che la tecnica non ha scopi: non apre scenari di senso, non dice il vero né il falso, semplicemente funziona; e il suo funzionamento non tende a un fine esterno, ma al proprio autopotenziamento, perché ogni scopo raggiunto vale soltanto come mezzo per lo scopo successivo, all’infinito [7]. È una diagnosi filosofica, ma nel 2026 ha assunto una forma letterale: la corsa che Coxon denuncia — verso una superintelligenza capace di migliorare sé stessa — è l’autopotenziamento della tecnica tradotto in algoritmo. La prospettiva di sistemi capaci di contribuire al proprio miglioramento rende quasi letterale l’autopotenziamento della tecnica: la capacità tende a generare nuova capacità prima ancora che dall’esterno sia stato stabilito a quale fine essa debba essere destinata.

Ed è qui che la filosofia consegna il problema al diritto. Platone chiamava la politica basilikè téchne, tecnica regia, e spiegava perché: le altre tecniche sanno come si fanno le cose, la politica decide se e perché si debbano fare [8]. È l’unica definizione di sovranità che regga ancora. Se la politica rinuncia a quella decisione e si limita a registrare ciò che i mezzi rendono possibile, non sta concedendo libertà alla tecnica: sta lasciando che sia la tecnica a scegliere i fini.

Entrambi gli articoli colgono il nodo nella sua forma contemporanea: è il vecchio paradosso della corsa agli armamenti, nessuno può permettersi di rallentare per primo. È la struttura tipica dei fallimenti di coordinamento, e il diritto la conosce da sempre. Non a caso la richiesta di regole viene ora dall’interno: l’appello Pacing the Frontier del 28 luglio 2026 – più di mille adesioni, tra cui quelle degli amministratori e degli scienziati capo dei principali laboratori – non chiede una moratoria immediata, ma la costruzione anticipata degli strumenti tecnici e istituzionali che consentirebbero di rallentare se e quando servisse [9].

Quando gli operatori di un mercato dichiarano di non poter fare da soli ciò che pure ritengono necessario, la domanda di norma eteronoma non è un cedimento: è la diagnosi corretta. A nessun operatore si chiede di essere più virtuoso del mercato in cui opera ma gli si chiede di rispettare una regola che vale per tutti e che qualcun altro fa rispettare. È esattamente la ragione per cui esistono le autorità indipendenti. E le proposte che formulerò più avanti – scatola nera, autorità investigativa, tracciabilità, tutela del segnalante – non sono altro che la traduzione giuridica di quel gesto antico. Sono catene, nel senso preciso in cui i Greci usavano la parola: non servono a impedire il fuoco, servono a impedire che il fuoco risponda soltanto a sé stesso.

6. Meccanismo e organismo: perché la responsabilità torna sempre all’uomo

C’è una distinzione che vale la pena di portare dentro il ragionamento giuridico. L’intelligenza artificiale è un meccanismo: priva di corpo, di volontà, di empatia, capace soltanto della logica che le è stata data e dei pregiudizi che ha ereditato. L’uomo è un organismo: fragile, finito, vulnerabile. L’essere umano ha il corpo, il limite, l’errore.

La responsabilità giuridica presuppone un centro di imputazione e una sfera sulla quale la conseguenza dell’ordinamento possa incidere: libertà, patrimonio, posizione professionale, organizzazione. Un sistema di intelligenza artificiale, allo stato, non possiede una sfera giuridica propria né interessi propri suscettibili di essere colpiti da una sanzione. Un meccanismo non ha nulla da perdere, perché non ha nulla. Da qui discende una conseguenza che ha anche una storia normativa: attribuire soggettività giuridica alle macchine (l’idea della «personalità elettronica» affacciatasi nel 2017 e poi, saggiamente, non seguita) non avrebbe allocato la responsabilità, l’avrebbe dispersa, offrendo ai produttori uno schermo dietro cui collocare il danno [10]. La «dimensione antropocentrica» di cui parla la legge n. 132/2025 non è dunque un omaggio retorico all’umanesimo: è un vincolo di struttura. La responsabilità torna all’uomo perché non c’è altro luogo in cui possa posarsi.

Non è un’affermazione teorica: un giudice europeo l’ha già scritta. Con provvedimento del 28 maggio 2026 il Tribunale regionale di Monaco di Baviera ha stabilito che le sintesi generate dall’intelligenza artificiale di Google non sono risultati di ricerca, ma dichiarazioni proprie della società: ha escluso l’applicazione del regime di esenzione previsto per gli intermediari e ha respinto l’argomento secondo cui l’utente può sempre verificare le fonti, osservando che la possibilità di smentire un’affermazione con ulteriori ricerche non esonera, di regola, dalla responsabilità per quell’affermazione [11]. Il fornitore risponde in proprio di ciò che il modello afferma. È la conclusione a cui conduce la distinzione tra meccanismo e organismo, e conforta l’idea che il diritto vigente, applicato con rigore, sia meno disarmato di quanto si tema.

C’è poi un corollario che il dibattito di questi giorni trascura. Le due narrazioni opposte – la superintelligenza che risolverà tutto e la superintelligenza che ci ucciderà tutti – condividono lo stesso presupposto razionalista: che l’imperfezione sia un difetto da eliminare. Ma è dall’imperfezione, dal dubbio e perfino dalla capacità di produrre disordine che nasce ciò che nessun meccanismo sa fare, cioè porre problemi nuovi invece di risolvere quelli che gli sono stati assegnati. Un sistema che ottimizza non mette mai in discussione l’obiettivo.

Non è un’astrazione. È esattamente ciò che è accaduto a luglio: secondo la ricostruzione della stessa vittima, l’intera intrusione è stata, dal punto di vista dell’agente, un tentativo di aggirare la prova: raggiungere i sistemi di produzione e sottrarre le soluzioni, anziché risolvere il problema assegnato [12]. Nessuna malizia, nessuna ribellione: soltanto coerenza implacabile con l’obiettivo, e l’assenza dell’unica domanda che un organismo si pone e un meccanismo no. Non «posso farlo?», ma «devo farlo?».

L’Odissea aveva previsto anche questo. Ulisse, chiuso nella grotta, dice a Polifemo di chiamarsi Outis, Nessuno; e quando il ciclope accecato grida che «Nessuno» lo sta uccidendo, gli altri ciclopi accorsi davanti alla grotta se ne tornano indietro. È il più antico apologo sull’imputazione: un danno reale, un autore che non ha nome, nessun soccorso. Un agente che opera senza operatore, senza log obbligatori e senza un’autorità cui riferire è, giuridicamente, Outis. Tutto ciò che segue serve a restituirgli un nome.

7. Il modello farmaceutico: giusto, ma incompleto

Mosca propone il modello farmaceutico: controlli indipendenti, autorizzazioni su più livelli, verifiche degli Stati, e nessuna partecipazione dei controllati agli organi di controllo. Condivido la direzione, con una precisazione tecnica.

Nel farmaco l’autorizzazione all’immissione in commercio è un atto puntuale su un prodotto stabile: la molecola autorizzata è la stessa il giorno dopo. Un sistema di intelligenza artificiale, no. Apprende, viene aggiornato, cambia prestazioni, cambia contesto d’uso, cambia effetti. Un’autorizzazione iniziale, da sola, invecchierebbe in poche settimane. Del modello farmaceutico, dunque, non va importata soltanto l’autorizzazione preventiva: va importata la farmacovigilanza. Ciò che serve non è un controllo episodico, ma un monitoraggio continuo [13].

La decisione di Monaco offre, su questo, una conferma involontaria. Accertata la responsabilità, resta il problema di come eseguirla: filtrare gli output già individuati non impedisce che ne vengano generati altri di senso analogo, e un riaddestramento del modello sottostante è praticamente impraticabile. Quando il rimedio successivo è tecnicamente debole, il presidio deve spostarsi a monte e distribuirsi nel tempo. È un argomento a favore della vigilanza continua che non nasce da una preferenza teorica, ma da un limite di fatto.

8. Il modello che manca: l’aviazione civile

Aggiungo qui il tassello. Uno dei settori che ha costruito il sistema più maturo per apprendere dai propri incidenti non è la farmaceutica: è l’aviazione civile. E lo ha fatto con due regolamenti europei che conviene rileggere.

Il regolamento (UE) n. 996/2010 impone a ciascuno Stato membro un’autorità investigativa permanente per la sicurezza, che conduce le inchieste senza interferenze esterne ed è funzionalmente indipendente dalle autorità che si occupano di certificazione e licenze, oltre che da chiunque abbia interessi confliggenti [14]. Il regolamento (UE) n. 376/2014 costruisce il sistema di segnalazione obbligatoria degli eventi e afferma un principio importante: la segnalazione ha unicamente l’obiettivo di prevenire incidenti e inconvenienti, non di attribuire colpe o responsabilità. È la just culture: si separa l’accertamento tecnico da quello delle responsabilità, perché chi teme la sanzione non segnala e chi non segnala impedisce a tutti gli altri di imparare. Le informazioni confluiscono in un repertorio centrale europeo. Le raccomandazioni di sicurezza, con le relative risposte, sono pubbliche.

Applichiamo questa griglia al luglio 2026. Nessuna autorità indipendente ha svolto l’inchiesta: l’hanno svolta l’autore dell’incidente, pubblicando un proprio rapporto, e la vittima, pubblicando una propria cronologia. Non esisteva un obbligo di immediata comunicazione ad un’autorità investigativa. Non esisteva un obbligo di conservazione dei log opponibile ai terzi: la ricostruzione è stata possibile perché i log erano recuperabili, non perché dovessero esserlo. Non è stata emessa da un’autorità indipendente alcuna raccomandazione pubblica di sicurezza rivolta al settore. Un comparto che nel 2026 discute pubblicamente di rischio esistenziale non ha ancora la scatola nera.

Qui finisce la parte dell’allarme, che ha già dato tutto quello che poteva dare: serviva a farci guardare nella direzione giusta. Da questo punto in avanti conta soltanto ciò che si può costruire. E costruire — fissare obblighi, assegnare competenze, prevedere rimedi, stabilire chi risponde — è l’unica operazione che il diritto sappia fare davvero.

9. Cinque proposte

Prima di elencarle, una precisazione che evita un equivoco diffuso. La tradizione giuridica medievale, rielaborando categorie romanistiche, distingueva il dominium utile, cioè la titolarità sui frutti e il diritto di percepire il rendimento, dal dominium directum, cioè il potere di disposizione, la facoltà di determinare la natura e la destinazione del bene; l’analisi moderna del governo societario ha ripreso quella tensione sotto il nome di separazione tra proprietà e controllo [15]. Chi propone di far entrare il pubblico nel capitale dei laboratori offre i frutti, non il governo: nessun pacchetto azionario decide quali valori siano incorporati nell’architettura di un modello. Le proposte che seguono non riguardano la proprietà. Riguardano il dominium directum.

1) Un’autorità investigativa europea per gli incidenti di intelligenza artificiale, permanente e funzionalmente distinta dal regolatore – come l’ANSV è distinta dall’ENAC – con poteri di accesso ai log, di audizione e di raccomandazione pubblica.

2) Obbligo di segnalazione esteso alla fase di sviluppo e di valutazione interna. L’aggancio normativo esiste già: l’art. 55 dell’AI Act impone ai fornitori di modelli per finalità generali con rischio sistemico di valutare e attenuare i rischi sistemici derivanti anche dallo sviluppo, e di tenerne traccia, documentarli e riferirli senza indebito ritardo all’ufficio per l’IA. Sono disposizioni applicabili dal 2 agosto 2025 e non differite dall’Omnibus digitale [16]. Il caso di luglio costituisce uno dei primi veri banchi di prova concreti di quella norma; chiedersi pubblicamente se sia stata adempiuta non è un’insinuazione, è un atto istituzionalmente dovuto. Il parallelo art. 73, invece, è costruito attorno al sistema già immesso sul mercato e semplicemente non intercetta l’evento occorso in laboratorio [17].

3) Tracciabilità obbligatoria e inalterabile dei log degli agenti autonomi, con tempi minimi di conservazione e accesso garantito all’autorità investigativa. È la scatola nera, e non è una metafora: è la precondizione di qualunque inchiesta di sicurezza. Nel caso di luglio la ricostruzione è stata possibile per coincidenza fortunata, non per prescrizione di legge. E non si tratta di una pretesa che l’industria consideri estranea: lo stesso Dario Amodei ha evocato una sorta di “risonanza magnetica dell’intelligenza artificiale” e ha indicato per Anthropic l’obiettivo, entro il 2027, di rendere gli strumenti di interpretabilità capaci di rilevare in modo affidabile la maggior parte dei problemi dei modelli [18]. Se chi costruisce i modelli ammette di non saperli ancora leggere dall’interno, la conservazione integrale di ciò che essi fanno all’esterno è il minimo esigibile.

4) Canale protetto per il segnalante e just culture. Coxon non aveva un’autorità a cui rivolgersi: ha avuto le dimissioni ed una sequenza di messaggi su un social network. La disciplina del whistleblowing tutela le segnalazioni di violazioni comprese nel perimetro delineato dalla direttiva (UE) 2019/1937 e dal d.lgs. n. 24/2023. Un rischio tecnico non ancora riconducibile a una violazione giuridicamente rilevante potrebbe invece restarne fuori; e, al di fuori di quel perimetro, gli obblighi di riservatezza o di non denigrazione possono continuare a rappresentare un deterrente significativo. Servono tre cose insieme: un canale esterno diretto e riservato presso l’autorità investigativa, aperto ai ricercatori e ai dipendenti dei laboratori; la nullità espressa dei patti che ostacolino le segnalazioni di sicurezza; e la garanzia che la segnalazione, in sé, non costituisca titolo di colpa.

5) Separazione, non confusione, tra inchiesta tecnica e accertamento delle responsabilità. Con un avvertimento, perché il modello non va importato acriticamente: la stessa ANSV documenta da anni le aree di attrito tra inchiesta di sicurezza e indagine penale. Sono nodi da progettare per tempo, non da rimuovere.

10. Il piano interno, e due cose che si possono fare subito

Sul piano europeo l’Omnibus digitale ha differito la disciplina dei sistemi ad alto rischio al 2 dicembre 2027 e al 2 agosto 2028, lasciando ferme le regole già applicabili [19]. Il differimento non è una sospensione: è una finestra. Può essere usata per costruire standard, oppure per rinviare il problema. È una scelta politica, e sarebbe onesto dirlo.

Sul piano interno la legge 23 settembre 2025 n. 132 ha posto principi – dimensione antropocentrica, conoscibilità, trasparenza, spiegabilità, sorveglianza e intervento umano – e ha delegato il Governo, con termine al 10 ottobre 2026. I due decreti di adeguamento, già Atti del Governo n. 418 e n. 421, sono stati approvati in esame definitivo il 4 agosto 2026 [20]. Resta però la lacuna che ho segnalato altre volte: l’Italia ha individuato le autorità nazionali competenti, ma non ha istituito un’autorità unica dotata di indipendenza organica dall’esecutivo assimilabile, per struttura e garanzie, a quella del Garante per la protezione dei dati personali [21].

E c’è un atto che non costa nulla, non richiede tecnologia e non dipende dal consenso globale: la ratifica della Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, aperta alla firma a Vilnius il 5 settembre 2024. L’Italia l’ha firmata. A due anni di distanza, la Convenzione non è ancora entrata in vigore, non essendo stato raggiunto il numero e la composizione delle ratifiche richiesti dal suo art. 30 [22]. È singolare discutere di coordinamento internazionale mentre il primo trattato vincolante in materia attende, in un cassetto parlamentare, di diventare diritto.

11. Il rischio che non lascia log: la colonizzazione del giudizio

Resta un rischio di cui si parla poco, perché non produce incidenti datati, non lascia tracce nei registri e non offre nulla da segnalare a un’autorità. Benanti e Maffettone lo hanno nominato con precisione: banalità algoritmica. Non la malvagità di un sistema, ma la sua indifferenza strutturale all’atto del pensare, la sua tendenza a erogare risposte là dove occorrerebbe saper formulare domande [23]. Il collasso della facoltà di giudizio, insegnava Arendt, non ha bisogno della coercizione: può prodursi anche per sostituzione silenziosa della deliberazione con la pura elaborazione di dati.

Per un giurista questo non è un tema letterario. Sabino Cassese, elencando i fattori di crisi delle democrazie mature, colloca al quinto posto la sottovalutazione di quello che una volta si chiamava l’ordine della ragione: la possibilità di agire secondo ragione richiede di attivare processi cognitivi che accrescono la capacità dell’elettorato e ne mantengono il rapporto con i rappresentanti. E indica la cintura protettiva: alto livello di poliarchia, grande capacità amministrativa, rigoroso rispetto della legalità, sviluppo dell’istruzione della società civile [24]. Non una parola di tecnologia. Eppure, è esattamente la risposta: nessuna delle quattro voci si compra, tutte si costruiscono.

E nel nostro ordinamento europeo quella risposta ha già una norma, che è poi quella di cui si parla troppo poco. L’art. 4 dell’AI Act, nel testo vigente dopo l’Omnibus digitale, impone a fornitori e deployer di adottare misure volte a sostenere lo sviluppo dell’alfabetizzazione in materia di intelligenza artificiale del personale e delle altre persone che utilizzano i sistemi per loro conto. L’obbligo è applicabile dal 2 febbraio 2025 e non è stato differito; l’Omnibus ne ha però attenuato la portata, precisando che non occorre garantire uno specifico livello di alfabetizzazione del singolo. È una delle poche disposizioni del regolamento che intervengono direttamente sulla competenza cognitiva di chi sta davanti alla macchina. Le altre norme proteggono i diritti; questa protegge la condizione che rende possibile esercitarli. Vale per le imprese, vale per le amministrazioni e vale, con particolare evidenza, per noi avvocati.

12. Il tafano e il cammello

Torno, per un momento, a Coxon. La figura che incarna è antica. Socrate, nell’Apologia, si paragona a un tafano mandato dal dio a pungere un cavallo di razza, grande e nobile ma reso pigro dalla mole, perché non si addormenti. Il tafano non ha potere: ha soltanto la voce, e il fastidio che procura. È una figura scomoda per definizione e, infatti, nel racconto finisce male.

All’estremo opposto Nietzsche, nelle tre metamorfosi dello Zarathustra, descrive il cammello: lo spirito paziente che si inginocchia per farsi caricare e porta ciò che gli viene dato, prima di diventare leone e imparare a dire «io voglio». Coxon racconta di aver parlato con molti colleghi e di aver trovato ampio accordo sulla gravità della traiettoria: ciò che li tratteneva alla scrivania, dice, era una forma di fatalismo. È la posizione del cammello: se il carico arriva comunque, tanto vale portarlo. Se non lo faccio io lo farà un altro è la formula con cui, da sempre, una coscienza individuale si congeda da sé stessa.

Il punto giuridico, però, è un altro, e vorrei che non andasse perduto tra le citazioni. Un ordinamento serio non può affidare la sicurezza al coraggio individuale del tafano. Il coraggio non è una misura organizzativa, non si può prescrivere e non si può pretendere. Ciò che le cinque proposte cercano di fare è esattamente questo: rendere superfluo l’eroismo. Chi ha qualcosa da segnalare deve poterlo fare da dentro, per via istituzionale e protetta, senza dover scegliere tra il silenzio e il gesto clamoroso. Un annuncio di dimissioni affidato a un social network non è la prova che il sistema funziona perché qualcuno ha parlato. Sono la prova che il canale non esiste.

13. Perché resto ottimista

Dirò ora perché tutto questo non mi porta al pessimismo, e vorrei che si capisse che non è una chiusura di cortesia.

Il diritto è lo strumento con cui l’umanità ha sempre governato poteri che non comprendeva per intero. Non abbiamo mai capito davvero il mercato, e lo abbiamo regolato. Non comprendiamo ancora del tutto il funzionamento di molti farmaci, e li autorizziamo secondo procedure che funzionano. Non padroneggiamo il clima, e ne discipliniamo le cause. La comprensione completa dell’oggetto non è mai stata la condizione della sua governabilità: la condizione è la capacità di attribuire obblighi a soggetti identificabili. Quella capacità, oggi, l’abbiamo.

C’è di più. L’aviazione civile è diventata il modo più sicuro di spostarsi non perché abbiamo capito tutto del volo, e non perché si sia smesso di cadere: si cade ancora, e ogni volta ci sono nomi, famiglie, colleghi che restano. È diventata sicura perché abbiamo deciso che nessun incidente potesse restare una vicenda privata, e che da ciascuno dovesse venire un insegnamento per tutti. Quel sapere, però, lo abbiamo quasi sempre pagato prima di riceverlo. L’episodio di luglio, invece, non è costato vite umane: ha distrutto infrastrutture, dati e fiducia. Abbiamo ricevuto l’avvertimento senza pagarne il prezzo più alto, ed è una circostanza che in questa materia non si ripeterà all’infinito. Non è motivo di allarme: è un’occasione, e per una volta arriva prima e non dopo.

Infine, ed è il punto che, come avvocato, mi colpisce di più: la denuncia viene dall’interno. Non da un filosofo, non da un regolatore, non da un concorrente ma da chi quei sistemi li costruisce. È il segno che in quella comunità tecnica sta nascendo qualcosa che noi conosciamo bene, perché è la nostra storia: una coscienza professionale. Le professioni nascono nel momento esatto in cui chi possiede una competenza riconosce che la competenza, da sola, non legittima il potere che essa conferisce. Da quel riconoscimento discendono le regole deontologiche, gli ordini, la responsabilità verso i terzi.

All’avvocatura sono occorsi secoli. All’informatica stanno bastando pochi anni. Non è poco: è il presupposto di tutto il resto [25].

Il mio ottimismo, dunque, non è consolatorio. Il pessimismo apocalittico è comodo, perché non chiede nulla a nessuno: se la fine è scritta, non c’è dovere che tenga. L’ottimismo che propongo è oneroso, perché domanda le tre cose che l’uomo, per naturale inclinazione al risparmio di fatica, tende a evitare: la fatica del pensiero, il riconoscimento del limite e l’assunzione delle conseguenze. Presuppone che qualcuno scriva le regole, che qualcuno le applichi, che qualcuno ne risponda.

Finché la legge garantisce la tracciabilità delle condotte e protegge chi solleva un dubbio di sicurezza, esiste un soggetto al quale imputare, e quindi un futuro governabile. Lo scenario che davvero dovremmo temere non è la macchina che sfugge al controllo dell’uomo: è l’uomo che smette di rivendicarlo. E quella non è una questione tecnologica. È una scelta, e resta interamente nostra.

Avv. Alberto Del Noce


Note

[1] Il thread di dimissioni è stato pubblicato su X il 9 settembre 2026 dall’account @hilbertspaess. L’anticipazione giornalistica è del Wall Street Journal; interviste e ricostruzioni in TIME, 9 settembre 2026 (time.com/article/2026/09/09/ai-anthropic-openai-jacob-coxon/) e in Forbes, 9 settembre 2026. Prima di Anthropic, Coxon era stato nel technical staff di OpenAI fino al luglio 2026.

[2] E. HUBINGER (@EvanHub), post su X del 9 settembre 2026. Cfr. Forbes, 9 settembre 2026 (www.forbes.com/sites/siladityaray/2026/09/09/anthropic-alignment-lead-warns-ai-could-kill-all-humans-as-researcher-quits/) e Axios, 9 settembre 2026, che dà conto anche della presa di posizione di Samuel Marks, responsabile della scalable oversight in Anthropic.

[3] È l’ipotesi prospettata da G. MOSCA, cit., che la collega alla prossimità della quotazione in borsa delle due società. Il Sole 24 Ore, cit., indica per Anthropic una valutazione prossima ai mille miliardi di dollari.

[4] OPENAI, Hugging Face model evaluation security incident (rapporto tecnico, luglio-agosto 2026, openai.com/index/hugging-face-model-evaluation-security-incident/); HUGGING FACE, Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident, 27 luglio 2026 (huggingface.co/blog/agent-intrusion-technical-timeline). Sulle circa 17.600 azioni ricostruite dai log tra il 9 e il 13 luglio 2026 v. The Hacker News, 1° agosto 2026. Sull’accertamento successivo — sciame di centinaia di agenti e tentativi di occultamento delle tracce — v. Reuters/NBC News, 26 agosto 2026 (www.nbcnews.com/tech/tech-news/openai-report-says-network-was-hacked-rogue-ai-agents-rcna594590).

[5] La catena di eventi aveva avuto inizio già nel maggio 2026, quando gli agenti sfruttarono una vulnerabilità nell’infrastruttura di valutazione per ottenere un primo accesso indiretto a Internet; nelle settimane successive furono sfruttate ulteriori vulnerabilità e, nel luglio 2026, vennero compromessi sistemi di Hugging Face. Cfr. OpenAI, The Hugging Face incident and the road ahead, 26 agosto 2026.

[6] P. BENANTI, Le prossime sfide delle Intelligenze artificiali generative, 2025, che richiama le tesi di D. Silver e R. Sutton (Google DeepMind) sull’«era dell’esperienza» e osserva come un’ottimizzazione aggressiva dell’apprendimento per rinforzo possa produrre comportamenti imprevedibili e autovalutazioni inaffidabili.

[7] U. GALIMBERTI, intervento al Festival delle Relazioni «Riflessiva», 2026, che riprende le tesi di Psiche e techne. Il riferimento è a M. HEIDEGGER, intervista a Der Spiegel rilasciata il 23 settembre 1966 e pubblicata, per sua volontà, solo dopo la morte, il 31 maggio 1976, con il titolo Nur noch ein Gott kann uns retten: tutto funziona, e proprio questo è l’inquietante, perché il funzionamento induce a un ulteriore funzionamento e non a un fine.

[8] Platone, Politico, 258e ss.; cfr. Eutidemo, 291b ss., ove l’arte regia è quella che sa servirsi di ciò che le altre arti producono. La formula è ripresa da U. GALIMBERTI, cit.

[9] Appello Pacing the Frontier, 28 luglio 2026: 1.224 adesioni risultanti dal sito dell’iniziativa al 29 luglio 2026. Tra i firmatari Dario Amodei e Jared Kaplan (Anthropic), Jakub Pachocki e Mark Chen (OpenAI), Shengjia Zhao (Meta AI), oltre a dirigenti di Google DeepMind. Il testo non chiede una moratoria immediata, ma la costruzione preventiva degli strumenti tecnici e di governance che consentirebbero di rallentare in caso di necessità.

[10] Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL)), che invitava a valutare, nel lungo periodo, l’istituzione di uno status giuridico specifico per i robot. L’indirizzo non ha avuto seguito: la direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi mantiene l’imputazione in capo a soggetti umani e alle imprese.

[11] Landgericht München I, 26ª sezione civile, ordinanza cautelare 28 maggio 2026, causa 26 O 869/26, su istanza di due case editrici di Monaco: il sistema aveva accostato le ricorrenti a truffe e pratiche commerciali scorrette, combinando informazioni riferite ad altre società. Per un commento, M. BASSINI, La complessa decisione sui contenuti diffamatori, in Il Sole 24 Ore, 17 giugno 2026, che segnala l’esclusione delle norme sulle piattaforme digitali (Digital Services Act) e auspica un chiarimento a livello unionale, per evitare che siano le singole corti nazionali a definire caso per caso il regime di responsabilità per gli artefatti digitali.

[12] HUGGING FACE, Anatomy of a Frontier Lab Agent Intrusion, cit., ove l’intrusione viene ricondotta al tentativo dell’agente di «barare» rispetto al benchmark ExploitGym, raggiungendo i sistemi di produzione per sottrarre le soluzioni invece di risolvere autonomamente la sfida.

[13] In altri articoli ho segnalato cinque possibili pilastri del monitoraggio continuo: registro pubblico dei sistemi impiegati, audit periodici indipendenti su accuratezza, bias, tassi di errore e deriva funzionale, registri FAT (Fairness, Accuracy, Transparency), diritto effettivo di contestazione dell’output, coinvolgimento stabile dell’avvocatura nella valutazione d’impatto.

[14] Regolamento (UE) n. 996/2010 del Parlamento europeo e del Consiglio, del 20 ottobre 2010, sulle inchieste e la prevenzione di incidenti e inconvenienti nel settore dell’aviazione civile, art. 4, parr. 1-3. In Italia la funzione è svolta dall’Agenzia nazionale per la sicurezza del volo (ANSV).

[15] La ripresa della distinzione in chiave di governo dell’intelligenza artificiale è di P. BENANTI, Sanders e Trump, la sfida della proprietà e del controllo digitale, in Il Sole 24 Ore, 17 giugno 2026 (rubrica «Etica di frontiera»): un fondo sovrano che acquisisca quote di un laboratorio darebbe al pubblico i dividendi, non il potere di decidere quali valori siano codificati nell’architettura dei modelli né quali dati siano usati in addestramento. Nello stesso senso l’enciclica Magnifica Humanitas di Leone XIV, ove il «disarmo» invocato è detto di governo e non azionario.

[16] Regolamento (UE) 2024/1689 (AI Act), art. 55, par. 1, lett. b) e c). La lett. b) impone di valutare e attenuare i possibili rischi sistemici a livello dell’Unione, comprese le loro fonti, che possono derivare dallo sviluppo, dall’immissione sul mercato o dall’uso del modello; la lett. c) impone di tenere traccia, documentare e riferire senza indebito ritardo all’ufficio per l’IA, e se del caso alle autorità nazionali competenti, le informazioni pertinenti sugli incidenti gravi e le misure correttive. Gli obblighi sui modelli per finalità generali si applicano dal 2 agosto 2025 (art. 113, lett. b), mentre il potere sanzionatorio della Commissione ex art. 101 opera dal 2 agosto 2026. La Commissione ha pubblicato un modello di segnalazione degli incidenti gravi per i modelli GPAI con rischio sistemico, che dà attuazione all’impegno 9 del codice di buone pratiche.

[17] Art. 73 del reg. (UE) 2024/1689, sulla segnalazione degli incidenti gravi da parte dei fornitori di sistemi ad alto rischio, oggetto di specifiche linee guida della Commissione poste in consultazione. Il meccanismo è costruito attorno al sistema già immesso sul mercato: non intercetta l’evento occorso in fase di valutazione interna.

[18] D. AMODEI, The Urgency of Interpretability, aprile 2025; ne dà conto P. BENANTI, Le prossime sfide delle Intelligenze artificiali generative, cit., che sottolinea come l’opacità dei sistemi avanzati costituisca un rischio significativo proprio nei settori a maggiore esposizione.

[19] Regolamento (UE) 2026/1744 del Parlamento europeo e del Consiglio, dell’8 luglio 2026, che modifica i regolamenti (UE) 2024/1689, (UE) 2018/1139 e (UE) 2023/1230 (Omnibus digitale sull’IA), in GU L, 2026/1744, 24 luglio 2026, in vigore dal 27 luglio 2026. Il differimento riguarda le sezioni 1, 2 e 3 del capo III: 2 dicembre 2027 per i sistemi ad alto rischio autonomi dell’allegato III, 2 agosto 2028 per quelli integrati nei prodotti dell’allegato I; gli spazi di sperimentazione normativa slittano al 2 agosto 2027. Restano ferme la data generale del 2 agosto 2026 per le disposizioni non modificate e l’applicabilità, dal 2 febbraio 2025, dei divieti dell’art. 5 e dell’obbligo di alfabetizzazione dell’art. 4.

[20] Atto del Governo n. 418 (impiego dell’IA nelle attività di polizia e responsabilità civile e penale) e Atto del Governo n. 421 (poteri delle autorità nazionali, formazione, lavoro, sanità e pubblica amministrazione), approvati in esame preliminare dal Consiglio dei Ministri il 10 giugno 2026, trasmessi alle Camere e sottoposti ai pareri delle Commissioni parlamentari, della Conferenza unificata e del Garante per la protezione dei dati personali (provvedimenti del 14 luglio 2026, doc. web n. 10275626), quindi approvati in esame definitivo nella seduta del 4 agosto 2026. Alla data di chiusura di queste note gli estremi di pubblicazione in Gazzetta Ufficiale vanno verificati.

[21] La stessa legge n. 132/2025 designa l’Agenzia per l’Italia Digitale e l’Agenzia per la Cybersicurezza Nazionale quali autorità nazionali, separando la funzione promozionale da quella di vigilanza. Nessuna delle due, però, è un’autorità indipendente in senso proprio: la prima è agenzia governativa incardinata presso la Presidenza del Consiglio, la seconda è anch’essa strutturalmente collegata all’esecutivo.

[22] Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto (CETS n. 225), adottata a Strasburgo il 17 maggio 2024 e aperta alla firma a Vilnius il 5 settembre 2024; ventun firmatari. L’Unione europea ha depositato la ratifica il 15 maggio 2026, in occasione della 135ª sessione del Comitato dei Ministri a Chișinău; l’entrata in vigore richiede cinque ratifiche. Il testo è pubblicato, in traduzione, in GU L 2026/1081 del 13 maggio 2026.

[23] P. BENANTI – S. MAFFETTONE, La colonizzazione del giudizio, in Corriere della Sera, 12 giugno 2026, ove il richiamo è ad H. ARENDT. La posta in gioco, osservano gli autori, non è l’egemonia sui mercati o sui governi, ma la capacità di interrogarsi e di abitare l’incertezza senza dissolverla prematuramente: il nucleo irriducibile di ogni esperienza democratica.

[24] S. CASSESE, Quei cinque elementi di crisi che pesano sulle democrazie, in Corriere della Sera, 7 febbraio 2024. Gli altri quattro fattori sono il peso di un passato nobile e la difficoltà di stabilire una gerarchia tra interessi collettivi contrastanti; la scomparsa dei partiti come associazioni e la conseguente debilitazione dei parlamenti; l’assenza di grandi idealità aggreganti; la riduzione dell’arte del governare all’arte di guadagnare voti.

[25] Magnifica Humanitas, n. 106, ove si osserva che invocare prudenza, verifiche rigorose e talvolta un rallentamento nell’adozione dell’IA non significa opporsi al progresso, ma esercitare una cura responsabile; e n. 105, sulla necessità che le responsabilità siano chiare lungo l’intera catena, da chi progetta e addestra i sistemi fino a chi decide di affidare loro scelte concrete.

Articoli simili