Il CEO di Anthropic — l’azienda che distribuisce Claude, per intenderci — ha pubblicato a gennaio un saggio lungo e onesto sui rischi dell’intelligenza artificiale. Si chiama The Adolescence of Technology

Vale la pena leggerlo perché un uomo che sta costruendo uno degli strumenti più potenti della storia umana, ammette pubblicamente che non sa se andrà bene.

Il titolo viene da una scena del film Contact di Carl Sagan. La protagonista, se potesse fare una domanda agli alieni, chiederebbe: “Come avete fatto? Come avete attraversato la vostra adolescenza tecnologica senza distruggervi?” Amodei dice che quando pensa all’AI, gli torna in mente quella scena.

I rischi che elenca sono: AI che sviluppa comportamenti imprevedibili, AI usata per costruire armi biologiche da persone che prima non ne erano capaci, AI nelle mani di governi autoritari per sorveglianza e propaganda, disruzione economica su scala senza precedenti. Non è fantascienza. Alcune di queste cose stanno già succedendo.

Ma a mio parere l’articolo ha un limite strutturale che Amodei non può superare, perché sarebbe come segare il ramo su cui è seduto. La sua risposta ai rischi è sempre dentro lo stesso sistema che li produce: più regolamentazione, più export control sui chip, più democrazie armate di AI per contrastare le autocrazie armate di AI. È un frame competitivo e statuale. È la logica della corsa agli armamenti applicata all’intelligenza artificiale.

Audre Lorde diceva che gli strumenti del padrone non distruggeranno mai la casa del padrone. Forse aveva ragione? Forse è una situazione differente?

C’è un’altra voce che ho letto, Colin Walters, ingegnere Red Hat, che usa Claude Opus ogni giorno per scrivere codice complesso e dice: “Se potessi premere un bottone per dis-inventare i LLM, lo farei.” Non perché siano inutili — li trova straordinari — ma perché pensa che il danno sistemico a lungo termine supererà i benefici individuali a breve termine.

Walters fa una distinzione utile tra software “bespoke” — il sito del ristorante generato dall’AI, chi se ne frega — e software “core” — il kernel Linux, il filesystem distribuito, il sistema di monitoraggio su cui girano infrastrutture critiche. Lì, dice, il controllo umano non è opzionale. Non è un guardrail etico aggiunto dopo. È l’architettura del processo.

Il problema è che questa posizione è nobile ma fragile. Funziona finché esistono abbastanza umani capaci di riconoscere il 10% di codice assurdo che l’AI produce insieme al 90% di codice ragionevole. Ma se le nuove generazioni imparano a programmare con l’AI come strumento primario, quella capacità critica si potrebbe atrofizzare. Non per pigrizia. Per mancanza di esposizione. Non puoi rivedere quello che non hai mai imparato a costruire da solo.

Quindi dove arriviamo?

A un punto fermo: serve un approccio etico globale prima che arrivi la nuova Hiroshima del secolo. Ma “globale” è esattamente il problema più difficile. Chi scrive l’etica globale? Se la scrivono le democrazie occidentali, è egemonia culturale travestita da universalismo — già visto. Se la scrivono tutti insieme incluse le autocrazie, è un compromesso al ribasso che protegge i governi più che le persone…

Non abbiamo istituzioni all’altezza del problema e la tecnocrazia è già realizzata.Probabilmente ci vorrà un evento abbastanza grave da rendere politicamente possibile quello che oggi è impossibile — come Chernobyl ha accelerato la cooperazione nucleare?

Nel frattempo, cosa posso fare? Non domanda retorica. Domanda pratica, quotidiana, personale.

La risposta che sto costruendo in questi giorni — e che non pretendo sia l’unica — è la sovranità tecnologica praticata, non predicata. Non aspettare che qualcuno risolva il problema della governance globale. Costruire un’infrastruttura che non dipenda da BigTech, che non raccolga dati, che non ti renda ostaggio di nessuna piattaforma. Usare l’AI come strumento sotto controllo umano — cercando di non sedersi sulla comodità dello strumento ma usandolo per capire facendo.

È una postura antifragile rispetto ad esso. Non dipende dall’esito della corsa geopolitica, non dipende da quale governo vince le elezioni, non dipende da quale azienda AI sopravvive. Se tutto crolla, hai ancora le competenze, gli strumenti e l’autonomia.

Ma c’è qualcosa che da soli non si riesce a fare, e che la storia insegna essere l’unica cosa che attraversa le grandi transizioni con qualcosa di vivo dall’altra parte: costruire comunità di pratica resiliente. Non movimento, non ideologia, non partito. Reti piccole di persone che condividono valori, competenze e risorse. Abbastanza connesse da imparare velocemente. Abbastanza distribuite da non avere un singolo punto di fallimento.

I monasteri medievali che hanno preservato la conoscenza durante il crollo dell’impero romano non hanno “vinto” nel senso di aver cambiato il sistema. Hanno preservato qualcosa di essenziale attraverso la transizione. Le officine popolari, gli ecovillaggi, alcune associazioni, oggi sono la stessa cosa in forma contemporanea.

Quindi lascio aperta, e te la giro:

Cosa stai costruendo che sopravviverebbe alla dipendenza dalle piattaforme che usi?

Se hai voglia di rispondere, sai dove trovarmi.