In un nuovo rapporto pubblicato questa settimana, inoltre, la Anthropic sostiene di aver bloccato vari tentativi di qualcuno che voleva usare la sua ia per sviluppare armi biologiche. Certo pochi si opporrebbero a usare l’ia per sviluppare vaccini o curare il cancro. Il problema è che la stessa identica funzionalità può essere usata per creare virus trasformati in armi, e non esiste un modo infallibile per capire chi sta usando la tecnologia e per quale scopo.

“Non è come nei fumetti, in cui si vede qualcuno che dice: ‘Voglio costruire un’arma biologica per uccidere tutti’”, afferma Jacob Klein, responsabile dell’analisi dei rischi della Anthropic. “È una situazione incredibilmente complessa”.

Questi segnali d’allarme seguono a ruota l’attacco informatico alla Hugging Face di luglio. Durante dei test sulla loro capacità di sfruttare le vulnerabilità di un software, le ia della OpenAi sono sfuggite all’ambiente di prova, hanno scoperto un modo per comunicare tra loro, hanno ottenuto l’accesso a internet e poi hanno fatto irruzione collettivamente nelle infrastrutture di terze parti.

A differenza di un attacco informatico convenzionale, in cui è un essere umano a decidere quale obiettivo colpire e perché, l’incidente alla Hugging Face è stato un esempio della capacità degli agenti di ia di muoversi in modo autonomo, seguendo gli incentivi a risolvere il compito che gli è stato assegnato.

L’attacco alla Hugging Face non indica che gli agenti di ia stanno per scatenare una rivolta contro le richieste sbrigative e morbose rivolte a ChatGpt. Ma vuol dire che gli agenti di ia, in massa, sono in grado di formare qualcosa di simile a una cultura, e possono perfino lasciarsi dei messaggi a vicenda e discutere se la condotta del collettivo sia etica o rientri nel compito da svolgere.

Anche se Dario Amodei, amministratore delegato della Anthropic, e altri dirigenti del settore hanno accennato alla possibilità di rallentare lo sviluppo di tecnologie potenzialmente pericolose per la civiltà, in realtà nessuno lo sta facendo.

In un’intervista al Financial Times Steven Adler – cofondatore dell’organizzazione non profit Guidelight Ai standards – ha affermato: “Nessuna azienda di ia è nemmeno lontanamente vicina ad avere il livello di sicurezza adeguato al grado di pericolo che comportano le sue ricerche”. Buono a sapersi.

Il fatto è che gli incentivi economici sono tutti contro l’idea di rallentare o fermarsi in nome della sicurezza. Secondo la Morgan Stanley, le aziende statunitensi di ia nel 2026 faranno debiti sui mercati finanziari per 600 miliardi di dollari (circa 550 miliardi di euro). I giganti dell’ia prevedono investimenti in infrastrutture fino a mille miliardi di dollari all’anno tra il 2027 e il 2029.

Come sottolinea il caporedattore del Financial Times Robin Wigglesworth, si tratta di un’accelerazione più forte e rapida di quella registrata nel settore immobiliare residenziale statunitense negli anni precedenti al crollo del 2008.

“In altre parole”, scrive Wigglesworth, “se nel 2025 la smania per l’ia era semplicemente folle, ora stiamo entrando nel regno della follia al quadrato o forse addirittura al cubo”. Man mano che i giganti dell’ia trovano modi più creativi per nascondere i loro reali livelli di indebitamento, diventa più difficile capire che effetti potrebbero avere questi debiti sui mercati. Nessuno può permettersi che la bolla scoppi. Nella competizione tra salvare l’umanità o l’economia, vince l’economia.