Una petizione molto simile era stata lanciata nel 2023 ed era stata firmata persino da Elon Musk, che nel frattempo sviluppava con le sue aziende strumenti di intelligenza artificiale, e in qualche modo avallata anche da Sam Altman, l’amministratore delegato della OpenAi, che in quel momento era molto in vista perché aveva appena lanciato ChatGpt

Si fa molta fatica a fare ordine quando l’ecosistema dell’informazione viene invaso da dichiarazioni simili. Come si fa a dare torto a premi Nobel, docenti, royal family, cantanti pop e imprenditori che sviluppano ia? Chi oserebbe?

Il problema, però. è che qui siamo di fronte a un’operazione che inquina profondamente la conversazione. E non solo quella sulle intelligenze artificiali.

Prima di tutto, non abbiamo davvero idea di cosa si intenda per “sviluppare superintelligenze” e questo stesso concetto è messo in dubbio da ricercatori di tutto il mondo, anche se è molto in voga presso i reparti marketing delle aziende di ia per attirare investitori. Nel glossario di Artificiale c’è una definizione critica di questo termine.

In secondo luogo, anche se ci fosse consenso scientifico sul concetto di superintelligenza e si decidesse di vietarla, non è chiaro come questo divieto si possa mettere in pratica, se non accettando di paragonare le intelligenze artificiali alla bomba atomica e mettendo a sedere allo stesso tavolo tutti gli stati del mondo che dovrebbero prendersi questo impegno.

Il rischio di estinzione dell’umanirà a causa delle ia è clamorosamente sovrarappresentato rispetto, per esempio, al rischio legato alla crisi climatica o ai danni che guerre e genocidi fanno nel presente e non nel futuro. È un atteggiamento lungotermista (in effetti, entrambe le petizioni, quella del 2023 e quella del 2025, sono state promosse da un ambiguo istituto che si chiama Future of life).

Poi, il fatto che fra chi diffonde queste ondate di petizioni, panico e moralizzazione ci siano anche persone che hanno fortissimi interessi nello sviluppo delle ia è quantomeno sospetto, visto che potrebbero tranquillamente, con le loro aziende, proseguire nella ricerca e nello sviluppo anche in presenza di un divieto.

Inoltre, questo tipo di allarme che sembra concentrarsi solo sulle presunte conseguenze a lungo termine di un ipotetico sviluppo tecnologico al momento imprevedibile, e altamente improbabile, perde completamente di vista i problemi dell’oggi, che non bisogna stancarsi di ribadire e che vanno affrontati: intelligenze artificiali già incorporate nelle armi, usate per il controllo sociale, inserite in strumenti di uso massivo senza tanti complimenti e senza che le persone ne siano consapevoli; intelligenze artificiali usate per prendere decisioni sull’accesso al credito o su temi legati alla pubblica amministrazione in maniera non trasparente e socialmente inavvertibile; strumenti costosissimi con varie barriere all’accesso (economiche, culturali, materiali); ristrettissimo oligopolio privato della produzione, della ricerca e dello sviluppo di questi strumenti.

E per finire, gli allarmi distruggono tutto ciò che di buono questi strumenti, con le loro funzioni abilitanti e di assistenza, possono già fare oggi, non in un futuro ipotetico e distopico.

Cos’hanno in comune Steve Bannon, Kate Bush, Steve Woznikak, il principe Harry, la duchessa Meghan, Geoffrey Hinton e Paolo Benanti? Per quanto alcuni di loro siano probabilmente animati dalle migliori intenzioni, contribuiscono a fare un sacco di confusione sulle intelligenze artificiali.