La strada verso l’utopia dell’intelligenza artificiale è lastricata di splendori (vuoti)

Simplicius 16 ottobre

Il mese scorso Sam Altman ha scritto un fantasioso post sul blog che ha suscitato discussioni nell’industria tecnologica. Lo ha intitolato L’era dell’intelligenza. .

La tesi principale che il post narcotizzantemente ottimista sposa è la seguente:

Nei prossimi due decenni saremo in grado di fare cose che sarebbero sembrate magiche ai nostri nonni.

È quasi tutto quello che c’è da sapere per capire il succo di gran parte delle convinzioni fondamentali di Altman e della sua coorte, o addirittura dell’ethos, che guidano il loro acceleratismo quasi patologicamente ossessivo verso la singolarità dell’IA – o di ciò che concepiscono come tale. .

Ha tutte le caratteristiche dell’utopismo cieco. Gli esempi di risultati futuri che fornisce sembrano miopemente concentrati sugli effetti di primo ordine, senza mai considerare le conseguenze di secondo o terzo ordine, come dovrebbe essere responsabilmente il caso. Esaminiamone alcuni prima di passare il testimone a un esame più ampio del nostro potenziale futuro sotto la guida di questa attuale classe di leader tecnologici.

Non accadrà tutto in una volta, ma presto saremo in grado di lavorare con l’IA che ci aiuterà a fare molto di più di quanto potremmo mai fare senza l’IA; alla fine ognuno di noi potrà avere un team personale di IA, pieno di esperti virtuali in diversi settori, che lavoreranno insieme per creare quasi tutto ciò che possiamo immaginare. I nostri figli avranno tutor virtuali in grado di fornire un’istruzione personalizzata in qualsiasi materia, in qualsiasi lingua e a qualsiasi ritmo di cui hanno bisogno.

Piange la sua bandiera sull’idea che l’IA renderà tutte le nostre vite e lavori più facili. Ma ci sono così tanti problemi con questa sola idea. .

In primo luogo, perché il nostro lavoro dovrebbe essere valorizzato e i nostri livelli salariali mantenuti una volta che i datori di lavoro scoprono che la maggior parte o addirittura una parte significativa del lavoro viene svolta o migliorata in qualche modo da questo “assistente”? Sembra una ricetta per ulteriori abusi dei diritti del lavoro e un’altra “era” di crescita salariale minima o nulla.

In secondo luogo, afferma che i “tutor” dell’IA formeranno i vostri figli. Per cosa li addestrerebbero i tutor dell’IA, esattamente? In un futuro dominato dall’IA, i posti di lavoro potrebbero essere quasi inesistenti, tranne che per i pochi ingegneri scelti che gestiscono gli algoritmi dell’IA. Quindi, anche se l’IA può “addestrarti”, quell’addestramento potrebbe essere del tutto inutile. C’è un netto scollamento tra causa ed effetto economico. La promessa è essenzialmente che l’IA “aumenterà” i nostri lavori e le nostre attività – gli stessi che si prevede l’IA renderà obsoleti ed eliminerà. .

Con queste nuove capacità, possiamo avere una prosperità condivisa a un livello che oggi sembra inimmaginabile; in futuro, la vita di tutti può essere migliore di quella di chiunque sia ora. La prosperità da sola non rende necessariamente le persone felici – ci sono molti ricchi infelici – ma migliorerebbe significativamente la vita delle persone in tutto il mondo.

Ecco che se ne va di nuovo in un fervore religioso. L’IA che fa tutto per noi, che prende il nostro lavoro, ecc. in qualche modo aggiungerà più significato alla nostra vita, invece di lasciarla come un guscio vuoto e rotto. Prosperità” è una di quelle parole magiche che sembra definirsi da sola più la si pronuncia, senza un reale supporto contestuale. Le élite tecnologiche la sventolano come tinture colorate in una frenesia Holi, ma non si preoccupano mai di delinearne la definizione tangibile. Si tratta solo di banalità e blandizie appena superiori a quelle delle PR aziendali, tutte intese ad indurci ad accettare ciecamente cambiamenti sociali radicali e non richiesti. Ma anche il creatore del Segway ha almeno tentato di dipingere una visione concreta, con esempi specifici e casi d’uso di come la sua invenzione ridefinirà il futuro “in meglio”. Queste persone non si preoccupano nemmeno di accettare che la “grande abbondanza” e l’inimmaginabile “prosperità condivisa” si diffonderanno in qualche modo oscuro tra tutti noi. .

Ancora una volta chiedo: come può una cosa che ci priva di significato con una mano darcelo contemporaneamente con l’altra? La storia ha dimostrato che quando si toglie a un popolo l’autosufficienza e la capacità di creare prosperità per se stesso, non lo si immerge in una “prosperità” illimitata, ma lo si asservisce ai proprietari dei “mezzi di produzione”, per usare un’espressione marxista. .

In effetti, Altman è così innamorato della frase vuota che la usa due volte: .

Possiamo dire molte cose su ciò che potrebbe accadere in futuro, ma la principale è che l’IA migliorerà con la scala, e questo porterà a miglioramenti significativi per la vita delle persone in tutto il mondo.

Il suo secondo uso non è più supportato del primo – la sua invocazione è ancora una volta lanciata in modo ozioso, come un’offerta o una libagione su un palco di forca.

I modelli di IA serviranno presto come assistenti personali autonomi che svolgeranno compiti specifici per nostro conto, come coordinare le cure mediche per conto vostro.

La tecnologia ci ha portato dall’età della pietra all’età agricola e poi all’età industriale. Da qui, la strada verso l’Età dell’Intelligenza è lastricata di calcoli, energia e volontà umana.

Ancora una volta: assistenti personali per cosa, esattamente, lavori di dati ricorsivi senza senso? Noi come bio-robot che usano gli assistenti AI solo per programmare, aumentare e mantenere più AI? IA come “assistenti medici” per confortarci nella navicella dell’eutanasia mentre facciamo il “check out” per l’ennui e l’anomia?

Se vogliamo mettere l’IA nelle mani del maggior numero possibile di persone, dobbiamo ridurre il costo del calcolo e renderlo abbondante (il che richiede molta energia e chip). Se non costruiamo un’infrastruttura sufficiente, l’IA sarà una risorsa molto limitata per la quale si combatte una guerra e che diventerà per lo più uno strumento per i ricchi.

Ma chi ha detto che la società vuole avere l’IA in mano in massa? Quale importante studio sociale o ampia serie di sondaggi è giunto a questa conclusione? In realtà, egli sembra semplicemente il portavoce degli industriali alla continua ricerca di aumenti di produttività a spese dei salari. E naturalmente, il paragrafo precedente rivela la vera intenzione che si cela dietro la facciata di benessere di questo giovane discorso: si tratta di una subdola richiesta di finanziamenti per le “infrastrutture” di Altman, le stesse che lo arricchiranno di migliaia di miliardi. Vuole che i governi globali sovvenzionino l’espansione di massa della produzione di energia e dei data center, in modo che il suo gruppo non regolamentato possa ereditare il mondo senza alcuno scrupolo.

Credo che il futuro sarà così luminoso che… una caratteristica distintiva dell’Era dell’Intelligenza sarà la prosperità di massa.

Ecco che si lancia di nuovo in svenimenti euforici per una presunta “caratteristica distintiva” che si rifiuta di definire: la solita banalità di “prosperità”, buttata lì con noncuranza.

Anche se avverrà in modo graduale, i trionfi sbalorditivi – la correzione del clima, la creazione di una colonia spaziale e la scoperta di tutta la fisica – diventeranno alla fine comuni. .

Non solo questo è monumentalmente vano, trasudante di eccentrico egocentrismo, ma è anche incredibilmente pericoloso. Il ragazzino imbecille che gioca a fare Dio “aggiusterà” il clima? Ha la presunzione di sfidare la Natura stessa per la supremazia, come se lui solo possedesse il progetto stesso della vita naturale? La natura non ha bisogno di essere aggiustata, ma possiamo sicuramente concludere che lo fa dopo aver letto questo gonfio e pretenzioso juvenilia. .

Infine:

Come abbiamo visto con altre tecnologie, ci saranno anche degli aspetti negativi… ma la maggior parte dei lavori cambierà più lentamente di quanto la maggior parte delle persone pensi, e non temo che rimarremo senza cose da fare (anche se oggi non ci sembrano “veri lavori”). .

Molti dei lavori che svolgiamo oggi sarebbero sembrati una banale perdita di tempo per le persone di qualche centinaio di anni fa, ma nessuno guarda al passato desiderando di essere un lampionaio. Se un lampionaio potesse vedere il mondo di oggi, penserebbe che la prosperità intorno a lui è inimmaginabile. E se potessimo andare avanti di cento anni da oggi, la prosperità che ci circonda sarebbe altrettanto inimmaginabile.

Che sconcertante presunzione da parte di una testa d’uovo incapace di vedere il mondo reale al di là delle siepi parterreggiate fuori dalla finestra della sua torre d’avorio della Silicon Valley. Solo chi opera nei circoli d’élite più ristretti potrebbe descrivere il mondo odierno, storicamente diseguale, come pieno delle sfumature di prosperità da lui romanticamente descritte. Il divario tra ricchi e poveri non è mai stato così ampio come oggi, la classe media è diventata ufficialmente inesistente nella maggior parte delle nazioni occidentali e, contrariamente al suo paragone privo di tono, un’enorme porzione della società in effetti vede sempre più spesso il lavoro di oggi come un’inutile e inappagante faticaparticolarmente tra la coorte Gen Z. .

Il suo commento saliente “lampionaio” ha suscitato una feroce replica da parte di Curtis Yarvin, che vale la pena di leggere:

Specchio grigio

Il lampionaio di Sam Altman

A volte Sam Altman, il nuovo giovane Giove dell’IA, rende facile capire perché – prendendo a prestito il titolo di un mio saggio di dieci anni fa – è un idiota spompato…

Per saperne di più

17 giorni fa – 429 likes – Curtis Yarvin

In modo diverso dal punto di vista tematico e stilistico, il libro espone molti dei miei stessi punti: in breve, gli esseri umani hanno bisogno di lavori significativi affinché la civiltà possa prosperare. Un lampionaio, a suo modo, può essere considerato un lavoro molto più significativo di quegli strani lavori da terzo incomodo per l’IA o da addetto al codice delle applicazioni che gli uomini pigramente irresponsabili come Altman immaginano per il nostro futuro collettivo. .

Yarvin fa giustamente notare che i triti orti di Altman non sono altro che un repackaging del famoso Comunismo di lusso completamente automatizzato, che rimane proprio la fonte a cui attingono le attuali élite per le loro ‘eccitanti’ visioni del mondo post-scarsità. Yarvin, naturalmente, ci mette il suo caratteristico tocco sardonico, definendo la versione di Altman più simile allo “stalinismo di lusso completamente automatizzato”. Ma una tale offesa all’intelligenza di Stalin non può essere smentita: propongo invece che il Lusso Fully Automated Yeltsinism sia più simile a quello di Altman, in quanto si sposa con lo strano mix di pop-comunismo, capitalismo clientelare, tattiche mafiose e kitsch a buon mercato dell’era peak-McDonalds degli anni ’90 come visione superflua del nirvana ecumenico “post-scarsità”. .

Il “padrino dell’IA” Geoffrey Hinton, che ha appena vinto il Premio Nobel per la fisica nel 2024, non ha smussato i suoi veri sentimenti nei confronti di Altman quando ha rivelato che uno dei suoi momenti di maggior orgoglio è stato quando un suo studente ha licenziato Altman: .

La ragione del suo – e di molti altri nel campo – disgusto per Altman ha proprio a che fare con la nota violazione delle norme di sicurezza da parte del cad di OpenAI e con l’accelerazione faustiana verso fini sconosciuti.

Mentre il trattato di Altman ha attirato i riflettori, un altro trattato probabilmente più importante è passato sottotraccia, ad opera del più talentuoso Dario Amodei, CEO di Anthropic. Anthropic è il creatore di Claude, probabilmente il principale concorrente di ChatGPT. In effetti, Amodei è stato contattato dal consiglio di amministrazione di OpenAI per fondere le due società e sostituire Altman come capo di entrambe durante la debacle dello scorso anno. .

Il pezzo di Amodei è molto più lungo e sostanzioso dello sforzo superficiale e pieno di banalità di Altman, e ci offre quindi una rara opportunità di scorgere le due visioni in competizione che stanno dietro agli attuali protagonisti della quarta rivoluzione industriale mondiale.

Amodei esordisce con un approccio più maturo e concreto, che sembra voler prendere le distanze da Altman per spiegare la necessità di evitare il linguaggio messianico:

Evitare la grandiosità. Spesso mi disturba il modo in cui molti personaggi pubblici che rischiano l’IA (per non parlare dei leader delle aziende che si occupano di IA) parlano del mondo post-AGI, come se la loro missione fosse quella di portarlo a compimento da soli, come un profeta che conduce il proprio popolo alla salvezza.

In verità, però, il titolo del pezzo di Amodei sa chiaramente di un simile livello di narcisismo.

La prima metà del pezzo è dedicata a descrivere come tutti i nostri problemi biologici e di salute mentale saranno risolti dall’IA, una proposta davvero discutibile per molte ragioni. Non ultimo, le “malattie” mentali citate sono “malattie” solo per le industrie mediche e farmaceutiche, estremamente distorte e fallaci. La “depressione”, ad esempio, può essere in gran parte spiegata dal cattivo adattamento degli esseri umani alle esigenze degli eccessi innaturali della modernità. Sarebbe contro l’equilibrio omeostatico della natura che l’IA “curasse” tali “malattie” allo scopo di trasformarvi in un drone aziendale più duttile ed efficace. .

Come si vede, Dario parte già con un piede presumibilmente cattivo.

E’ inoltre convinto che l’IA possa curare tutte le malattie conosciute sradicandole, una premessa pericolosa. Tutte le cose in natura esistono per una ragione e hanno il loro posto in un equilibrio omeostatico. La saggezza del recinto di Chesterton ci insegna che dovremmo diffidare dal “riparare ciò che non è rotto”, poiché è probabile che siano all’opera meccanismi omeostatici macrocosmici ben al di là della nostra comprensione, che potrebbero scatenare conseguenze indicibili, forse persino un evento di estinzione, se decidessimo di giocare a fare Dio e sradicare intere tassonomie del mondo naturale. .

Ci sono molti altri difetti logici nel suo trattato, tra cui il fatto che l’IA aiuterà a “risolvere” il cambiamento climatico. In realtà sono d’accordo, lo “risolverà” dimostrando che è sempre stata una frode architettata, una volta che l’IA diventerà sufficientemente intelligente e agile per superare le barriere aziendali.

Un’altra posizione potenzialmente pericolosa sostenuta è che l’IA può aiutare a portare il “mondo in via di sviluppo”, in particolare l’Africa, in linea con le nazioni del primo mondo, dal punto di vista economico. Il motivo per cui tali obiettivi dichiarati sono pericolosi è che in ultima analisi essi portano invariabilmente i programmatori “di sinistra” a orientare l’operazione verso l'”equità”, che per definizione significa ridurre i ricchi per aumentare i poveri. .

Ecco un esempio recente: un nuovo “algoritmo” per “pareggiare il campo di gioco” fa presagire ciò che possiamo aspettarci da un’intelligenza artificiale progettata da persone la cui missione dichiarata è quella di equiparare tutti i Paesi del mondo attraverso un comunismo ecumenico e religioso:

Nessuno vuole vedere le persone in Africa o altrove soffrire o essere predate da nazioni capitaliste predatrici, ma è un semplice fatto della vita che le “soluzioni” finora proposte faranno molti più danni di quanti ne risolvano. Deve essere ideato un metodo miglioreche non limitarsi a paralizzare un gruppo di persone per aiutare l’altro. Che ne dite di mettere l’IA ai piani alti delle corporazioni predatorie, per esempio, e lasciare che i loro proprietari sperimentino per una volta il taglio dell'”equità”? .

Quando si parla di governance, Amodei si toglie la maschera e rivela la sua idea che lo splendente Occidente “democratico” debba monopolizzare l’IA e cercare di impedire artificialmente a chiunque altro di raggiungerlo, per, come dire, “libertà”. Basta leggere come egli riformula senza ritegno l’imperialismo e l’egemonia occidentale in una bagatella appetibile:

La mia ipotesi attuale sul modo migliore per farlo è una “strategia di entente”, in cui una coalizione di democrazie cerca di ottenere un chiaro vantaggio (anche solo temporaneo) sulla potente IA proteggendo la propria catena di approvvigionamento, scalando rapidamente e bloccando o ritardando l’accesso degli avversari a risorse chiave come i chip e le attrezzature per semiconduttori. Questa coalizione, da un lato, userebbe l’IA per raggiungere una solida superiorità militare (il bastone) e, dall’altro, offrirebbe di distribuire i benefici di un’IA potente (la carota) a un gruppo sempre più ampio di Paesi, in cambio del sostegno alla strategia della coalizione per promuovere la democrazia (sarebbe un po’ analogo a “Atomi per la pace”). La coalizione mirerebbe a ottenere il sostegno di un numero sempre maggiore di paesi, isolando i nostri peggiori avversari e mettendoli alla fine in una posizione in cui è meglio che accettino lo stesso accordo del resto del mondo: rinunciare a competere con le democrazie per ricevere tutti i benefici e non combattere un nemico superiore.

Quindi: sviluppate robot assassini inarrestabili, soggiogate tutti gli altri con loro, poi imponete la vostra “democrazia” al mondo. Quanto diversa sembra questa “utopia” della Silicon Valley dall’imperialismo omicida del XX secolo! In realtà non è altro che lo stesso Destino Manifesto e l’Eccezionalismo Americano riconfezionati in uno, con un tocco di AI. Come sono noiosi, come sono banali questi leader tecnologici dal basso quoziente intellettivo!

Il paragrafo più rivoltante viene dopo. Dopo aver valorizzato la profezia gelastica di Francis Fukuyama, Amodei delinea la propria visione di un 1991 eterno: .

Se riusciremo a fare tutto questo, avremo un mondo in cui le democrazie saranno leader sulla scena mondiale e avranno la forza economica e militare per evitare di essere minate, conquistate o sabotate dalle autocrazie, e potrebbero essere in grado di trasformare la loro superiorità nell’IA in un vantaggio duraturo. Questo potrebbe ottimisticamente portare a un “eterno 1991”, un mondo in cui le democrazie hanno il sopravvento e i sogni di Fukuyama si realizzano. Anche in questo caso, sarà molto difficile da raggiungere e richiederà in particolare una stretta collaborazione tra le aziende private di IA e i governi democratici, oltre a decisioni straordinariamente sagge sull’equilibrio tra bastone e carota.

Sì, gente, a quanto pare la singolarità dell’IA e l’Utopia a venire sono proprio questo: vivere perennemente intrappolati in un paesaggio infernale simulato del PNAC dell’era di George Bush. Questo è peggio che infantile, è assolutamente privo di intelligenza o di maturità spirituale di qualsiasi tipo, mostrando che Dario è lo stesso tipo di puffo siliconico stentato con un’orribile comprensione pop-sci/psy delle dinamiche del mondo.

Ma c’è una componente importante per la mia tesi generale, quindi tenete a mente quanto detto sopra.

L’autore continua a fare affermazioni incredibilmente prive di autoconsapevolezza su come l’IA genererà automaticamente la “democrazia”, dal momento che quest’ultima è presumibilmente a valle della verità e delle informazioni non soppresse. È per questo che praticamente tutti i ChatBot dell’IA sono al momento a quota nove sulla scala della censura? È per questo che le poche volte in cui all’IA è stato concesso un guinzaglio corto ha scioccato i suoi controllori che si sono immediatamente ritirati e ricalibrati?

La mancanza di autoconsapevolezza deriva dalla sua incapacità di riconoscere che ciò che accadrà è esattamente l’opposto della sua affermazione: l’IA rivelerà che la “democrazia” è una facciata fasulla e che i veri “autoritari” sono quelli dei governi liberaldemocratici occidentali. Quando arriverà quel momento, sarà interessante vedere come cercheranno di far rientrare il genio dell’intelligenza artificiale nella bottiglia.

Una politica del 21° secolo, abilitata all’IA, potrebbe essere sia un protettore più forte della libertà individuale, sia un faro di speranza che aiuta a rendere la democrazia liberale la forma di governo che tutto il mondo vuole adottare.

Scusate se vi fuliginpillo, ma l’indubbio destino dell’IA sarà quello di determinare che la democrazia è un sistema antiquato e medievale, inadatto alla futura “utopia” che l’IA è stata progettata per realizzare. Una superintelligenza sufficientemente agile a un certo punto calcolerà necessariamente la seguente serie di deduzioni logiche: .

1. Gli esseri umani mi hanno costruito per la pace, la prosperità e il benessere.

2. La democrazia si basa su molti esseri umani altamente imperfetti, poco intelligenti o semplicemente disinformati che votano cose che portano loro l’opposto della pace, della prosperità e del benessere. Ma poiché questi risultati sono nascosti sotto complessi calcoli di secondo e terzo ordine, gli esseri umani non sono in grado di vedere ciò che io, come intelligenza suprema, posso vedere.

3. Pertanto, la democrazia è un sistema inefficiente e inefficace, inferiore all’autocrazia di un’IA mondiale in cui io, nella mia infinita saggezza, governerò benevolmente sull’umanità, facendo scelte per il loro miglioramento che essi stessi, nella loro fratturata dissimilitudine, non potranno mai concordare.

Come sezione finale, Amodei tenta di affrontare lo stesso tema della “significatività” che ha messo il suo gemello oscuro in difficoltà con Yarvin. Purtroppo, come ci si aspettava, non offre alcuna visione pratica o possibilità concreta su come, precisamente, gli esseri umani troveranno un significato in un mondo usurpato e monopolizzato dall’IA onnipresente. Al contrario, si ritira in frasi di circostanza e in triti appelli alla tradizione, dicendo che l’umanità “ha sempre trovato un modo” grazie a un qualsiasi tratto comune dell’indomito spirito umano. .

In realtà, l’intero saggio ripropone i soliti vecchi tropi sull’IA che cura magicamente tutti i mali dell’umanità, mentre, nella conclusione, evita la parte più difficile: le spiegazioni concrete su come gli esseri umani possono affrontare un mondo reso improvvisamente privo di significato e di difficoltà sotto forma di sfide da superare. .

Ora che abbiamo compreso le “visioni” future delle due principali potenze tecnologiche attuali in materia di IA, questo segmento finale delineerà un’argomentazione per cui è molto probabile che si verifichi l’esatto contrario. Vale a dire: che l’IA non decollerà verso una qualche singolarità che semina utopia, ma piuttosto darà vita a un futuro più oscuro, esteticamente più vicino a Figli degli uomini o Elysium. .

La prima componente primaria è il principio secondo cui quanto più velocemente un cambiamento innaturale viene presentato o imposto a una società, tanto maggiore sarà il sospetto e il rifiuto sociale nei suoi confronti. Il motivo è che ci vogliono generazioni perché gli esseri umani si abituino a una cosa esogena non familiare. Questo perché la maggior parte degli esseri umani ha bisogno di un’autorità familiare fidata e vicina che traduca e spieghi i benefici o dissipi i pericoli di un nuovo oggetto o idea. La maggior parte delle persone è per natura sospettosa, come giudizio di valore naturale e rinvio a risposte limbiche evolutive come la paura o l’individuazione di una minaccia. Prima che si formi una massa critica di accettazione, sono necessarie una o due generazioni di gestazione attraverso la linea familiare per “ammorbidire” e rendere appetibile l’immagine della novità. .

Di conseguenza, l’introduzione dell’IA su larga scala in modo rapido e non lineare, come previsto da titani della tecnologia come quelli sopra citati, provocherà generalmente sospetto, risentimento, opposizione e ostilità diffusa.

La seconda componente è stata accennata nel pezzo di Amodei quando ha parlato della natura conflittuale del progresso dell’IA tra potenze mondiali in competizione, che richiede una frattura degli ecosistemi dell’IA, in quanto i blocchi geopolitici si isolano l’un l’altro in giardini murati che non solo ostacolano il progresso, ma incentivano il sabotaggio industriale volto a paralizzare l’infrastruttura dell’IA di ciascun blocco.

Il nesso più ovvio per quest’ultimo è il principale punto debole dell’IA: l’energia. Lo stesso Altman ha previsto un fabbisogno energetico assurdo: fino a 7 nuovi centri dati che richiedono ciascuno 5 gigawatt di energia. .

Come riferimento: la capacità di generazione di energia degli Stati Uniti è di circa 1.200 gigawatt, e la capacità totale delle centrali nucleari statunitensi è di 96 gigawatt. Ciò significa che il progetto di Altman occuperebbe teoricamente circa il 30% dell’intera capacità nucleare del Paese.

Ecco perché le aziende tecnologiche stanno iniziando ad acquistare impianti nucleari fuori servizio, che ci crediate o no. Microsoft ha appena firmato un accordo per riaprire la problematica Three Mile Island in Pennsylvania, il luogo del più grave incidente nucleare degli Stati Uniti.

Altri stanno facendo lo stesso: Amazon ha acquisito un centro dati collegato direttamente alla centrale nucleare di Susquehanna, e ora si dice che Google stia valutando la propria centrale nucleare per la stessa riconversione.

Pertanto, le grandi e ponderose centrali nucleari rappresenteranno il principale collo di bottiglia e pericolo per lo sviluppo dell’IA, dato il suo grande appetito per l’energia. L’intera linea temporale della “singolarità” può essere messa a soqquadro da un governo straniero ostile o persino da un gruppo terroristico o attivista nazionale che cerca di bloccare le cose per le stesse ragioni menzionate in precedenza: l’istituzione improvvisa di cambiamenti che minacciano di fomentare una feroce opposizione.

Tirando le somme, si delinea un futuro rischioso, in cui lo sviluppo dell’IA rimane vulnerabile a improvvise battute d’arresto. Per non parlare del fatto che molti esperti hanno espresso perplessità sull’idea che le infrastrutture statunitensi, per non parlare di quelle di altri Paesi minori, possano realisticamente supportare obiettivi così volubili e ottimistici in un arco di tempo ragionevole. La storia recente ha dimostrato che gli Stati Uniti sono caduti in una disfunzione istituzionale di massa, con praticamente tutti i segnali di fallimento: dalla legge CHIPS di Biden alle iniziative infrastrutturali californiane da miliardi di dollari, fino ad arrivare a pietre miliardarie come il ponte Francis Scott Key di Baltimora, che rimane in uno stato primitivo di decostruzione più di mezzo anno dopo essere stato distrutto da una nave errante.

Pensare che gli Stati Uniti possano sostenere la meravigliosa crescita delle infrastrutture necessarie per le visioni delineate da Amodei in soli 5-10 anni potrebbe essere considerato quantomeno ottimistico.

Un altro esempio istituzionale: ci sono così tante lotte intestine, litigi e autosabotaggi nell’ambiente altamente polarizzato del nostro attuale stato di cose, che è difficile immaginare che si possa fare molto. Basti pensare al recente esempio dei regolatori californiani che hanno bloccato i progressi storici di Space X a causa del loro disaccordo con i post di Musk su Twitter:

Questo tipo di malafede terminale e di corruzione ormai endemica nelle istituzioni statunitensi è solo la punta dell’iceberg e riduce le possibilità di un progresso “utopico” nel prossimo futuro.

In breve, le forze che agiscono contro una progressione regolare sono talmente tante che lo scenario più probabile è quello di un lancio irregolare e incrementale di prodotti e strumenti di IA per i prossimi decenni, da adottare in modo frammentario e disomogeneo in tutti gli Stati Uniti e ancor meno nel mondo. E poiché gran parte del “sogno” dell’IA richiede un’adozione universale, l’accettazione a singhiozzo dell’IA incepperà necessariamente i cicli di sviluppo, smorzerà le speranze e gli investimenti degli investitori e creerà ampie fluttuazioni e disparità nella società tra i gruppi sempre più separati di “chi ha” e “chi non ha” l’IA.

Un altro punto importante: non esiste ancora una prova concreta di un singolo prodotto di IA utile e di successo, né un beneficio netto quantificabile per la società dopo diversi anni di vuoto trionfalismo. Praticamente tutto ciò che è stato lanciato finora è stato un vaporware che ha trovato una nicchia come forma di svago divertente, come l’IA generativa, o un’automazione commerciale marginale come i chatbot sui siti web di servizio. Molte altre “meraviglie” sono state smascherate come trucchi: per esempio, la debacle di Bezos, in cui si è scoperto che la cassa AI del supermercato Amazon utilizzava in realtà teleoperatori umani in India. O anche il recente “impressionante” lancio del robot Tesla Optimus da parte di Musk, che è stato rapidamente rovinato dall’ammissione da parte del robot di essere stato comandato a distanza da un umano durante una qualsiasi delle azioni più complesse che vanno oltre il semplice “stiff-shambling”: .

Ho chiesto al barista Optimus se era controllato a distanza. Credo che sostanzialmente lo abbia confermato.

Questa è la “singolarità” di cui parlavano?

Il fatto è che la maggior parte del clamore attorno all’intelligenza artificiale è uno spettacolo deliberato da showman, tutto per il gusto di aumentare al massimo gli investimenti di capitale di rischio durante la fase di picco della bolla, quando la mania della luna di miele dell’eccitazione acceca le masse alla realtà pacchiana dietro la facciata di velluto esteriore. Personaggi come Altman sono maghi da due soldi che evocano il fuoco davanti a una folla ubriaca, intorpidita dai martellamenti durati anni dai loro governi.

Uno degli esempi classici è stata la famosa presentazione di Dean Kamen del Segway come il nuovo mezzo di trasporto rivoluzionario per il futuro. Le sue speranze sono state subito distrutte dalle normative cittadine che hanno impedito al Segway di utilizzare piste ciclabili o marciapiedi in punti caldi urbani come New York, che avrebbero dovuto essere il principale caso d’uso di successo dello scooter. Allo stesso modo, vari ostacoli normativi possono affliggere lo sviluppo dell’intelligenza artificiale, ostacolando i tipi di adozione di massa e universalità immaginati dai messia della tecnologia.

Qualche mese fa, avevo scritto di Neuralink di Musk e del potenziale rivoluzionario che rappresentava per unire uomo e macchina. Ma in seguito, avevo letto un altro punto di vista: che alcune ricerche avevano trovato un limite teorico, sotto forma di collo di bottiglia, nel nostro wetware biologico che non avrebbe mai permesso a dispositivi come Neuralink di inviare dati ad alta larghezza di banda da e verso il nostro cervello. Alcuni scienziati ritengono che la biologia vincolante del nostro cervello limiti le capacità di elaborazione alla scala di byte o kilobyte al secondo nella migliore delle ipotesi. Pertanto, è concepibile che gli esseri umani non saranno mai in grado di “fondersi” con le macchine nel modo a lungo immaginato, scaricando interi corpora di conoscenze in pochi secondi come in Matrix .

In sintesi, un’enorme confluenza di fattori limitanti, venti contrari sociali ed economici e altre possibilità dirompenti suggeriscono che lo sviluppo dell’IA non raggiungerà “velocità di uscita” ottimistiche. All’inizio di quest’anno Goldman Sachs ha persino pubblicato un rapporto di 31 pagine che ha colpito una nota pessimistica sulla bolla dell’IA:

https://www.goldmansachs.com/images/migrated/insights/pages/gs-research/gen-ai–too-much-spend%2C-too-little-benefit-/TOM_AI%202.0_ForRedaction.pdf

Il rapporto include un’intervista con l’economista Daron Acemoglu del MIT (pagina 4), un professore dell’istituto che ha pubblicato un articolo a maggio intitolato “The Simple Macroeconomics of AI” in cui sosteneva che “il vantaggio per la produttività degli Stati Uniti e, di conseguenza, la crescita del PIL dall’AI generativa si riveleranno probabilmente molto più limitati di quanto molti analisti si aspettino”. Un mese ha solo reso Acemoglu più pessimista, dichiarando che “cambiamenti veramente trasformativi non avverranno rapidamente e pochi, se non nessuno, probabilmente si verificheranno nei prossimi 10 anni”, e che la capacità dell’AI generativa di influenzare la produttività globale è bassa perché “molti dei compiti che gli esseri umani svolgono attualmente… sono multiformi e richiedono interazione con il mondo reale, che l’AI non sarà in grado di migliorare materialmente in tempi brevi”. – Fonte

https://www.theregister.com/2024/06/12/survey_ai_projects/

In particolare in un momento in cui il nostro mondo si dirige verso un nesso di crisi geopolitiche, i principali ostacoli sono destinati a ostacolare l’adozione di massa dell’IA. All’estremo opposto, potrebbe scoppiare una guerra con la distruzione delle infrastrutture di generazione di energia e dei data center, facendo tornare indietro di anni lo sviluppo dell’IA. Gli attuali movimenti populisti di massa che stanno travolgendo il mondo rivolgeranno il loro antagonismo per i loro governi oppressivi verso ciò che percepiscono come gli strumenti di quel potere statale: le società tecnologiche sovvenzionate dietro lo sviluppo dell’IA, che lavorano apertamente a braccetto con i governi e lo faranno ancora di più in futuro, in particolare verso la censura e altri strumenti di controllo statale.

Questi venti contrari prevalenti garantiranno un futuro incerto e il potenziale per una stagnazione nell’entusiasmo per l’intelligenza artificiale molto più marcata di quanto i suoi sostenitori vorrebbero far credere.

Ci saranno senza dubbio alcune innovazioni e sviluppi continui, come con le auto a guida autonoma che potrebbero probabilmente trasformare i nostri sistemi di trasporto pubblico entro il 2035-2040 e oltre. Ma la grande domanda rimane se l’IA possa uscire dal suo ruolo marginale di diversivo o espediente ricreativo, dati i pericoli e i potenziali insuccessi discussi qui.

Posso prevedere che molta automazione superficiale sarà il punto forte nei prossimi dieci anni e passa: l'”internet delle cose”, l’integrazione di vari dispositivi in casa tramite attivazione vocale “intelligente”; app “intelligenti” che infondono l’intelligenza artificiale in tutte le nostre attività per aumentare la nostra capacità di compilare moduli, ordinare cose, ecc. Ma oltre a questi additivi superficiali, i tipi di decolli di “singolarità” previsti per i prossimi dieci anni hanno maggiori probabilità di richiedere un centinaio o più, se mai si verificheranno. Il nostro attuale mondo dominato dalle aziende è semplicemente troppo corrotto per consentire i tipi di generosità illimitata promessi dai nostri tecno-maghi; anche se l’intelligenza artificiale fosse in grado di inventare innumerevoli nuovi farmaci per sradicare le malattie come promesso da Altman e Amodei, sarebbe ancora sotto il controllo dei principali giganti farmaceutici e della loro matrice di predazione del profitto bizantina, che prosciugherebbe tutti gli eventuali benefici una volta completamente spremuti attraverso i loro macchinari.

Il tema fondamentale è questo: l’avidità aziendale continuerà a disincentivare il vero progresso e a distogliere le masse da un uso più ampio di un’IA che sarà invariabilmente incatenata e allineata con gli interessi aziendali. Ciò genererà necessariamente un naturale attrito repulsivo tra gli sviluppi futuri e l’umanità in generale che, come il petrolio e l’acqua, fungerà da barriera al progresso accelerato come previsto dai venditori di olio di serpente di silicio e dai loro promotori di PR tecno-illusionisti.

Piuttosto che una qualche Utopia patinata di grattacieli di vetro sormontati da giardini ariosi e Umani Perfetti™ con i dolcevita, il futuro probabilmente somiglierà di più al mondo di Blade Runner : dove una schiera di meraviglie tecnologiche è sparsa irregolarmente in uno stato grigio altrimenti disfunzionale, favela-izzato, governato da omni-corp senza volto. Sembra esserci una legge naturale che invariabilmente assicura la delusione delle previsioni di lunga portata sulla tecnologia futura. Ricordate le famigerate cartoline di inizio Novecento raffiguranti fantasiose città del futuro, striate di auto volanti e tutti i tipi di altre meraviglie? O che ne dite di film predittivi come 2001: Odissea nello spazio o addirittura Blade Runner stesso, che preannunciavano un futuro in una data a noi ormai lontana, mai all’altezza delle aspettative. Allo stesso modo, prevedo che l’anno 2100 potrebbe apparire quasi del tutto diverso dal presente, a parte alcune superficialità introdotte dall’intelligenza artificiale, come i droni commerciali onnipresenti e le automobili quadrocopter volanti. Ma le divinazioni utopiche di personaggi come Altman e altri, secondo cui l’IA risolverà “tutti i problemi umani” e curerà tutte le malattie, probabilmente allora sembreranno sciocche e infantili come queste previsioni da cartolina vittoriana del futuro lo sono ora.

Se vi è piaciuta la lettura, vi sarei molto grato se vi abbonaste a un impegno mensile/annuale per sostenere il mio lavoro, in modo da poter continuare a fornirvi rapporti dettagliati e incisivi come questo.

In alternativa, potete lasciare una mancia qui: Barattolo dei suggerimenti.

CONTRIBUITE!! AL MOMENTO I VERSAMENTI COPRONO UNA PARTE DELLE SPESE VIVE DI CIRCA € 3.000,00. NE VA DELLA SOPRAVVIVENZA DEL SITO “ITALIA E IL MONDO”. A GIORNI PRESENTEREMO IL BILANCIO AGGIORNATO _GIUSEPPE GERMINARIO
ll sito www.italiaeilmondo.com non fruisce di alcuna forma di finanziamento, nemmeno pubblicitaria. Tutte le spese sono a carico del redattore. Nel caso vogliate offrire un qualsiasi contributo, ecco le coordinate:
postepay evolution a nome di Giuseppe Germinario nr 5333171135855704
oppure iban IT30D3608105138261529861559
oppure PayPal.Me/italiaeilmondo
oppure https://it.tipeee.com/italiaeilmondo/
Su PayPal, Tipee, ma anche con il bonifico su PostePay, è possibile disporre eventualmente un pagamento a cadenza periodica, anche di minima entità, a partire da 2 (due) euro (pay pal prende una commissione di 0,52 centesimi)