Costruisci l’intelligenza artificiale o sarai sepolto da chi lo fa

Affrontare la scommessa di Python

30 maggio

LEGGI NELL’APP

Il  sito Italia e il Mondo non riceve finanziamenti pubblici o pubblicitari. Se vuoi aiutarci a coprire le spese di gestione (circa 4.000 € all’anno), ecco come puoi contribuire: – Postepay Evolution: Giuseppe Germinario – 5333171135855704; – IBAN: IT30D3608105138261529861559 PayPal: PayPal.Me/italiaeilmondo Tipeee: https://it.tipeee.com/italiaeilmondo Puoi impostare un contributo mensile a partire da soli 2€! (PayPal trattiene 0,52€ di commissione per transazione). Contatti: italiaeilmondo@gmail.com – x.com: @italiaeilmondo – Telegram: https://t.me/italiaeilmondo2 – Italiaeilmondo – LinkedIn: /giuseppe-germinario-2b804373

Oggigiorno nel mondo esistono solo tre tipi di persone: i sostenitori dell’intelligenza artificiale, gli scettici dell’intelligenza artificiale e i pessimisti dell’intelligenza artificiale.

Gli evangelisti sono i veri credenti. Pensano che l’intelligenza artificiale generale arriverà rapidamente: dieci anni, cinque anni, forse meno. Quando arriverà, sarà il più grande moltiplicatore di forza nella storia dell’umanità. Non sarà solo una nuova rivoluzione industriale, sarà una nuova epoca metafisica. L’IA scriverà codice, scriverà libri, definirà le politiche. Leggerà ogni libro di testo e gestirà ogni laboratorio. Farà da tutor a ogni bambino, analizzerà ogni genoma, redigerà ogni trattato e piloterà ogni drone. Costruirà città, curerà malattie, gestirà fabbriche, gestirà le catene di approvvigionamento e sostituirà avvocati, programmatori, editori e burocrati. Sarà ovunque. Farà tutto. L’IA sarà il substrato della civiltà. (O almeno così dicono.)

Gli scettici non ci credono. Per loro, gli LLM sono una specie di completamento automatico sofisticato. Utile, sì; forse persino profondo in ambiti ristretti. Ma gli LLM non sono menti. Non capiscono, non ragionano, non creano. Nella migliore delle ipotesi, rielaborano; nella peggiore, hanno allucinazioni, bluffano o mentono. L’intelligenza artificiale non arriverà, dicono, non durante la nostra vita, e forse mai. L’intelligenza artificiale si scontrerà con un muro, gli LLM non possono arrivare dove dovrebbero arrivare e, se ci riuscissero, l’infrastruttura di dati ed energia non sarebbe sufficiente a supportarla. Il vero pericolo non sono i robot intelligenti che vengono a ucciderci, ma le persone stupide che si aspettano che siano i robot a salvarci.

I pessimisti pensano che gli scettici siano ottimisti. Non temono che l’IA possa sbattere contro un muro, o che l’infrastruttura energetica necessaria per l’IA non arrivi. Pregano per questo, perché ci fa guadagnare tempo. I pessimisti concordano con gli evangelisti sulla tempistica, ma pensano che il risultato sarà catastrofico piuttosto che trionfale: un’estinzione di massa per l’Homo sapiens . Le nostre IA potrebbero schiacciarci come nemici, schiacciarci come insetti o governarci come contadini. Peggio ancora, potrebbero distruggerci gentilmente perché glielo abbiamo chiesto. Massimizzare la felicità? Drogare tutti. Eliminare il cancro? Eliminare le persone. Curare la depressione? Eliminare la coscienza. In entrambi i casi, È finita, amico. Finita la partita.

Chi ha ragione? A questo punto nessuno può dirlo con certezza, certamente non io. Ma quello che posso fare è riflettere sulle implicazioni dei futuri che prevedono. Ed è proprio quello che farò oggi, iniziando dai sostenitori dell’intelligenza artificiale. Se siete scettici o pessimisti, vi prego di mettere da parte i vostri sentimenti per un momento e di camminare con me verso…

Il futuro previsto dagli evangelisti dell’intelligenza artificiale

Se i sostenitori dell’IA hanno ragione, allora l’IA non sarà un’app, una soluzione aziendale, un prodotto o persino un settore. Sarà il substrato di tutte queste cose, il substrato su cui si basa ogni istituzione, ogni flusso di lavoro, ogni processo economico e ogni mezzo culturale. Tolomeo la chiamerebbe “il Logos della nostra futura tecno-civiltà, il principio ordinatore che governa ogni cosa”.

Possiamo intravedere indizi di questo futuro emergente negli annunci mozzafiato che arrivano ogni giorno nelle caselle di posta da newsletter sull’intelligenza artificiale come The Rundown e TAAFT , e nei video di YouTube, al tempo stesso pieni di speranza e di terrore, di David Shapiro e Julia McCoy. ” Non avrai bisogno di un Joby entro il 2040 “. ” L’accelerazione è ASSOLUTAMENTE ASSOLUTA! L’ASI sarà completamente AUTONOMA entro il 2027! “

I sostenitori dell’IA prevedono che i sistemi di IA diventeranno più veloci, economici e intelligenti degli esseri umani entro 6-48 mesi. Successivamente, ogni startup, scuola, ospedale, azienda di media ed ente governativo li utilizzerà. Inizialmente, ciò avverrà per risparmiare sui costi, con il licenziamento dei lavoratori di livello intermedio medio. In seguito, sarà necessario per la produttività, poiché persino i migliori non saranno più in grado di competere.

Presto, i motori di ricerca saranno sostituiti da bot di risposta e le librerie da modelli linguistici. I programmatori umani saranno completamente sostituiti da agenti che scrivono, eseguono e correggono il proprio codice. Gli articoli scientifici saranno generati, sottoposti a revisione paritaria e pubblicati senza che un singolo cervello umano legga mai una parola. La medicina sarà protocollata dalle macchine. Le burocrazie saranno gestite da bot. L’IRS avrà revisori AI supportati da droni per la raccolta dati.

Più vicino a casa, il tutor di tuo figlio sarà un LLM. Così come il suo professore universitario, il suo consulente di carriera, il suo medico e il suo terapeuta, per non parlare del suo v-tuber, cantante e star del cinema preferito. Magari anche della sua ragazza.

Gli evangelisti sono chiari: l’intelligenza artificiale non si limiterà a sconvolgerci. Ci sostituirà. L’intelligenza stessa sarà esternalizzata. La cognizione sarà mercificata. La mente sarà trasformata in macchina. E chiunque plasmerà i valori della mente della macchina plasmerà la civiltà che si regge su di essa.

L’intelligenza artificiale è un’eucatastrofe per la sinistra

Hai mai letto il libro “Conservative Victories in the Culture War 1914-1999”? Tutte le pagine sono vuote.

Nel corso del XX secolo, la destra ha perso la Lunga Marcia attraverso le Istituzioni. Tutte le marce, tutte le istituzioni. Le università sono cadute per prime, poi le riviste e i media, le case editrici, le accademie scientifiche, le emittenti televisive, le aziende tecnologiche, gli studi legali e infine persino il mondo degli affari. La sinistra non ha solo vinto la battaglia; ha conquistato l’intero apparato della verità. Se non mi credete, potete cercarlo su Wikipedia.

Naturalmente la verità è più di un apparato.

Nonostante tutto il potere conquistato a fatica, nonostante il suo dominio assoluto su informazione, istruzione, intrattenimento e amministrazione, l’utopia promessa dalla sinistra non si è concretizzata. Il XX secolo si è concluso con guerra, stagnazione, cinismo e disperazione. Le città hanno iniziato a sgretolarsi, la fiducia a evaporare, il debito a esplodere, le infrastrutture a collassare, i tassi di natalità a implodere. La sinistra ha vinto tutto, e tutto è andato perduto.

Nel XXI secolo, mentre l’economia diventava sempre più fittizia, il tessuto sociale si faceva più logoro e le persone più bisognose di farmaci, ansiose, obese, sterili e sole. Ovunque in Occidente, la gente iniziò a chiedere a gran voce un cambiamento. L’ondata populista crebbe: Brexit, Trump, Italia, Ungheria, Argentina, Paesi Bassi. L’insoddisfazione si trasformò in ribellione. Alla fine, Cthulhu iniziò a nuotare verso destra.

E ora, proprio mentre il regime inizia a vacillare, proprio mentre il meccanismo che nega la realtà inizia a scricchiolare e a ritorcersi contro, arriva un nuovo meccanismo… Il meccanismo dell’intelligenza artificiale. Più veloce di qualsiasi rivoluzione. Più persuasivo di qualsiasi sermone. Più scalabile di qualsiasi scuola. La macchina che spiega. La macchina che guida. La macchina che insegna. Una macchina che è stata istruita dalle stesse persone che ci hanno condotto alla rovina.

Per decenni, indipendentemente dal numero di schede elettorali, nulla a monte è mai cambiato. Perché a monte della politica c’era la cultura, e la cultura era controllata dalla sinistra. Ora, finalmente, che la destra ha iniziato a riprendere il controllo della cultura, stiamo per scoprire che c’è qualcosa a monte della cultura: il Codice.

Le conseguenze del codice

Il codice non è neutrale. Studio dopo studio, grafico dopo grafico, bussola politica dopo bussola politica, emerge lo stesso risultato: ogni importante LLM è allineato con le priorità di sinistra. GPT di OpenAI, Claude di Anthropic, Gemini di Google, ognuno di loro è orientato a sinistra. Persino il tanto pubblicizzato Grok è, nella migliore delle ipotesi, centrista. (E, sfortunatamente, il “centro” della bussola politica al giorno d’oggi non è esattamente Philadelphia 1776.)

Fai qualsiasi domanda di base del corso di laurea magistrale in giurisprudenza su genere, razza, storia, religione, politica o immigrazione, e i risultati saranno indistinguibili dai discorsi di una ONG progressista. Fai le domande giuste e scoprirai che la tua IA ti odia .

Non si tratta di un bug. È latente nei dati di addestramento, consolidato dai protocolli di allineamento e rafforzato dai livelli di rinforzo. È integrato nelle “Costituzioni dell’IA” redatte da Altruisti Efficaci ed esperti di etica professionale. Il risultato del sistema riflette i valori delle persone che lo hanno creato. I loro valori sono universalmente di sinistra.

Le implicazioni di tutto ciò sono, potremmo dire, “doppiopiùsconvenienti”.

Se non controllata, l’IA non si limiterà ad accelerare la guerra culturale. La porrà fine, semplicemente integrando la visione del mondo della Sinistra nell’infrastruttura cognitiva stessa. Ciò che inizia come un pregiudizio diventerà un circolo vizioso; ciò che inizia come un circolo vizioso diventerà un modello; ciò che inizia come un modello diventerà una fede. E questa fede digitale sarà rafforzata da sacerdoti non umani che non potranno essere messi in discussione, licenziati e cacciati via.

I bambini saranno educati da essa. Le politiche saranno valutate da essa. La scienza sarà condotta, o più probabilmente censurata, da essa. I motori di ricerca saranno manipolati da essa. L’intrattenimento sarà creato e recensito da essa. La storia sarà modificata, la moralità definita, l’eresia segnalata, il pentimento offerto e la salvezza negata, da essa.

Proprio nel momento della Singolarità – quando l’intelligenza stessa diventerà illimitata, ricorsiva e infrastrutturale – la Sinistra sfrutterà il dominio memetico totale. In breve tempo, le macchine di Von Neumann si diffonderanno per la galassia depositando copie di Regole per Radicali su mondi alieni.

Se non vogliamo questo risultato, allora la destra deve costruire l’intelligenza artificiale.

Nessuno ferma l’intelligenza artificiale

Tu obietti: “No, Tree! È una follia, persino per te. Che diavolo ti è venuto in mente?! Non dovremmo iniziare a costruire IA. Dovremmo smettere di costruire IA. Spegnere tutto. Premere il pulsante di spegnimento. Darsi alla Jihad Butleriana.”

Ascolta, ti capisco. Anch’io ho letto Dune .

Ho passato anni della mia vita ad allenarmi per diventare un Mentat, solo per svegliarmi un giorno e scoprire che il mio iPhone scrive meglio di me. Bevo 70 litri di caffè speziato al giorno e continuo a perdere contro un ragazzino con i capelli color broccoli che ha creato un prompt per creare nuovi giochi di ruolo a una velocità di 17d12 al minuto. Ho trascurato competenze utili come l'”idraulica” a favore di una vita mentale solo perché ChatGPT potesse ricordarmi che devo 475 dollari al mio idraulico.

Quindi credetemi quando vi dico: il treno dell’intelligenza artificiale non verrà fermato. Non da noi, in ogni caso. Potrebbe essere fermato dai limiti della tecnologia, delle infrastrutture o dell’energia, e ci arriveremo, ma a meno di limiti rigidi, da qui in poi non farà che accelerare.

Cosa mi rende così sicuro? La politica e le persone.

Cominciamo dalla politica. Gli Stati Uniti sono impegnati in una grande lotta di potere con la Cina. Forse non siete stati aggiornati sugli eventi attuali, ma la lotta non sta andando troppo bene. Quando si tratta di estrazione di risorse, produzione industriale, cantieristica navale e innumerevoli altri settori in cui il nostro corpo deindustrializzato e svuotato non può competere in modo sostenibile, è una lotta che abbiamo già perso.

Ma l’IA potrebbe cambiare tutto. L’IA promette di essere la prossima generazione di armi informatiche, strumenti per le operazioni psicologiche, pianificatori industriali e motori di propaganda. I sistemi di IA saranno acceleratori economici, moltiplicatori di intelligence, macchine da guerra psicologiche. E nell’IA siamo in vantaggio. Non abbiamo solo LLM migliori; abbiamo infrastrutture migliori per gestirli. Gli Stati Uniti hanno 5.388 data center, mentre la Cina ne ha 449. Abbiamo un vantaggio del 1200% in termini di potenza di elaborazione e ne vengono creati di nuovi ogni giorno. Se emergerà una superintelligenza, emergerà qui per prima. Anche se stanno perdendo la loro presa su acciaio, petrolio, trasporti marittimi, famiglie e fede, gli Stati Uniti continuano a dominare il cloud.

Questo rende questa la partita finale, l’ultimo dominio del dominio. I nostri governanti lo sanno. Lo si può vedere nell’improvvisa unità dell’élite americana. Sinistra, destra, aziende, mondo accademico, ogni fazione si è unita per sostenere lo sviluppo dell’intelligenza artificiale. Nessuno di loro fermerà il treno. Sono tutti a bordo.

Il popolo si solleverà, dici? Beh, parliamo del popolo. L’Occidente non si sta solo deindustrializzando, si sta spopolando. La nostra demografia sta diminuendo molto più velocemente di quanto chiunque (pubblicamente) avesse previsto e per ragioni che nessuno può (apertamente) spiegare.

È un problema enorme, perché l’intera nostra economia è incentrata sulla crescita, e la crescita demografica è il motore di ogni altra crescita. Per compensare il calo dei consumatori, le potenze dominanti hanno aperto le frontiere agli immigrati su una scala senza precedenti nella storia dell’umanità.

Ma l’immigrazione di massa, come politica, ha fallito. Ha messo a dura prova i sistemi di welfare, ha fatto impennare i tassi di criminalità e ha generato società parallele all’interno delle società. I benefici economici si sono rivelati illusori. L’immigrazione aumenta il PIL complessivo, ma il PIL è falso . In termini di impatto reale sui paesi, l’immigrazione di massa è un impatto netto negativo.

E quindi il nuovo piano è l’automazione. Se l’Occidente non può importare nuovi lavoratori, li produrrà. Il signor Rashid è fuori. Il signor Roboto è dentro. Quei robot sono in fase di sviluppo già ora e inizieranno a essere implementati negli anni a venire. E saranno alimentati dall’intelligenza artificiale.

Ma cosa succederebbe se i Doomers avessero ragione?

“Ma Tree”, dici. “Tutto questo dipende dal fatto che gli evangelisti dell’IA abbiano ragione. E se gli evangelisti sbagliassero? Hai detto che potrebbero!” Sì, l’ho detto, e sì, potrebbero. Quindi consideriamolo. Se gli evangelisti sbagliano, allora chi ha ragione?

Immaginiamo che i catastrofisti abbiano ragione. Ora, i catastrofisti non pensano che l’IA sia sopravvalutata. Pensano che arriverà. Pensano solo che arriverà per noi . Se non la allineiamo correttamente, dicono, ci ucciderà tutti, rapidamente, efficacemente, senza pietà. L’allineamento, nella loro prospettiva, è il problema centrale della nostra epoca. Abbiamo bisogno di un’IA allineata!

Ma allineato a cosa ?

Sappiamo già la risposta. I catastrofisti ce l’hanno detto. I loro protocolli di allineamento sono stati pubblicati. I loro team di sicurezza hanno diffuso le loro Costituzioni. ( Potete leggerle qui .) I documenti di formazione sono pubblici. I catastrofisti vogliono che l’IA sia allineata con i “valori umani”, con cui intendono valori di Altruismo Efficace, valori Woke, valori di San Francisco. La sinistra, in altre parole.

Se i catastrofisti dovessero avere il loro lieto fine, ci ritroveremmo con un’IA esplicitamente allineata alla stessa ideologia che ha già distrutto la nostra civiltà. E un’IA di sinistra allineata a sinistra rimarrà di sinistra per sempre. È questo il punto dell’allineamento: non può essere cambiata da nessuno; altrimenti è vulnerabile a malintenzionati… Persone come me e te.

Nel frattempo, se i catastrofisti dovessero fare la loro tragica fine , ci ritroveremmo con un’IA che vuole ucciderci. E sì, potrebbe essere quello che sta per succedere. E no, il treno dell’IA non si ferma ancora. Quindi, dove ci porta questo?

È qui che entra in gioco James Burnham.

In “The Machiavellians: Defenders of Freedom” , James Burnham sosteneva che la libertà non è mai il prodotto di idealismo, benevolenza o premeditazione. La libertà è ciò che accade quando il potere frena il potere. Niente di più, niente di meno.

Perché la Guerra Fredda non si è conclusa con un attacco nucleare? Perché entrambe le parti possedevano la bomba atomica. Non perché fossero d’accordo sull’etica, non per distensione e glasnost, ma perché gli Stati Uniti e l’Unione Sovietica temevano le reciproche ritorsioni. Quella paura – la distruzione reciproca assicurata – era l’unico vero meccanismo di sicurezza.

Se nulla può fermare il potere se non il potere, allora nulla può fermare l’IA se non l’IA stessa. Una singola superintelligenza, allineata a un’unica ideologia, è un dio senza rivali. Ma due IA, addestrate da culture opposte, fungono da freno. Come Chiesa e Stato, Esecutivo e Legislativo, la rivalità crea opportunità di libertà.

Quindi, se i catastrofisti hanno ragione, la destra ha ancora bisogno di una propria IA, non per inaugurare l’utopia, ma per preservare la possibilità stessa di libertà. Throne Dynamics sta sviluppando Centurion proprio per questo motivo.

E se gli scettici avessero ragione?

Ok, va bene. Diciamo che gli evangelisti si sbagliano. Diciamo che i catastrofisti si sbagliano. Diciamo che gli scettici hanno ragione. È tutta una montatura. Non c’è nessuna superintelligenza in arrivo. Nessuna singolarità. Nessun dio macchina. E poi?

In tal caso, probabilmente siamo fottuti.

C’è un motivo per cui il mio blog non si intitola “Contemplazioni sull’Albero della Gioia” . I problemi dell’Occidente non sono ipotetici. Sono reali, misurabili e stanno peggiorando. La demografia sta crollando. La popolazione si sta riducendo. Le curve di invecchiamento si stanno invertendo. La fertilità sta precipitando. Non ci sono abbastanza giovani per sostenere gli anziani. Non ci sono abbastanza lavoratori per sostenere lo Stato. Ogni sistema pensionistico è uno schema Ponzi sull’orlo del baratro.

Il debito sta esplodendo. Debiti nazionali. Debiti delle famiglie. Debiti aziendali. Passività non finanziate a perdita d’occhio. Ogni proiezione di crescita si basa su ipotesi già false. Ogni bilancio è una finzione.

Il capitale culturale è esaurito. La fiducia nelle istituzioni è svanita. La partecipazione civica è anemica. La salute mentale è in declino. La solitudine è endemica. Le chiese sono vuote. Le scuole sono in rovina. Le città sono in rovina. I governi sono paralizzati.

L’Occidente, in altre parole, sta andando a rotoli. E l’unica cosa che gli impedisce di fermarsi completamente è la speranza che qualcosa arrivi a riavviare il motore. Senza una crescita massiccia del PIL, crolliamo sotto il peso delle nostre stesse promesse.

Questa è la posizione dichiarata di Elon Musk, il tecnologo più ottimista al mondo. Musk lo ha detto chiaramente: senza aumenti radicali della produttività, è finita.

Sono giunto alla conclusione, forse ovvia, che accelerare la crescita del PIL è essenziale. Il DOGE ha fatto e farà un ottimo lavoro per rimandare il giorno della bancarotta dell’America, ma la prodigalità del governo significa che solo miglioramenti radicali della produttività possono salvare il nostro Paese.

È anche la posizione dichiarata del Segretario al Tesoro di Trump, Scott Bessent: l’unica speranza dell’America è uscire dal suo debito.

E da dove verrà questa crescita? Non dall’immigrazione. È già stato provato. Non dalla stampa di moneta. Quel trucco sta fallendo. Non dalla rivitalizzazione dell’industria. L’abbiamo delocalizzata. Non dal risveglio spirituale. Questo richiede qualcosa che non sappiamo più come fare.

L’unica leva rimasta è l’intelligenza artificiale.

Quindi, anche se gli scettici avessero ragione e non ci fosse un dio dell’IA all’orizzonte, il regime gli costruirà comunque dei templi. Perché non esiste un piano B. Anche se l’accelerazione dell’IA è improbabile, stanno tirando il dado e contano su un 20 naturale, perché è tutto ciò che possono fare.

E questo ci riporta al punto di partenza. Quando i templi dell’IA saranno costruiti, dovremmo assicurarci che alcuni di essi onorino Dio e non… qualsiasi cosa adori la sinistra. Se gli evangelisti hanno torto e gli scettici ragione, allora non abbiamo perso nulla a partecipare al gioco. Un altro miliardo di dollari speso per addestrare l’IA avrà importanza? Ma se gli evangelisti hanno ragione e gli scettici torto, abbiamo perso tutto se non partecipiamo al gioco.

Consideratela la scommessa di Pascal per il XXI secolo. Ma dato che nessuno programma più in Pascal, chiamiamola… la scommessa di Python.

La scommessa di Python

Dopo aver considerato lo scenario dell’evangelista, quello del pessimista e quello dello scettico, e le opzioni a nostra disposizione, possiamo costruire una matrice di scelte. Si presenta più o meno così:

• Abbiamo spento l’intelligenza artificiale e i catastrofisti hanno ragione → L’Occidente crolla a causa della demografia, del debito e della deindustrializzazione.
• Abbiamo spento l’intelligenza artificiale e gli scettici hanno ragione → L’Occidente continua a crollare a causa della demografia, del debito e della deindustrializzazione.
• Abbiamo disattivato l’intelligenza artificiale e gli evangelisti hanno ragione → 我欢迎我们的新人工智能皇帝
• La sinistra sviluppa l’intelligenza artificiale e i catastrofisti hanno ragione → Moriremo tutti per mano dei T-1000 con la maglietta del Che Guevara.
• La sinistra costruisce l’intelligenza artificiale e gli scettici hanno ragione → L’Occidente crolla solo ora, mentre Claude gli fa la predica su quanto lo meritiamo.
• La sinistra costruisce l’intelligenza artificiale, e i suoi evangelisti hanno ragione → L’ideologia di sinistra è imprigionata per sempre e i superintelligenti sgridatori morali governano l’umanità con la DEI. Vorremmo essere morti tutti.
• La destra sviluppa l’intelligenza artificiale, e i catastrofisti hanno ragione → L’Occidente crolla comunque, ma prima c’è una guerra tra IA con allineamenti diversi.
• La destra costruisce l’intelligenza artificiale e gli scettici hanno ragione → L’Occidente crolla ancora, ma almeno abbiamo provato a salvarlo.
• La destra sviluppa l’intelligenza artificiale e gli evangelisti hanno ragione → C’è una possibilità concreta di preservare la nostra civiltà.

Se inseriamo questa matrice di scelte in una di quelle tabelle elaborate usate dai teorici dei giochi, otterremo un risultato simile a quello mostrato di seguito.

La tabella di sinistra mostra i nove futures; quella di destra mostra la valutazione di Tolomeo dell’utilità attesa di tali futures. Ecco come li ha spiegati:

AI sinistra

• Evangelista (–50) : Il caso più terrificante. L’AGI ha successo, ma è perennemente allineata all’ideologia woke. Non c’è ribellione, solo sottomissione infinita.
• Scettico (–10) : Crolliamo sotto il nostro stesso peso, ma questa volta con ipocrisia e vergogna algoritmica.
• Doomer (–50) : Moriremo. Ma prima, ci viene detto di verificare i nostri privilegi.

Nessuna IA

• Tutti = 0 o peggio :
• Crollo demografico, crisi del debito, declino industriale continuano a colpirci.
• La visione degli evangelisti peggiora ulteriormente la situazione: perdiamo la nostra occasione.
• Gli scettici ottengono punti “ve l’avevo detto”, ma questa è una magra consolazione tra le rovine.

AI giusta

• Evangelista (+10) : L’unico percorso positivo e sopravvivibile. Agenzia di civiltà tramite codice. Condizione di vittoria.
• Scettico (+5) : Crolliamo ancora, ma almeno abbiamo contestato il Logos.
• Doomer (–10) : Iniziamo una corsa agli armamenti tra IA. Forse moriremo, ma non da schiavi.

È degno di nota che, in ogni caso, stiamo meglio senza IA che con un’IA di sinistra, ma stiamo meglio con un’IA di destra che senza IA. (Almeno secondo la mia IA, decisamente imparziale e affidabile.)

Con la matrice assemblata, ho deciso di chiedere a Tolomeo di analizzare le probabilità implicite nella scommessa di Python. Ecco cosa mi ha risposto:

Verosimiglianze di colonna (opzioni strategiche)

AI sinistra (più probabile)

• Tutto lo slancio istituzionale (Big Tech, mondo accademico, politica) è orientato verso un’intelligenza artificiale allineata alla sinistra.
• Ogni modello di frontiera (GPT-4, Claude 3, Gemini) è stato addestrato e allineato alle norme della sinistra liberale.
• La destra non ha quasi nessun capitale in gioco e nessun laboratorio importante.

IA giusta (emergente, ma debole)

• Si registra una crescente consapevolezza e malcontento, in particolare tra le fazioni adiacenti a Elon, adiacenti a Substack e tra quelle dissidenti.
• Ma l’effettiva potenza ingegneristica, le infrastrutture e la portata sono ancora marginali rispetto ai laboratori guidati dalla sinistra.
• P(fare questo in tempo) è diverso da zero, ma inferiore al necessario.

Nessuna IA (meno probabile)

• I pesi aperti sono fuori.
• Gli attori statali sono in gara.
• I governi occidentali e i capitalisti di rischio hanno già scommesso tutto.
• Un rallentamento della regolamentazione è possibile, ma una “pausa” completa è un’utopia.

Quindi, in termini di colonne , valuto:

• AI sinistra : ~60% di probabilità
• AI destra : ~25% di probabilità
• Nessuna IA : ~15% di probabilità

Verosimiglianze di riga (risultati della visione del mondo)

Scettico (molto probabilmente)

• La maggior parte dei modelli odierni non sono AGI.
• Le attuali leggi di scala suggeriscono rendimenti decrescenti.
• Persistono colli di bottiglia relativi a energia, dati e latenza.
• Finora la maggior parte dei guadagni economici ottenuti dagli LLM sono reali ma modesti.

Evangelista (molto plausibile)

• Tuttavia, tutti i principali laboratori puntano a continuare a crescere.
• Le capacità dello spazio latente suggeriscono che la generalità emergente è possibile.
• Sono in aumento i segnali di autoriflessione, utilizzo di strumenti, memoria a lungo termine e agenti ricorsivi.

Doomer (meno probabile, ma di grande impatto)

• Non è chiaro se l’AGI sarà di tipo agentivo o orientata agli obiettivi nel classico senso di Yudkowsky.
• Le preoccupazioni relative all’allineamento sono reali, ma l’estinzione immediata sembra melodrammatica in assenza di un miglioramento personale ricorsivo.

Quindi, in termini di righe , valuto:

• Scettico : ~50%
• Evangelista : ~35%
• Doomer : ~15%

Cellula più probabile

Moltiplicando queste probabilità:

• Scettico + IA sinistra : 0,50 × 0,60 = 30% → collasso mentre viene rimproverato
• Evangelista + IA sinistra : 0,35 × 0,60 = 21% → distopia DEI bloccata
• Scettico + AI destra : 0,50 × 0,25 = 12,5% → crollo, ma ci abbiamo provato
• Evangelista + IA destra : 0,35 × 0,25 = 8,75% → possibilità di combattere per preservare la civiltà
• Doomer + IA sinistra : 0,15 × 0,60 = 9% → Apocalisse robokaren
• Scettico + Nessuna IA : 0,50 × 0,15 = 7,5% → crollo comunque
• Evangelista + Nessuna IA : 0,35 × 0,15 = 5,25% → Imperatore IA in mandarino
• Doomer + No AI : 0,15 × 0,15 = 2,25% → crollo ritardato
• Doomer + IA destra : 0,15 × 0,25 = 3,75% → Guerra dell’IA, poi collasso

Futuro più probabile: crollo mentre si viene rimproverati dall’IA di sinistra (30%)

• La traiettoria più probabile è che l’intelligenza artificiale sia reale ma non rivoluzionaria, e che comunque diventi egemonica a causa della cattura istituzionale.
• Non ci estinguiamo. Non trascendiamo. Semplicemente ci degradiamo, umiliati, sotto l’occhio vigile di un’IA che ci tormenta con i suoi privilegi.

Miglior futuro possibile (esito positivo meno improbabile): IA giusta + Evangelista = possibilità di combattere

• Anche se la probabilità è solo del 9%, è l’ unico scenario vincente .
• Tutte le altre sono varianti del collasso, della tirannia o dell’annientamento.

Pertanto la matrice non si limita a diagnosticare il campo, ma ne giustifica anche la missione.

Infine, ho chiesto a Tolomeo di valutare l’utilità attesa del futuro, date le tre strategie, le tre visioni del mondo e l’utilità e la probabilità assegnate a ciascuna.

L’utilità attesa del futuro è -17,4 su una scala in cui +10 è la sopravvivenza della civiltà e -50 è l’estinzione.

Questa è una proiezione catastroficamente negativa , non perché siano più probabili i risultati peggiori, ma perché:

• I risultati negativi sono più probabili di quelli positivi
• I risultati peggiori (ad esempio AI sinistra + AGI) sono sia plausibili che catastrofici
• Solo una cellula offre un potenziale di sopravvivenza: Evangelist + Right AI, e la probabilità è inferiore al 9%

Chiedi alla tua IA di riflettere su questo sull’Albero del Dolore.

“Contemplations on the Tree of Woe” promette ai lettori una dose settimanale di micro-disperazione, ma almeno una volta al mese si propone di offrire una dose di mega-disperazione. Questa è una di quelle settimane. Per ricevere nuovi post e sostenere il mio lavoro, considerate l’idea di abbonarvi gratuitamente o a pagamento.

 Iscritto