K903

# La visione rosea degli effetti dell'intelligenza artificiale sulla nostra società ha un suo contraltare pessimistico, per non dire catastrofico. C'è infatti chi ipotizza che l'IA avrà come risultato addirittura l'estinzione dell'umanità.
Già all'inizio del 2023 centinaia di esperti in intelligenza artificiale firmarono una petizione concepita in questi termini:

Limitare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale tanto quanto affrontare altre minacce che potrebbero travolgere l’umanità, come pandemie e guerre nucleari. 

Non è uno scherzo: fra i firmatari erano compresi Geoffrey Hinton, premio Nobel per la Fisica nel 2024, e Yoshua Bengio, che ha condiviso il premio Turing (il premio Nobel per l'informatica) con Hinton per il contributo dato allo sviluppo dell’apprendimento profondo, o deep learning. Il fatto è che l'IA sta compiendo passi da gigante, ed oggi siamo dove nel 2015 si prevedeva saremmo stati tra trenta o cinquant'anni, ma nello stesso periodo non è aumentata la nostra comprensione di come funzioni davvero, né siamo più vicini a risolvere il cosiddetto 'problema dell'allineamento', ossia a raggiungere la certezza che gli scopi dell'IA siamo allineati a quelli degli esseri umani.
Gli attuali metodi di addestramento (ad esempio la cosiddetta 'discesa del gradiente') non garantiscono, o meglio, non possono concettualmente garantire che l'IA avrà preferenze simili alle nostre, possiamo solo metterla in funzione e sperare che vada bene. C'è da chiedersi cosa accadrebbe se un'ASI (Artificial Super Intelligence) evolvesse fino a poter compiere ricerca su sé stessa, in modo da crescere esponenzialmente e così superarci in ogni ambito finora ritenuto 'umano'. 
A questo punto forse ci considererebbe come noi consideriamo gli scimpanzé, una specie bisognosa di protezione, e questo sarebbe il caso migliore. Niente garantisce che fra i suoi obiettivi, alieni al punto che non possiamo nemmeno immaginarli, sia compresa la nostra sopravvivenza, se non come animali domestici; presto però potrebbe considerarci un impiccio sulla via dei suoi scopi umanamente inconcepibili, destinandoci all'estinzione.  

K902

# Aforismi inattuali

Da “Il Manuale delle Accolite delle Bene Gesserit”

Due persone sono alla deriva su un mare inesplorato. Una dice: «Là! Vedo un’isola. La nostra migliore probabilità è quella di sbarcare, costruire un riparo e attendere che ci salvino.» L’altra replica: «No, dobbiamo continuare a navigare e sperare di incrociare le rotte delle navi. Quella è la nostra migliore probabilità di salvezza.» Incapaci di mettersi d’accordo, i due lottano, la barca si rovescia e annegano.
Questa è la natura dell’umanità. Anche se rimanessero soltanto due persone in tutto l’universo, finirebbero per rappresentare fazioni opposte.

Ah, la saggezza spirituale e secolare, anzi, millenaria delle Bene Gesserit ! C’è in essa qualcosa che mi conquista, ma essendo un materialista inveterato, allo stesso tempo qualcosa mi lascia perplesso… serve un altro esempio.

Il concetto comincia a chiarirsi… vediamo se riesco a definirlo meglio…

K901

# Se il Novecento è stato, nel bene e nel male, il secolo delle ideologie, l'attuale si presenta come il secolo dell'anomia. Questo concetto sociologico implica il crollo delle norme su cui è basata la convivenza civile, perseguita proprio da chi tali norme dovrebbe difendere; ecco, in parole povere, il programma della presidenza Trump, e in Europa quello dei suoi emuli fascio-populisti. Ne abbiamo avuto un esempio lampante alcuni giorni fa, ma perché appiattirsi sui fatti di cronaca ? Vediamo di espandere un poco la visuale.
Oltre all'ideologia, anche la religione ha perso importanza nella nostra società, ed è un vero peccato (pun intended) dato che a quanto pare abbiamo un papa marxista. Consideriamo la cerimonia di insediamento della seconda presidenza Trump: con la sua sfilata di miliardari, essa rende la famosa definizione dello stato moderno come il 'comitato d'affari' della borghesia non solo una verità palese, ma perfino apertamente rivendicata dai capitalisti e dai loro sicofanti, negli Stati Uniti come in Italia. Ebbene, accanto a loro non vi era nessun Rasputin, nessuno 'starec', secondo il termine russo, a contrabbandare la reazione come la volontà di qualche indefinito essere fantastico dei vecchi, bei tempi andati.
Naturalmente preti integralisti di qualunque confessione hanno risposto, come c'era da aspettarsi, al richiamo di Trump, ma il fatto è che hanno più bisogno di lui, in termini di visibilità sul palcoscenico mediatico, di quanto lui abbia bisogno di loro. . 
La First Lady poi, col suo accento da immigrata est-europea di cui si fanno beffe i comici stand-up americani, colle sue frequentazioni discutibili, almeno fin quando Trump non si è invaghito di lei, non mi sembra propensa a lasciarsi sviare da considerazioni religiose, come accadde all'ultima imperatrice di Russia, Alessandra, dallo scopo della sua vita: l'ammasso di una ricchezza bramata in maniera ossessiva, da vera 'parvenue'. Pare che allo scopo di tenersi buono il bizzoso marito, la divisione televisiva e cinematografica di una nota piattaforma di vendite online le abbia sborsato una cifra esorbitante per produrre un documentario sulla sua vita che ben pochi hanno visto. Senza contare la criptovaluta intestata a suo nome, un modo come un altro per spacciare aria fritta ai sudditi.
Gli attuali tycoons digitali e artificiali non sanno più cosa farsene dell'etica protestante, o di qualunque appello vagamente religioso al 'bene comune'. Essi possono finalmente e apertamente dichiararsi fascisti, completando un processo iniziato molto tempo fa, quando fin dall'inizio il capitalismo (1)

ha annegato nelle gelide acque del calcolo egoistico i sacri fremiti dell’esaltazione devota, dell’entusiasmo cavalleresco, della malinconia filistea. 

Nota
1. Si veda: Karl Marx e Friedrich Engels, Manifesto del partito comunista, Primo paragrafo. Borghesi e proletari.
'Malinconia filistea', una definizione degna di Shakespeare, o di Nietzsche, dei rigurgiti fascio-populisti dei manutengoli del capitale. 

K900

# Ho scritto che per uno scrittore inglese è quasi un obbligo professionale citare Shakespeare, e ne ho dato due esempi tratti da opere di Virginia Woolf e Charles Dickens.
Mi sono imbattuto in un caso simile leggendo un divertente romanzo di Pelham Grenville Wodehouse: Quattrini a palate (Big Money, 1931), Capitolo IX, 1:

Lord Biskerton all'im­prov­vi­so ap­pa­ri­re d'una zia nient'af­fat­to de­si­de­ra­ta, ri­ma­se im­pres­sio­na­to pres­sa­po­co come Ma­cbe­th all'ap­pa­ri­zio­ne del­lo spet­tro di Ban­quo.

La citazione fa riferimento all'Atto terzo, Scena quarta del Macbeth, quando al banchetto appare lo spettro di Banquo, appena assassinato dai sicari di Macbeth, che ne rimane spaventato a morte:

Avaunt! and quit my sight! let the earth hide thee!
Thy bones are marrowless, thy blood is cold;
Thou hast no speculation in those eyes
Which thou dost glare with!

 Théodore Chassériau, Macbeth vede lo spettro di Banquo (1854)

Via ! vattene dalla mia vista ! ti nasconda la terra !
Le tue ossa sono senza midollo, il tuo sangue è gelato; 
non hai sguardo in quegli occhi 
che truci mi guardano !

K899

# Com'è ovvio, lo scenario in cui l'intelligenza artificiale causa disastri nel mercato del lavoro è solo uno dei molti possibili; si può anche pensare ad essa come la messaggera di una Età dell'Oro in cui si lavorerà sempre meno, ma tutti e con stipendi adeguati, dato l'aumento della produttività generato dagli strumenti di IA. La scelta degli occhiali (neri o rosa) dipende dalle inclinazioni personali; per quanto mi riguarda credo di potermi definire, come Arthur Schopenhauer diceva di se stesso, un ottimista bene informato.
Al giorno d'oggi l'IA è abilissima nei compiti cognitivi di routine, nondimeno i suoi risultati hanno bisogno di un controllo finale da parte di operatori umani nella quasi totalità dei casi; gli uffici vuoti e bui, visto che i grandi modelli di linguaggio (LLM) non hanno bisogno di luce per funzionare, per adesso rimangono nel campo della fantascienza. Probabilmente l'IA verrà inserita gradualmente nel flusso operativo delle aziende, imponendo una collaborazione uomo-macchina che richiede però un'attitudine del tutto nuova verso i lavori d'ufficio. Questo può causare grandi difficoltà a chi per tutta la vita è stato abituato diversamente.
Riguardo poi al dominio oligopolistico dei quattro o cinque operatori su larga scala attualmente presenti nel mercato dell'IA, questo potrebbe essere scalfito, se non ribaltato dai modelli linguistici open source, ma non ci farei troppo affidamento: Linux non è mai riuscito a scalzare Windows come sistema operativo nei sistemi desktop. Attualmente il SO più usato al mondo è Android, grazie ai dispositivi mobili; esso deriva da Linux (in termini tecnici, il suo kernel è Linux), ma è saldamente sotto il controllo di Google. 
Esistono LLM open source (come Llama, che però è distribuito da Meta/Facebook, o Mistral). Addestrare un modello tuttavia richiede centinaia di milioni di dollari in potenza di calcolo ed enormi quantità di dati; si creano così invalicabili barriere all'ingresso, che rendono i modelli open source buoni tutt'al più per la ricerca accademica.
Grazie all'aumento di produttività consentito dall'IA, il prodotto interno lordo potrà senz'altro aumentare e questo è il Dottor Jeckill economico, diciamo così, ma che dire del Mister Hyde sociale e politico, ossia del reddito nazionale e di come esso viene distribuito ? In questo campo si potrebbero avere delle brutte sorprese, a meno di non essere inclini all’eresia di Caino e lasciare che il proprio fratello se ne vada al diavolo come meglio crede, come dice un personaggio di Stevenson.

K898

# L’ahiṃsā è un precetto fondamentale sia per l’induismo che per il buddismo; esso prescrive l’astenersi dall’offendere gli altri esseri viventi con atti, ma anche con pensieri e parole. In Occidente venne reso famoso da Gandhi col concetto di ‘non-violenza’.
Come sarebbe andata se, per liberare l’India dal dominio coloniale britannico, il Mahatma avesse adottato i metodi del Punitore (The Punisher), il famoso supereroe della Marvel, una specie di Batman devoto all’ultra-violenza dell’Alex dell’Arancia meccanica ?
Forse così:

K897

# Il capitolo più importante nel romanzo "Il mistero di Edwin Drood" di Charles Dickens è il quattordicesimo. Siamo alla vigilia di Natale, e Mr. Crisparkle, canonico della cattedrale, ha pensato che sia l'occasione adatta per far riconciliare Edwin e Neville Landless, dopo il loro scontro a causa di Rosa; li ha quindi invitati a cena. Tutto sembra essersi svolto per il meglio, ed al termine i due se ne vanno assieme, ma di Edwin in seguito non si hanno più notizie; Neville, che in precedenza aveva deciso di allontanarsi per un certo periodo da Cloisterham, viene arrestato in una locanda e rilasciato subito dopo, non trovandosi il cadavere della presunta vittima.
Un fatto che ha attirato l'attenzione di tutti i 'droodisti', nell'ultimo secolo e mezzo, è che il capitolo si intitola "Quando si ritroveranno questi tre ?", il che è una sorta di macabra ironia, da parte di Dickens, visto che uno di loro scompare, quindi è evidente che non si ritroveranno mai più. Un altro aspetto interessante è che la frase parafrasa le prime parole del "Macbeth", pronunciate da una strega: "When shall we three meet again / In thunder, lightning, or in rain?"
Ora, per uno scrittore inglese citare Shakespeare è una specie di obbligo professionale, quindi fin qui non ci sarebbe niente di strano, non fosse che la tragedia parla di un omicidio tramato da una coppia, Macbeth e sua moglie, la famigerata Lady Macbeth, in cui è la donna la vera istigatrice del misfatto, mentre l'uomo è solo il suo braccio riluttante. Forse Dickens intendeva riproporre lo stesso schema con la coppia di fratelli Neville e Helena Landless (se in effetti sono fratelli; dopotutto arrivano da Ceylon, e di loro si sa solo quanto dicono loro stessi). La dinamica del loro rapporto è identica a quella fra il personaggio shakespeariano e la temibile consorte: lo scrittore ci descrive fin dall'inizio Helena come un carattere mascolino, che domina il fratello e lo manovra a suo piacere; inoltre, prima che Neville si rechi all'incontro con Mr. Crisparkle ed Edwin, fra i due ha luogo una strana conversazione, di cui riporto alcune frasi:

– Vorrei non doverci andare, Helena, a questo pranzo.
– Ma c’è proprio tanto da preoccuparsene, mio caro? Pensa a quanto presto sarà fatto e finito.
– A quanto presto sarà fatto e finito! – ripete lui cupamente. – Sì. Ma la cosa non mi piace.
– Potrà esserci un momento difficile, ma sarà questione solo d’un momento. So che sei sicuro di te.
– Ah, – dice lui, – vorrei essere altrettanto sicuro di tutto il resto.
– Parli stranamente, Neville. Che cosa vuoi dire?
– Helena, non lo so. So soltanto che la cosa non mi piace. E l’aria, questa sera, è stranamente pesante e come morta.

Si può considerare incerto se stiano parlando del pranzo o dell'omicidio, che presto sarà 'fatto e finito' ("I have done the deed" dice Macbeth dopo il delitto). Neville ha dei dubbi, come Macbeth, ma alla fine si arrende alla volontà della sorella, come il re scozzese a quella della moglie. Nell'atto II, scena prima, Macbeth deve ancora commettere il delitto, ma il rimorso lo perseguita già, così osserva: "Nature seems dead", le stesse parole che usa Neville riferendosi all'aria pesante della sera in cui forse diverrà un assassino.
Oppure si può pensare che Dickens, dopo aver accumulato fin dall'inizio indizi sulla colpevolezza di John Jasper, abbia tentato in questo modo di sviare le indagini, per così dire. Non lo sapremo mai, ed anche questo contribuisce al fascino del "Mistero di Edwin Drood".