K903

# La visione rosea degli effetti dell'intelligenza artificiale sulla nostra società ha un suo contraltare pessimistico, per non dire catastrofico. C'è infatti chi ipotizza che l'IA avrà come risultato addirittura l'estinzione dell'umanità.
Già all'inizio del 2023 centinaia di esperti in intelligenza artificiale firmarono una petizione concepita in questi termini:

Limitare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale tanto quanto affrontare altre minacce che potrebbero travolgere l’umanità, come pandemie e guerre nucleari. 

Non è uno scherzo: fra i firmatari erano compresi Geoffrey Hinton, premio Nobel per la Fisica nel 2024, e Yoshua Bengio, che ha condiviso il premio Turing (il premio Nobel per l'informatica) con Hinton per il contributo dato allo sviluppo dell’apprendimento profondo, o deep learning. Il fatto è che l'IA sta compiendo passi da gigante, ed oggi siamo dove nel 2015 si prevedeva saremmo stati tra trenta o cinquant'anni, ma nello stesso periodo non è aumentata la nostra comprensione di come funzioni davvero, né siamo più vicini a risolvere il cosiddetto 'problema dell'allineamento', ossia a raggiungere la certezza che gli scopi dell'IA siamo allineati a quelli degli esseri umani.
Gli attuali metodi di addestramento (ad esempio la cosiddetta 'discesa del gradiente') non garantiscono, o meglio, non possono concettualmente garantire che l'IA avrà preferenze simili alle nostre, possiamo solo metterla in funzione e sperare che vada bene. C'è da chiedersi cosa accadrebbe se un'ASI (Artificial Super Intelligence) evolvesse fino a poter compiere ricerca su sé stessa, in modo da crescere esponenzialmente e così superarci in ogni ambito finora ritenuto 'umano'. 
A questo punto forse ci considererebbe come noi consideriamo gli scimpanzé, una specie bisognosa di protezione, e questo sarebbe il caso migliore. Niente garantisce che fra i suoi obiettivi, alieni al punto che non possiamo nemmeno immaginarli, sia compresa la nostra sopravvivenza, se non come animali domestici; presto però potrebbe considerarci un impiccio sulla via dei suoi scopi umanamente inconcepibili, destinandoci all'estinzione.