K907

# L'intelligenza artificiale sta già tramando il proprio superamento coll'intelligenza artificiale generale (AGI), un sistema in grado di svolgere qualsiasi compito cognitivo alla portata di un essere umano. 
I programmi attuali eccellono in ambiti ristretti, ma falliscono se devono uscirne: un'applicazione che gioca magistralmente a scacchi non è in grado di guidare un'auto e viceversa. L'intelligenza artificiale generale sarebbe in grado di apprendere nuovi compiti con la stessa flessibilità di un essere umano, trasferendo conoscenze tra ambiti diversi e operando in ambienti imprevedibili senza una formazione specifica precedente. 
Questo porterebbe ad un aumento esponenziale del progresso scientifico, ad esempio in campo sanitario e nello sviluppo di farmaci, ma aggraverebbe lo squilibrio nella distribuzione del reddito tra capitale e lavoro, con possibili disastrose conseguenze in campo sociale e perfino dell'ordine pubblico.
Esistono poi seri problemi di base, in ambito, diciamo così, etico e filosofico: come si comporterebbe un'intelligenza superiore alla nostra dovendo scegliere fra efficienza e benessere della popolazione umana ? Una volta assegnato un compito ad un'AGI, se decidesse che per portarlo a termine l'umanità è solo un intralcio andremmo incontro alla nostra estinzione; anche senza arrivare a questi estremi, le conseguenze di scelte esatte dal suo punto di vista artificiale, ma non dal nostro di esseri in carne ed ossa sarebbero potenzialmente catastrofiche. 
Si può sempre adottare un punto di vista ottimistico, e supporre che un'intelligenza superiore sarà anche più saggia, e quindi meno pericolosa, ma su tutto ciò l'incertezza è profonda.