In futuro sarà impossibile controllare una super-intelligenza artificiale?

Secondo gli scienziati l’umanità non sarà in grado, in futuro, di controllare una super-intelligenza artificiale perché impossibilitata a comprenderla

Super-intelligenza artificiale fuori controllo in futuro. Ad aprire la questione sono stati alcuni scienziati, che hanno spiegato come una super-intelligenza informatica di alto livello sarebbe umanamente impossibile da gestire per sua stessa natura.
Il mondo dell’IA ha affascinato e continua ad affascinare gran parte del mondo cinematografico e letterario, se non altro perché regala un’occasione per figurarsi scenari di un futuro che sembra essere ancora fuori dalla nostra portata. All’entusiasmo della scoperta si accompagna però – quasi sempre – anche il timore della distopia. Quali potrebbero essere le derive negative di una tecnologia troppo avanzata? Fino a che punto l’essere umano sarebbe in grado di mantenere il controllo sulle sue stesse creazioni?
A rispondere a questi dilemmi è stato un team di ricercatori, ma il responso non è dei più rassicuranti.

Secondo gli scienziati, una super-intelligenza artificiale (che esisterà con molta probabilità in un prossimo futuro) non potrebbe in alcun modo essere gestita da alcun essere umano. Sarebbe infatti una contraddizione in termini. Controllare una superintelligenza richiederebbe innanzitutto una simulazione di quest’ultima, ma se non siamo in grado di comprenderla è impossibile anche simularla. Regole come “Non causare danni agli esseri umani” non possono essere impostate se non comprendiamo il tipo di scenari che un’IA presenterà. Insomma, una volta che un sistema informatico funziona a un livello superiore alla portata dei nostri programmatori, non possiamo più stabilire limiti.

“Una super-intelligenza è multiforme, e quindi potenzialmente in grado di mobilitare una diversità di risorse al fine di raggiungere obiettivi che sono potenzialmente incomprensibili per gli esseri umani, per non parlare di controllabili” si legge nello studio. L’IA, in uno stato super-intelligente, potrebbe contenere tutti i possibili programmi per computer contemporaneamente nella sua memoria, il che rende inutilizzabili algoritmi di contenimento. Un metodo per insegnare l’etica all’IA consisterebbe nel limitare le capacità della super-intelligenza, ad esempio escludendola da parti di Internet o da determinate reti. Tuttavia, il nuovo studio rifiuta anche questa idea, suggerendo che limiterebbe la portata dell’intelligenza artificiale: “Se non la useremo per risolvere problemi oltre la portata degli umani, perché crearla?“.