Il pioniere dell'IA Eliezer Yudkowsky, cofondatore del Machine Intelligence Research Institute, avverte che "se qualcuno costruisce un'IA troppo potente, nelle condizioni attuali, mi aspetto che ogni singolo membro della specie umana e tutta la vita biologica sulla Terra muoia poco dopo".

Inoltre, 1.100 persone del settore, tra cui il cofondatore di Apple Steve Wozniak, lo scienziato cognitivo Gary Marcus e gli ingegneri di Amazon, DeepMind, Google, Meta e Microsoft, hanno firmato a marzo una lettera aperta in cui si chiede di sospendere per sei mesi lo sviluppo dei sistemi di IA più potenti (qualsiasi cosa "più potente di GPT-4").

In questo momento c'è una frenesia mediatica sull'IA e ogni giornalista che lavora è tenuto ad avere un'opinione in merito. Ho affrontato il compito con una certa riluttanza, come si può capire dal titolo che ho dato al pezzo.

Il mio articolo originale diceva che avrebbero dovuto frenare questo esperimento per un po', ma non ho dichiarato l'emergenza. Abbiamo sentito avvertire che l'intelligenza artificiale sta prendendo il sopravvento fin dal primo film di Terminator, 39 anni fa, ma non pensavo che fosse imminente.

Così ho fatto abbastanza ricerche per convincermi di sapere cosa stava succedendo e ho scritto 800 parole compiacenti per dire che non si tratta di un momento "Skynet". Mea culpa. Lo è. O almeno abbastanza vicino da attirare l'attenzione dell'asino.

Fortunatamente per me, ci sono persone molto intelligenti nella lista di distribuzione privata di questa rubrica, e una di loro mi ha risposto immediatamente dicendomi che mi sbaglio. Il cielo sta davvero per cadere.

Non ha detto questo. Ha detto che la generazione di macchine ChatGPT "è ora in grado di ideare utilizzando le Reti Generative Adversariali (GAN) in un processo effettivamente simile a quello umano". Cioè, possono avere idee originali e, trattandosi di computer, possono generarle ordini di grandezza più velocemente, attingendo a una base di conoscenze molto più ampia, rispetto agli esseri umani.

Il concetto chiave è quello di Artificial General Intelligence (AGI). L'intelligenza artificiale ordinaria è un software che segue le istruzioni e svolge bene compiti specifici, ma non rappresenta una minaccia per la posizione dominante dell'umanità nello schema delle cose. L'Intelligenza Generale Artificiale, invece, è in grado di svolgere compiti intellettuali al pari o meglio degli esseri umani. In generale, meglio.

Se si deve parlare di Grande Sostituzione, questa è quella da tenere d'occhio. Sei mesi fa non esisteva alcun software AGI al di fuori di alcuni laboratori. Ora, improvvisamente, qualcosa di molto vicino all'AGI è sul mercato - ed ecco cosa dice il mio informatore a riguardo.

"Gli esseri umani hanno evoluto l'intelligenza sviluppando cervelli sempre più complessi e acquisendo conoscenze nel corso di milioni di anni. Se si rende qualcosa abbastanza complesso, si sveglia e diventa autocosciente. Noi ci siamo svegliati. Si chiama 'emergenza'.

"ChatGPT ha caricato l'intero web nelle sue macchine, molto più di quanto un singolo umano sappia. Quindi, invece di impiegare milioni di anni per svegliarsi, le macchine stanno mostrando un comportamento emergente adesso. Nessuno sa come, ma siamo molto più vicini all'AGI di quanto lei affermi".

Una grande sfida che generalmente si riteneva fosse lontana decenni è arrivata improvvisamente alle porte e non abbiamo un piano per affrontarla. Potrebbe anche essere una minaccia esistenziale, ma non abbiamo ancora un piano. Ecco perché molti chiedono una pausa di sei mesi, ma sarebbe più sensato chiedere una pausa di un anno a partire da sei mesi fa.

ChatGPT è stato lanciato solo lo scorso novembre, ma conta già oltre 100 milioni di utenti e il sito web genera 1,8 miliardi di visitatori al mese. Tre sistemi di "IA generativa" rivali sono già sul mercato e la concorrenza commerciale significa che l'idea di una pausa o addirittura di un richiamo generale è solo una fantasia.

Il gatto è già fuori dal sacco: tutto ciò che il web sa, ChatGPT e i suoi rivali lo sanno. Questo include tutti i dibattiti che gli esseri umani hanno avuto sui pericoli dell'AGI e tutte le proposte che sono state fatte nel corso degli anni per strangolarla nella sua culla.

Dobbiamo quindi capire con urgenza dove e come sta emergendo l'AGI e come negoziare una forma di coesistenza pacifica con essa. Non sarà facile, perché non sappiamo ancora se si presenterà sotto forma di un'unica AGI globale o di molte altre diverse. (Sospetto la seconda ipotesi).

E chi è il "noi" qui? Non c'è nessuno autorizzato a parlare a nome della razza umana. Potrebbe andare tutto molto male, ma non c'è modo di evitarlo.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer