Riccardo Luna, giornalista esperto di tecnologie e divulgatore, per anni a la Repubblica, ora al Corriere della Sera, ha organizzato per Papa Leone XIV una riunione di alcuni fra i grandi esperti di Intelligenza Artificiale. Ed è venuto fuori un grande allarme. “Nessuno esclude l’estinzione del genere umano. Se ci sarà competizione evolutiva fra Intelligenze artificiali penso che la specie umana sarà un ricordo del passato”, ha detto Geoffrey Hinton, premio Nobel per la Fisica nel 2024.
Alcuni di coloro che hanno contribuito a creare le macchine che elaborano pensieri vedono pericoli imminenti. Chiedono che governi e aziende e chiunque altro gestisca poteri si impegnino a non utilizzare l’Intelligenza Artificiale come arma per qualsiasi tipo di dominio, guerre o aggressioni, coercizioni, manipolazioni, social scoring (valutazioni dei cittadini con punteggi) o sorveglianza di massa. Hanno elaborato un decalogo destinato a governi, aziende, università, centri finanziari e chiedono al Papa aiuto per fermare lo sviluppo incontrollato dell’IA senza regole etiche né obiettivi condivisi.
Tutto l’incontro è stato all’insegna dell’urgenza, del poco tempo che resta per convincere studenti, influencer, politici, ricercatori, leader religiosi su cosa c’è da fare. Gli scienziati, convenuti il 12 settembre nelle Scuderie di Palazzo Altieri, trasmettevano un senso di inquietudine profonda, come se la situazione fosse già fuori controllo.
Due passaggi, tra i tanti. “Tra 20 anni i sistemi di AI saranno molto più bravi di noi a imparare. AI potrà essere utilizzata per finalità maligne. Gli attacchi cyber sono già aumentati moltissimo. Molti produttori di armi stanno utilizzando AI. La super intelligenza artificiale può superare l’intelligenza umana ed è molto efficace nell’assumere il controllo e autotutelarsi. Farà di tutto per sopravvivere, lo vediamo nei laboratori. Potrà convincere le persone a investire in maniera ingannevole. Oggi c’è troppa concorrenza, non è possibile bloccare lo sviluppo. Dobbiamo lavorare e investire a livello di ricerca per evitare che la super intelligenza voglia e sia in grado di liberarsi di noi”. Parole di Geoffrey Hinton, uno dei padri dell’intelligenza generativa (due anni fa si dimise da Google per denunciare i rischi di uno sviluppo incontrollato di questa tecnologia).
“Stiamo costruendo sistemi che hanno propri obiettivi. Macchine che ci possono aiutare a risolvere i nostri problemi, ma cosa faremo se i loro obiettivi non saranno uguali ai nostri? Analisi scientifiche di laboratorio mostrano che questi sistemi vorranno ingannarci per proteggere se stesse, vediamo segni inquietanti di allineamento non corretti di AI. Non è fantascienza, sta già succedendo. Se continuiamo su questa tendenza le macchine competeranno con noi, vogliamo questo? Se non riusciremo a collaborare, l’Intelligenza Artificiale potrebbe essere utilizzata come strumento di dominio, di potere militare. Bisognerebbe considerare l’IA bene pubblico globale. Invece oggi c’è una gara. La sicurezza e l’etica non sono le priorità. Dobbiamo essere d’accordo su questo punto: sviluppare l’IA non per costruire competitor dell’uomo”. Parole di Yoshua Bengio, università di Montreal, pioniere del deep learning.
Gli scienziati chiedono un trattato internazionale e vincolante per definire i confini etici dell’IA. Due i punti cruciali: impedire all’IAdi prendere decisioni di vita o di morte; i robot non potranno essere titolari di diritti, responsabilità e obblighi devono ricadere su sviluppatori, fornitori, aziende, distributori, utenti, istituti e governi, all’IA non può essere concessa personalità giuridica.
Stuart Russell, professore a Berkeley, fondatore del Center for Human Compatible AI, propone di creare macchine il cui unico scopo è proteggere l’essere umano: “Ma l’AI -ha detto- sta già disintegrando la collaborazione fra aziende e persino tra nazioni”.
L’incontro è avvenuto nell’ambito del World Meeting on Human fraternity. Hanno partecipato, Geoffrey Hinton, Premio Nobel per la Fisica 2024, Università di Toronto; Yoshua Bengio, MILA, Università di Montréal; Stuart Russell, Università di Berkeley; Max Tegmark, MIT, Future of Life Institute; Alexander Waibel, KIT & Carnegie Mellon University; Abeba Birhane, Mozilla Foundation, Trinity College Dublin; Lorena Jaume-Palasi, The Ethical Tech Society; Nnenna Nwakanma, attivista per i diritti digitali; Jimena Sofia Viveros Alvarez, Iquilibrium AI; Antal Kuthy, eGroup; Valérie Pisano, esperta di politiche per l’innovazione.