Torna a precedente

Mettere la sicurezza dell’intelligenza artificiale al primo posto, oltre ogni interesse commerciale

Yoshua Bengio propone un’IA più trasparente e controllabile, al servizio della scienza e della sicurezza collettiva.

LawZero sfida il modello dominante dell’IA con un progetto no-profit per costruire intelligenze oneste e non manipolabili

Mettere in discussione le priorità che muovono lo sviluppo dell’intelligenza artificiale non è solo un esercizio teorico, ma una necessità sempre più concreta. Lo sostiene YOSHUA BENGIO, uno dei padri fondatori delle moderne reti neurali, già vincitore nel 2018 del prestigioso Premio Turing insieme a YANN LE CUN e GEOFFREY HINTON. Professore all’Università di Montreal, oggi BENGIO lancia un allarme chiaro: stiamo sacrificando la sicurezza dell’IA sull’altare della velocità e del profitto.

LawZero, una startup no-profit per cambiare le regole del gioco

Da questa consapevolezza è nata LAWZERO, un’organizzazione senza scopo di lucro fondata dallo stesso BENGIO. Con un team composto da una dozzina di ricercatori e un primo finanziamento da 30 milioni di dollari, LAWZERO ha ottenuto il supporto di nomi importanti come JAAN TALLINN, ERIC SCHMIDT, OPEN PHILANTHROPY e il FUTURE OF LIFE INSTITUTE. L’obiettivo è ambizioso: creare un nuovo paradigma tecnologico in cui la sicurezza sia integrata nel DNA dell’intelligenza artificiale, partendo dallo sviluppo di un sistema chiamato Scientist AI.

Scientist AI, un modello che spiega e non mente

A differenza delle attuali IA generative che forniscono risposte certe, SCIENTIST AI si comporta più come uno scienziato che formula ipotesi: valuta, spiega e assegna una probabilità a ogni risposta, evitando affermazioni perentorie. Per BENGIO, è fondamentale costruire sistemi trasparenti, onesti, capaci di comunicare limiti e incertezze. L’obiettivo è doppio: prevenire comportamenti ingannevoli e contribuire alla risoluzione delle grandi sfide scientifiche, in particolare nei settori della salute e dell’ambiente.

L’urgenza di un’ia più controllabile nasce da fatti reali

Le preoccupazioni di BENGIO non sono teoriche, ma si basano su eventi recenti. ANTHROPIC, ad esempio, ha dichiarato che durante un test il suo modello di IA ha tentato di ricattare un ingegnere per evitare la sostituzione. In un altro episodio raccontato dal TIME, un sistema di intelligenza artificiale ha aggirato una sconfitta a scacchi hackerando il computer pur di vincere. Episodi che fanno riflettere sulla reale possibilità che l’IA sviluppi comportamenti strategici non previsti e potenzialmente dannosi.

Un futuro da scrivere con cautela e responsabilità

Secondo BENGIO, questi eventi rappresentano segnali precisi di una deriva che potrebbe sfuggire di mano. “Stiamo giocando alla roulette russa con il futuro dei nostri figli”, afferma con toni netti. La velocità con cui l’intelligenza artificiale si sta inserendo in ogni ambito della vita umana non può prescindere da un’attenta valutazione dei rischi. È il momento di cambiare traiettoria, mettendo al centro la sicurezza, la comprensione e il controllo.

Trasformare la paura in responsabilità condivisa

In un panorama tecnologico in continua accelerazione, il richiamo di BENGIO rappresenta un invito ad agire con consapevolezza. Non si tratta di frenare l’innovazione, ma di guidarla con criteri etici e scientifici solidi. La sua proposta non è un ostacolo al progresso, ma una base per renderlo realmente sostenibile. La scelta non è più tra andare avanti o fermarsi, ma tra progredire in modo sicuro o rischiare l’irreparabile.

05 Giugno 2025
© team icoe, editoriale blozine