La nuova intelligenza artificiale che "mette a rischio l'umanità": cosa è il progetto Q*
Dietro il licenziamento di Sam Altman alla guida di OpenAI ci sarebbe un allarme diffuso dai ricercatori dell'azienda: che cosa sappiamo
Il licenziamento dell'amministratore delegato di OpenAI Sam Altman si arricchisce di nuovi elementi e spunta un progetto di intelligenza artificiale chiamato "Q*" (si pronuncia "Q Star"), che "metterebbe a rischio l'umanità". Le rivelazioni arrivano da fonti interne all'azienda che ha ideato ChatGPT e sono state riportate da Reuters. Se confermate, queste informazioni aiuterebbero a ricostruire l'inaspettato licenziamento dell'amministratore delegato Altman, poi tornato al suo posto dopo una lettera firmata da 700 dipendenti a favore della sua reintegrazione e anche grazie all'intervento di Microsoft, che detiene il 49 per cento delle quote di OpenAI.
La lettera dei ricercatori e l'avvertimento sul progetto Q*
Tutto sarebbe successo quattro giorni prima del licenziamento di Altman. Diversi ricercatori avrebbero scritto una lettera al consiglio di amministrazione avvertendo di un nuovo tipo di intelligenza artificiale che, a loro avviso, avrebbe la capacità di poter minacciare l'umanità.
Le fonti sentite da Reuters sostengono che Q* possa essere una svolta nella ricerca della startup per quella che è conosciuta come intelligenza generale artificiale (Agi). OpenAI definisce l'Agi come sistemi autonomi che superano gli esseri umani nei compiti "economicamente più preziosi". Di questo progetto i ricercatori hanno parlato in una lettera che però Reuters ha specificato che non è stata in grado di rivedere una copia della lettera. Lo staff che ha scritto la lettera non ha risposto alle richieste di commento.
Il nuovo modello pare sia in grado di risolvere alcuni problemi matematici, con grossi margini di miglioramento futuri. Attualmente, l'intelligenza artificiale generativa è efficace nella scrittura e nella traduzione, riuscendo, ad esempio, a prevedere statisticamente la parola successiva, con le risposte alle domande che le vengono poste che possono variare notevolmente.
Ma le nuove conquiste matematiche, dove la risposta davvero giusta sarebbe una sola, avicinerebbe le capacità di ragionamento dell'intelligenza artificiale a quella umana.
Il progetto Q*: che cosa sappiamo sui "pericoli"
Le nuove scoperte del progetto Q* potrebbero essere applicate, ad esempio, a nuove ricerche scientifiche. A differenza di una calcolatrice che può risolvere un numero limitato di operazioni, l'Agi potrebbe generalizzare, apprendere e comprendere.
Nella loro lettera al consiglio i ricercatori hanno segnalato anche il potenziale pericolo, senza però specificare gli esatti problemi di sicurezza indicati. Da tempo gli informatici discutono sul pericolo rappresentato dalle macchine altamente intelligenti, ad esempio se decidessero che la distruzione dell'umanità è nel loro interesse.
I ricercatori hanno anche segnalato il lavoro di un team di "scienziati dell'intelligenza artificiale", la cui esistenza è stata confermata da più fonti. Il gruppo, formato combinando i precedenti team "Code Gen" e "Math Gen", stava esplorando come ottimizzare i modelli di intelligenza artificiale esistenti per migliorare il loro ragionamento ed eventualmente eseguire lavori scientifici, ha detto una delle persone a Reuters.
Continua a leggere su Today.it...
