Oggigiorno, l'intelligenza artificiale generale (AGI) è diventata una parola chiave centrale sia nella comunità scientifica che in quella industriale. Solo pochi anni fa, molti credevano che raggiungere l'AGI avrebbe richiesto almeno 10-50 anni, o addirittura pensavano che fosse impossibile. Oggigiorno, opinioni così pessimistiche sono rare. Tuttavia, rispetto all'entusiasmo del pubblico per questa ondata di cambiamento tecnologico, molti studiosi in prima linea e leader del settore nel campo dell'IA ritengono che ci sia ancora molta strada da fare prima che l'IA attuale si trasformi in AGI.
Secondo Qi Yuan, un illustre professore alla Fudan University, direttore dello Shanghai Artificial Intelligence Research Institute (SAIRI) e fondatore della società Trustworthy Large Model "Infinite Lightyear", "Una delle più alte manifestazioni dell'AGI è la scoperta di leggi sconosciute nel mondo complesso. In parole povere, dovrebbe essere un 'AI Einstein'. Ciò richiede che creiamo grandi modelli affidabili 'gray box' che combinano previsioni probabilistiche 'black box' con ragionamenti logici 'white box'; e che promuoviamo la ricerca fondamentale, la coltivazione dei talenti e le applicazioni pratiche attraverso la profonda integrazione di tecnologia e industria, costruendo così un ecosistema innovativo per l'intelligenza scientifica".
Alla recente Conferenza mondiale sull'intelligenza artificiale (WAIC) del 2024 e al Global Governance of Artificial Intelligence High-Level Meeting, SAIRI ha ospitato con successo un forum tematico intitolato "Intelligenza artificiale: cambiamento di paradigma nella ricerca scientifica e nello sviluppo industriale". Questa è stata la prima apparizione di questa nuova istituzione di ricerca presso WAIC. SAIRI può essere vista come un modello per l'esplorazione di Shanghai di un ecosistema di intelligenza scientifica "1+1+N" guidato dall'innovazione. Questo modello coinvolge SAIRI come hub centrale responsabile della pianificazione strategica complessiva, dell'integrazione delle risorse e della ricerca e innovazione tecnologica chiave, in collaborazione con un'altra "1" Fudan University e diverse "N" università, istituti di ricerca, aziende tecnologiche, team di innovazione e istituti di investimento, per promuovere congiuntamente la ricerca scientifica, la coltivazione dei talenti, il trasferimento tecnologico e l'innovazione e l'aggiornamento industriale.
Lo standard per l'AGI dovrebbe essere la creazione di un "AI Einstein".
Da una prospettiva tecnica, modelli sempre più grandi con più parametri porteranno all'AGI? Ad oggi, né dal punto di vista della tecnologia AI in sé né dal punto di vista del consumo energetico, i grandi modelli basati sull'architettura autoregressiva del trasformatore sono sufficienti per portare all'AGI. L'AI deve sviluppare nuovi grandi modelli affidabili "gray box". Questa conclusione si basa sugli anni di esperienza pratica di Qi Yuan sia nel mondo accademico che in quello industriale.
Dieci anni fa, con l'idea di "rendere utile l'IA", Qi Yuan ha guidato un team per aumentare il sistema di apprendimento automatico di base di Alibaba da 2 milioni di parametri a diverse centinaia di milioni di parametri per la prima volta, ottenendo un miglioramento significativo nelle prestazioni aziendali e dimostrando la trasformazione integrata di dati, algoritmi e capacità ingegneristiche. Questa è esattamente la manifestazione della Scaling Law, che è ampiamente discussa nella comunità dell'IA oggi.
Qi Yuan ricorda che il team ha effettivamente assaporato la dolcezza della Scaling Law: dopo aver aumentato i parametri del modello di cento volte, l'effetto complessivo è migliorato notevolmente. "Ma ora penso: perché non abbiamo reso i modelli di IA ancora più grandi allora? Perché ci siamo fermati quando avremmo potuto fare un passo avanti?" ha detto. "Anche miliardi di parametri in modelli di grandi dimensioni non sono sufficienti; dobbiamo muoverci verso centinaia di miliardi, trilioni o anche di più. A quel tempo, sia il mondo accademico che l'industria non avevano la potenza di calcolo e, persino nel settore industriale, raggiungere una potenza di calcolo così elevata richiedeva costi molto elevati, per non parlare del mondo accademico".
Il motivo per cui lo standard per l'AGI dovrebbe essere quello di creare un "AI Einstein", spiega Qi Yuan, è che deve essere sia efficace che intelligente. In primo luogo, Einstein ha scoperto le "nuvole della fisica dei primi del XX secolo" attraverso alcuni punti dati chiave. L'AGI dovrebbe anche essere in grado di scoprire e comprendere le leggi sconosciute del mondo complesso. Tuttavia, gli attuali grandi modelli non possono raggiungere questo obiettivo. Ad esempio, sebbene il modello visivo di grandi dimensioni SORA simuli il mondo fisico a un livello senza precedenti, costruisce comunque il mondo tridimensionale basandosi sulla simulazione del mondo bidimensionale ed è ben lungi dal comprendere a fondo il mondo fisico. In secondo luogo, c'è il problema del consumo energetico. Il cervello umano funziona a circa 15 watt, mentre una singola GPU può raggiungere il picco di diverse centinaia di watt, per non parlare dei cluster di migliaia o decine di migliaia di GPU necessari per addestrare modelli generali di grandi dimensioni. Al momento, se continuassimo a utilizzare le architetture esistenti, il consumo energetico richiesto sarebbe astronomico, rendendo difficile raggiungere l'obiettivo di essere efficaci e intelligenti.
"AI Einstein" è anche un obiettivo chiave di AI for Science (AI4S). L'intelligenza scientifica ha svolto un ruolo importante nell'accelerare la soluzione di equazioni fisiche note, ma deve anche combinare regole note con dati per ridurre la forte dipendenza dai dati e dalla potenza di calcolo, migliorare l'accuratezza del ragionamento e della previsione e proporre nuove teorie scientifiche basate su regole di conoscenza adattate ai dati. Ciò è in linea con l'obiettivo a lungo termine di Qi Yuan presso la Fudan University e SAIRI: utilizzare l'intelligenza artificiale per comprendere il mondo complesso e scoprire leggi sconosciute.
I grandi modelli di dominio verticale affidabili della "scatola grigia" potenziano vari settori.
Quali problemi devono essere risolti affinché i grandi modelli diventino nuove forze produttive dagli strumenti di intelligenza artificiale? Secondo Qi Yuan, il settore dei grandi modelli affronta molte sfide comuni, rendendo difficile l'allineamento di tecnologia, prodotti ed esigenze di mercato.
"Il problema più grande con l'implementazione di grandi modelli oggi è che sembrano utili a prima vista ma falliscono nell'uso pratico", spiega Qi Yuan. I grandi modelli linguistici odierni prevedono principalmente la parola successiva in base a più parole precedenti, ma questo approccio non è adatto per un ragionamento rigoroso multi-step. "Il linguaggio è uno strumento per la comunicazione, non per il pensiero". Di recente, un articolo pubblicato da istituzioni tra cui il MIT nella principale rivista accademicaNaturaha sottolineato che il linguaggio è uno strumento potente per trasmettere la conoscenza culturale, e potrebbe essersi co-evoluto con le nostre capacità di pensiero e ragionamento, riflettendo la complessità della cognizione umana. Tuttavia, il linguaggio non genera la complessità del ragionamento.
Per affrontare l'inaffidabilità, la bassa interpretabilità e gli elevati costi dei grandi modelli esistenti, una soluzione efficace è quella di combinare il ragionamento probabilistico delle reti neurali con il calcolo simbolico logico, simile alla combinazione di pensiero veloce basato sull'istinto e pensiero lento basato sul ragionamento logico descritta nel libro del premio Nobel Daniel KahnemanPensiero veloce e lento"Questo può essere definito un modello di grandi dimensioni 'scatola grigia'", ritiene Qi Yuan. Combinare il calcolo simbolico con le reti neurali in un modello di grandi dimensioni affidabile "scatola grigia" può ridurre le "allucinazioni" dell'IA e risolvere problemi professionali in campi verticali, potenziando così vari settori e liberando la produttività dei modelli di grandi dimensioni.
Cos'è un modello di grandi dimensioni affidabile "scatola grigia"? "In origine, il deep learning era considerato una 'scatola nera'. Ora, combinando il ragionamento logico con il deep learning, abbiamo una 'scatola grigia'", spiega Qi Yuan. "La 'scatola nera' originale lasciava le persone ignare del processo tramite cui i dati producevano risultati, mentre il modello di grandi dimensioni 'scatola grigia', supportato dal ragionamento logico, consente alle persone di 'conoscere sia i risultati sia le ragioni alla base di essi'. Da un'altra prospettiva, i modelli di grandi dimensioni 'scatola grigia' possono utilizzare il deep learning per ridurre le regole che non sono conformi ai dati osservati nel mondo reale".
Qi Yuan afferma che affinché l'IA svolga un ruolo fondamentale in scenari complessi in vari settori, che si tratti di finanza e assicurazioni, energia eolica ed energetica, spedizioni marittime e farmaceutica, è necessario combinare conoscenze sistematiche del settore, logica di ragionamento e meccanismi decisionali con modelli di grandi dimensioni. Il modello di grandi dimensioni "scatola grigia" non è solo la direzione per l'AGI, ma anche un potente strumento per penetrare in profondità nei campi verticali e risolvere realmente i problemi del mondo reale. "Da una prospettiva industriale, questa comprensione è molto intuitiva", illustra Qi Yuan. I medici non devono diventare avvocati, né gli avvocati devono diventare esperti di investimenti. Ogni ruolo professionale dovrebbe concentrarsi sul proprio campo e migliorare i propri strumenti di produttività. Da un punto di vista tecnico, se un modello di grandi dimensioni apprende troppo compiti irrilevanti, potrebbe subire una "dimenticanza catastrofica". Ad esempio, se Li Bai dovesse passare tutto il suo tempo a fare contabilità invece di scrivere poesie, la sua ispirazione poetica potrebbe gradualmente svanire. "Abbiamo già osservato che quando si addestrano modelli di grandi dimensioni per domini verticali, se il modello apprende troppe funzioni non correlate, può interferire con le sue capacità originali. Pertanto, sviluppare modelli di grandi dimensioni 'grey box' efficaci per domini verticali è di grande valore nell'implementazione industriale."
"Credo che i grandi modelli 'grey box' svolgeranno un ruolo sempre più importante nel percorso verso l'AGI e nell'implementazione di settori verticali. Da una prospettiva metodologica bayesiana, combinano la nostra conoscenza nota con informazioni nascoste nei dati per scoprire nuove leggi e risolvere problemi scientifici e industriali", afferma Qi Yuan. In futuro, "AI Einstein" potrebbe anche essere "AI Buffett".
Collegare la filiera dell'innovazione e costruire un ecosistema di innovazione basato sull'intelligenza scientifica.
Alla World Artificial Intelligence Conference di quest'anno, il team di Qi Yuan ha lanciato grandi modelli finanziari e medici affidabili con centinaia di miliardi di parametri. Questi grandi modelli di dominio verticale hanno superato il modello da un trilione di parametri GPT-4 Turbo di OpenAI nei test, attirando ancora una volta l'attenzione del settore sull'implementazione di grandi modelli.
"Le attuali innovazioni dell'intelligenza artificiale sono guidate non solo da innovazioni nei principi di base, ma anche da approcci basati sui prodotti che affrontano le esigenze della società. La società richiede non solo la pubblicazione di articoli teorici o innovazioni nei modelli di business, ma anche la profonda integrazione di innovazioni tecnologiche e industriali basate sui primi principi. Una volta che questi due elementi sono combinati, possiamo raggiungere acque più blu", afferma Qi Yuan.
Il mondo accademico e l'industria hanno missioni diverse. Il mondo accademico esplora nuovi fenomeni, mentre l'industria risolve principalmente problemi pratici. Un problema comune in tutto il mondo è che gli istituti di ricerca devono affrontare molti problemi di innovazione tecnologica, ma se trascurano la produzione e le esigenze della società, si trovano ad affrontare due carenze: una mancanza di vera pressione competitiva, che ostacola il perfezionamento delle tecnologie innovative, e l'assenza di un feedback di mercato efficace per guidare la ricerca tecnologica.
A tal fine, Qi Yuan ha cercato a lungo di collegare la catena di innovazione di "università-istituti di ricerca-startup" per creare un buon ecosistema di innovazione che consideri sia la tecnologia sottostante che le esigenze del mercato. La direzione del prodotto dovrebbe essere guidata dalla domanda e dagli scenari del mercato, costruendo la competitività del core del prodotto attraverso l'innovazione fondamentale.
Fondata nel 2023, SAIRI è impegnata in innovazioni originali AI for Science che combinano conoscenza e dati. Di recente, SAIRI ha lanciato la serie Fuxi di grandi modelli meteorologici 2.0 per applicazioni in nuove energie, assicurazioni, gestione urbana e ha avviato la Smart Meteorological Innovation Ecosystem Alliance. Questa alleanza mira a promuovere gradualmente l'applicazione industriale dei grandi modelli meteorologici della serie Fuxi 2.0. I grandi modelli affidabili "gray box" stanno anche progredendo nell'implementazione del prodotto, con Infinite Lightyear, l'azienda affidabile di grandi modelli fondata da Qi Yuan, già affermata.
Per promuovere ulteriormente l'ecosistema dell'innovazione dell'intelligence scientifica, è stata lanciata la seconda World Scientific Intelligence Competition, organizzata congiuntamente da SAIRI e dalla Fudan University e guidata da più dipartimenti tra cui lo Shanghai Science and Technology Committee, la Shanghai Development and Reform Commission, lo Shanghai Economic and Information Technology Committee e lo Shanghai Education Committee. La competizione offre milioni di premi per reclutare partecipanti globali per esplorare i campi di frontiera dell'intelligence scientifica. Inoltre, SAIRI ha sviluppato una piattaforma di dati scientifici che copre i dati scientifici multimodali, che supporta l'intera catena dalla raccolta e dall'elaborazione dei dati alla gestione e alla modellazione, garantendo un'elaborazione efficiente dei dati, affidabilità e comunicazioni sicure. Sulla base di questa piattaforma, SAIRI e i suoi partner hanno creato diversi set di dati scientifici di alta qualità per le scienze della vita, le scienze dei materiali, le scienze atmosferiche e altri campi, fornendo risorse preziose per la ricerca sull'intelligence scientifica. Inoltre, SAIRI ha avviato la Global Scientific Data Ecosystem Alliance, con membri iniziali tra cui China Telecom Corporation, COSCO Shipping Insurance Captive, Shanghai Lingang New Area Cross-Border Data Technology e più di dieci altre entità. L'alleanza mira a creare una piattaforma aperta e condivisa di risorse di big data di ricerca multidisciplinari e globali attraverso la collaborazione tra governo, imprese, università e istituti di ricerca.
"Sia nella ricerca scientifica che nell'industria, non dovremmo innovare per il gusto dell'innovazione. Speriamo di costruire future AGI e applicazioni che risolvano problemi del mondo reale", afferma Qi Yuan.




