Cos'è Intel Hala Point, il più grande sistema neuromorfico al mondo

L’informatica neuromorfica, ne abbiamo già parlato in un altro articolo, è un campo innovativo che si occupa di sviluppare hardware e software ispirati al funzionamento del cervello e del sistema nervoso umani. Questa disciplina prende spunto dalle neuroscienze per progettare sistemi informatici che emulino le capacità cognitive del cervello umano, come il riconoscimento dei pattern, il processo decisionale, l’apprendimento e altre funzioni avanzate. In questo quadro si inserisce Hala Point, presentato da Intel come il più grande sistema neuromorfico al mondo.

L’idea è quella di replicare sul piano informatico le modalità di funzionamento dei neuroni e delle sinapsi, in modo da creare sistemi più efficienti e potenti per svolgere determinati compiti, come il riconoscimento vocale, l’elaborazione delle immagini, la robotica e altre applicazioni. L’informatica neuromorfica ambisce a superare le limitazioni dei computer tradizionali, progettando architetture che siano più adatte a determinati tipi di problemi.

Intel Hala Point: cos’è e come funziona il sistema neuromorfico che vuole rendere l’intelligenza artificiale più sostenibile

Utilizzando l’innovativo processore Intel Loihi 2, la società guidata da Pat Gelsinger ha annunciato oggi la costruzione del più grande sistema neuromorfico al mondo. Hala Point è un sistema che supporta lo sviluppo di nuove e più potenti intelligenze artificiale (IA), ispirate alla struttura e al funzionamento del cervello.

Mike Davies, direttore del Neuromorphic Computing Lab di Intel Labs, osserva che il costo in termini di potenza di calcolo e quindi di consumo di energia elettrica degli attuali modelli di intelligenza artificiale sta aumentando a ritmi insostenibili. Ne ha parlato di recente anche in CEO di ARM, Rene Has, che ha fatto due conti sull’energia consumata dai moderni modelli generativi.

Come spiega Davies, non è possibile prosegue su questa strada. L’industria ha bisogno di approcci fondamentalmente nuovi che consentano la scalabilità delle soluzioni di IA. “Per questo motivo abbiamo sviluppato Hala Point, che combina l’efficienza del deep learning con nuove funzionalità di apprendimento e ottimizzazione ispirate al cervello. Ci auguriamo che la ricerca con Hala Point porti a scoperte rivoluzionarie nell’efficienza e nell’adattabilità della tecnologia AI su grande scala“.

La ricerca è ancora in fase di sviluppo, ma si ritiene che i futuri Large Language Models (LLM) neuromorfici potrebbero portare a gigawattora di risparmio energetico eliminando la necessità di ottimizzazioni periodiche per via dei dataset con un volume in continua crescita.

Quanto è potente Hala Point: 1,15 miliardi di neuroni

Hala Point è il primo sistema neuromorfico su grande scala a dimostrare efficienze computazionali avanzate sui principali carichi di lavoro dell’intelligenza artificiale. La caratterizzazione mostra che può supportare 30 milioni di miliardi (quadrillion) di operazioni al secondo, o 30 PetaOPS, con un’efficienza che supera 15.000 miliardi di operazioni al secondo per Watt (TOPS/W) durante l’esecuzione di reti neurali profonde convenzionali.

Hala Point integra canali di calcolo, memoria e comunicazione in una struttura massivamente parallelizzata, fornendo un totale di 16 petabyte al secondo (PB/s) di ampiezza di banda di memoria, 11 PB/s di ampiezza di banda di comunicazione inter-core e 5,5 TB/s di ampiezza di banda di memoria. La piattaforma può elaborare oltre 380.000 miliardi di operazioni sinaptiche a 8 bit al secondo e oltre 240.000 miliardi di operazioni neuronali al secondo.

Il risultato conseguito dagli ingegneri di Intel supera i livelli raggiunti dalle architetture GPU e CPU tradizionali. Così, proprio grazie alle esclusive capacità di Hala Point, è possibile tracciare la strada per le future innovazioni nel campo dell’apprendimento continuo (continuous learning) in tempo reale. Ciò nell’ambito delle applicazioni chiamate a risolvere problemi scientifici e ingegneristici, nel campo della logistica, della gestione delle infrastrutture delle città intelligenti, nel segmento dei LLM e in generale delle soluzioni basate sull’IA.

I ricercatori dei Sandia National Laboratories hanno in programma di utilizzare Hala Point per la ricerca informatica avanzata. L’organizzazione si concentrerà sulla risoluzione di problemi di calcolo scientifico relativi alla fisica dei dispositivi, all’architettura dei computer e in generale alla disciplina informatica.

I processori neuromorfici Loihi 2

Cuore pulsante di Hala Point sono i processori neuromorfici Loihi 2: applicano principi informatici ispirati al cervello, quali reti neurali spiking (SNN) asincrone e basate su eventi, memoria e calcolo integrati e connessioni sparse in continua evoluzione, per ottenere miglioramenti di ordini di grandezza in termini di consumo energetico e prestazioni. I neuroni comunicano direttamente tra loro anziché comunicare attraverso la memoria, riducendo il consumo energetico complessivo.

Hala Point poggia il suo funzionamento su ben 1.152 processori Loihi 2 in uno chassis per data center da sei unità rack delle dimensioni di un forno a microonde. Come accennato in precedenza, il sistema supporta fino a 1,15 miliardi di neuroni e 128 miliardi di sinapsi distribuiti su 140.544 nuclei di elaborazione neuromorfica che consumano un massimo di 2.600 Watt di potenza. Il sistema include inoltre oltre 2.300 processori x86 per calcoli ausiliari.

Mentre i Sandia National Laboratories prevedono a breve di avvantaggiarsi dei benefici di Hala Point, Ericsson Research sta già utilizzando i processori Loihi 2 per ottimizzare l’efficienza delle infrastrutture di telecomunicazioni, come emerso durante il Mobile World Congress di quest’anno.

I sistemi basati su Loihi possono infatti eseguire l’inferenza IA e risolvere problemi di ottimizzazione utilizzando 100 volte meno energia, a velocità fino a 50 volte superiori, rispetto alle architetture CPU e GPU convenzionali.

Capacità neuronale simile a quella di una scimmia o di un gufo

Un sistema come Hala Point, applicato a modelli di rete neurale di ispirazione biologica, può eseguire offrire la sua piena capacità di 1,15 miliardi di neuroni, 20 volte più velocemente rispetto alle velocità biologiche in tempo reale.

Inoltre, sebbene Hala Point non sia pensato per la modellazione neuroscientifica, la sua capacità neuronale è circa equivalente a quella della corteccia cerebrale di un gufo o di una scimmia cappuccina.

I prossimi sviluppi consentiranno alle applicazioni di calcolo neuromorfico di superare i vincoli di potenza e latenza che limitano l’implementazione delle capacità di intelligenza artificiale nel mondo reale e in tempo reale.

Inoltre, grazie alla cooperazione di un ecosistema composto da oltre 200 membri (Intel Neuromorphic Research Community, INRC), tra cui importanti gruppi accademici, laboratori governativi, istituti di ricerca e aziende in tutto il mondo, Intel è al lavoro per ampliare i confini dell’intelligenza artificiale ispirata al cervello e far progredire questa tecnologia dalla ricerca sui prototipi all’effettiva realizzazione di prodotti commerciali leader del settore nel giro di alcuni anni.

Le immagini nell’articolo sono tratte dall’annuncio di Intel.