Raspberry Pi AI Kit: intelligenza artificiale disponibile come modulo aggiuntivo

Il 4 giugno 2024, la fondazione Raspberry ha annunciato la disponibilità di un kit opzionale destinato ai possessori della scheda Raspberry Pi 5. Si tratta di Raspberry Pi AI Kit, una soluzione che porta le elaborazioni legate all’intelligenza artificiale a un livello molto più elevato.

Sviluppato in collaborazione con Hailo, il kit offre un modo accessibile per sfruttare le abilità di inferenza ad alte prestazioni e massima efficienza energetica in una vasta gamma di applicazioni di IA. Nessun dato è condiviso online perché l’attività di computing avviene usando esclusivamente le risorse locali.

Cos’è e come funziona Raspberry Pi AI Kit

Raspberry Pi AI Kit – commercializzato al prezzo di 70-80 euro – comprende due componenti principali, spesso utilizzati con i dispositivi Raspberry Pi. Il primo è una scheda HAT+ (Hardware Attached on Top) con connettore M.2 per dispositivi PCI Express, che include fori di montaggio per diverse dimensioni M.2 (2230 e 2242). Il secondo, vero e proprio protagonista dell’offerta, è un modulo M.2 che ospita un acceleratore AI Hailo-8L. Quest’ultimo va connesso con la scheda HAT+ utilizzando il connettore PCIe.

Installato su una Raspberry Pi 5, il kit consente di sviluppare rapidamente applicazioni di intelligenza artificiale complesse. Ad esempio, è possibile attivare abilità di visione artificiale operando in tempo reale con bassa latenza e requisiti di potenza ridotti.

Reti neurali all’avanguardia per il rilevamento di oggetti, segmentazione semantica e di istanze, stima della posa e riconoscimento facciale (per citare solo alcuni esempi) funzionano interamente sul coprocessore Hailo-8L, lasciando libera la CPU della Raspberry Pi 5 per altre elaborazioni.

Principali caratteristiche

Il Raspberry Pi AI Kit offre prestazioni pari a 13 TOPS (Tera Operations per Second) tramite una connessione PCIe 3.0 a corsia singola che funziona a 8 Gbps. Basti pensare che la NPU (Neural Processing Unit) di un processore Intel Core Ultra di ultima generazione (Meteor Lake) non supera gli 11 TOPS.

Il sistema proposto da Raspberry, infatti, si integra con gli altri componenti offerti dalla fondazione ed è compatibile con un’ampia schiera di telecamere. L’acceleratore Hailo-8L è in grado di gestire più reti neurali su una singola telecamera o abilitare l’utilizzo contemporaneo di una singola rete neurale con due telecamere.

Software e integrazione

Una delle sfide principali nella creazione di applicazioni di visione artificiale basate sull’intelligenza artificiale è la complessità software dell’integrazione del sottosistema della telecamera con il framework AI. Gli ingegneri Raspberry hanno lavorato per semplificare questo processo il più possibile.

La suite di applicazioni rpicam-apps include un modello di post-elaborazione per l’integrazione dell’inferenza in tempo reale sulla pipeline della telecamera. Utilizzando le librerie di post-elaborazione Hailo Tappas, è possibile mettere a punto applicazioni avanzate basate sull’IA con poche centinaia di righe di codice C++.

Picamera2 è un framework sviluppato per la gestione delle fotocamere e telecamere sui dispositivi Raspberry Pi, progettato per essere utilizzato con la libreria Python. Il team di Raspberry anticipa che anche Picamera2 permetterà presto di avvantaggiarsi degli stessi livelli di integrazione.

Come provare l’acceleratore AI Hailo-8L

L’installazione del software è molto semplice: basta caricare alcuni pacchetti tramite il package manager apt, riavviare e cominciare con le demo AI fornite da Raspberry Pi stessa.

Il primo comando da eseguire è sudo apt install hailo-all. In questo modo si installano il driver e il firmware Hailo, il middleware HailoRT, le librerie core di post-elaborazione Hailo Tappas, il software rpicam-apps.

Dopo il riavvio (sudo reboot), si può digitare l’istruzione seguente per verificare che tutto funzioni correttamente:

hailortcli fw-control identify

La restituzione di un output “parlante”, conferma che l’AI Kit e le sue dipendenze software sono configurate come si deve. Ancora, digitando quanto segue, si avvia la telecamera collegata con la Raspberry Pi. Una finestra di anteprima, che resta visualizzata per 10 secondi, è ulteriore conferma del fatto che è tutto pronto:

rpicam-hello -t 10s

Il comando seguente permette di clonare il progetto GitHub che permette di gestire la post-elaborazione:

git clone --depth 1 https://github.com/raspberrypi/rpicam-apps.git ~/rpicam-apps

A questo punto è possibile avviare il riconoscimento degli oggetti, la stima della posa, la segmentazione delle immagini e altro ancora. Alcuni esempi dei risultati ottenibili, sono visibili nei video pubblicati su YouTube da Raspberry Pi. Le istruzioni per procedere sono riportate in questa guida ufficiale.