NVIDIA apre Run:ai, la piattaforma GPU diventa open source

NVIDIA rende disponibile il codice sorgente di Run, la piattaforma progettata per coordinare i carichi di lavoro dell’Intelligenza Artificiale e distribuire le risorse delle GPU negli ambienti Kubernetes.

La decisione amplia le possibilità per aziende, sviluppatori e fornitori di servizi cloud, che possono esaminare il software, modificarlo e integrarlo nelle proprie infrastrutture. Come annunciato da NVIDIA negli scorsi giorni, il rilascio comprende anche strumenti per programmare le attività di calcolo, amministrare le risorse condivise e gestire l’esecuzione dei modelli. Il codice è pubblicato su GitHub con licenza Apache 2.0.

NVIDIA Run, come funziona la piattaforma open source

Run opera sopra Kubernetes, senza sostituirlo, e permette di coordinare le attività di sviluppo, addestramento e inferenza dei modelli AI. Il suo compito è distribuire la capacità di calcolo disponibile tra gruppi di lavoro e applicazioni, evitando che le GPU rimangano inutilizzate mentre altre attività attendono risorse.

La piattaforma comprende un piano di controllo per l’invio dei carichi, la gestione delle risorse e il monitoraggio, oltre a servizi installati nei cluster. Gli amministratori possono interagire con il sistema attraverso un’interfaccia Web, un’interfaccia a riga di comando, le API REST e un server MCP, utilizzabile anche per collegare assistenti AI.

Il rilascio include quattro componenti modulari. KAI Scheduler gestisce la pianificazione dei carichi, considerando priorità, quote, topologia hardware e condivisione delle GPU. GPU Fractioning Operator consente invece di assegnare frazioni della memoria di una GPU ai singoli carichi, sfruttando le funzionalità native di CUDA 13.4. KAI Resource Management organizza le risorse secondo strutture aziendali, progetti e gruppi, mentre Workload Map offre un modello comune per descrivere e gestire differenti tipologie di carichi Kubernetes.

Questa suddivisione permette di adottare l’intera piattaforma oppure di integrare soltanto le funzioni necessarie. KAI Scheduler, inoltre, è stato contribuito alla Cloud Native Computing Foundation come progetto Sandbox, favorendo lo sviluppo attraverso una comunità aperta.

Distribuzione gratuita, integrazioni e limiti da conoscere

Le organizzazioni possono ottenere il codice dal repository ufficiale GitHub oppure installare la piattaforma integrata attraverso il catalogo NVIDIA NGC, che mette a disposizione un pacchetto Community con chart Helm. La licenza aperta consente di utilizzare il software senza acquistare un abbonamento commerciale, ma non comprende il supporto enterprise di NVIDIA.

Il progetto coinvolge anche fornitori che stanno integrando Run nelle rispettive offerte. Tra questi figurano Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud e vCluster. Le integrazioni puntano a semplificare la distribuzione della piattaforma, la gestione dei cluster e l’erogazione di servizi AI.

Per lo sviluppo locale, MarkTechPost segnala una procedura che utilizza un cluster Kubernetes simulato, utile per sperimentare senza disporre fisicamente di acceleratori NVIDIA. L’ambiente richiede comunque risorse hardware significative e non supporta Windows come sistema host nella configurazione descritta.

Rimane una distinzione importante per le imprese: rendere accessibile il codice non elimina le esigenze di manutenzione, sicurezza e gestione operativa. Chi sceglie l’installazione autonoma deve valutare competenze interne, infrastruttura disponibile e responsabilità sugli aggiornamenti. Per gli ambienti produttivi più complessi, le offerte commerciali e quelle dei partner possono continuare a rappresentare un’opzione per chi necessita di assistenza e servizi gestiti.