Nasce Open Secure AI Alliance: NVIDIA e Linux Foundation per AI più sicura

La sicurezza dell’Intelligenza Artificiale evolve con la nascita della Open Secure AI Alliance, iniziativa guidata da NVIDIA insieme alla Linux Foundation e a oltre quaranta organizzazioni tecnologiche.

L’obiettivo non è creare un singolo prodotto, ma costruire un ecosistema open source dedicato alla protezione di modelli, agenti AI e infrastrutture software. La proposta arriva in un momento in cui gli agenti autonomi diventano sempre più diffusi e potenti, rendendo necessario disporre di strumenti verificabili e controllabili direttamente dalle aziende. L’approccio punta quindi a ridurre la dipendenza da soluzioni proprietarie, favorendo trasparenza, auditabilità e capacità di adattamento alle nuove minacce.

Open Secure AI Alliance: un ecosistema condiviso tra industria e open source

L’alleanza riunisce attori di primo piano come le già citate NVIDIA e Linux Foundation, figurano nomi importanti come Microsoft, IBM, Red Hat, Cisco, Cloudflare e Hugging Face, insieme a numerose aziende attive nella sicurezza e nel cloud. Questa varietà consente di combinare competenze che spaziano dall’hardware alla cybersicurezza, fino allo sviluppo software open source.

Il progetto si basa su iniziative già esistenti come Akrites e sulle attività della OpenSSF, con l’obiettivo di migliorare la gestione delle vulnerabilità e la loro divulgazione responsabile. La scelta di un modello aperto consente alle organizzazioni di analizzare e modificare gli strumenti, integrandoli direttamente nelle proprie infrastrutture senza vincoli legati a piattaforme chiuse. Questo approccio favorisce una maggiore collaborazione tra aziende e comunità di ricerca, accelerando l’evoluzione delle tecniche di difesa.

Strumenti aperti per proteggere modelli e agenti

Ogni membro contribuisce con tecnologie specifiche che, integrate tra loro, formano una piattaforma di sicurezza modulare. NVIDIA introduce NOOA, un framework pensato per rendere gli agenti AI più tracciabili e verificabili. Microsoft porta MDASH, sistema multi modello per l’analisi automatica delle vulnerabilità, mentre Hugging Face contribuisce con Safetensors, formato progettato per evitare l’esecuzione di codice non autorizzato durante il caricamento dei modelli.

IBM e Red Hat partecipano con Lightwell, soluzione orientata alla sicurezza della supply chain open source attraverso patch firmate digitalmente. HPE aggiunge SPIFFE e SPIRE, strumenti per la gestione dell’identità crittografica nei sistemi distribuiti. L’integrazione di queste tecnologie copre diversi aspetti critici, dalla distribuzione sicura dei modelli all’autenticazione dei servizi, fino alla protezione del ciclo di sviluppo.

La spinta verso l’open source nasce dalla convinzione che la sicurezza non possa basarsi esclusivamente su sistemi chiusi accessibili via API. Strumenti trasparenti permettono agli operatori di verificare il comportamento degli agenti AI, sviluppare contromisure più rapide e rispondere agli incidenti con maggiore efficacia.