Google porta l'AI su Chrome con LiteRT.js accelerazione WebGPU

L’esecuzione di modelli di Intelligenza Artificiale direttamente nel browser sta diventando una componente sempre più strategica per chi sviluppa applicazioni veloci, riservate e indipendenti dal cloud.

In questa direzione si inserisce LiteRT.js, la nuova libreria open source di Google che porta il runtime LiteRT sul Web e consente l’inferenza locale tramite WebGPU, WebNN e WebAssembly.

Il progetto amplia l’eredità di TensorFlow Lite, oggi LiteRT, con l’obiettivo di offrire un runtime unificato per mobile, desktop e browser. La scelta risponde a esigenze molto attuali: ridurre la latenza, limitare la circolazione dei dati sensibili e garantire continuità d’uso anche senza connessione Internet.

Che cos’è LiteRT.js

LiteRT.js è il runtime Web della piattaforma LiteRT e permette di caricare ed eseguire nel browser modelli nel formato .tflite. Google lo distribuisce come pacchetto NPM e ne prevede anche l’uso via CDN, con componenti Wasm e un’integrazione pensata per sfruttare l’accelerazione hardware quando disponibile.

Dal punto di vista pratico, questo significa che gli sviluppatori possono lavorare con un formato coerente lungo tutta la filiera di distribuzione, senza dover cambiare paradigma quando passano dal training o dalla conversione all’esecuzione sul web. La compatibilità con modelli provenienti da PyTorch, JAX e TensorFlow rafforza l’idea di una piattaforma comune, più semplice da mantenere e più facile da integrare nei flussi già esistenti.

Accelerazione e compatibilità

Uno degli elementi più rilevanti di LiteRT.js è la presenza di più backend di esecuzione. Quando browser e hardware lo consentono, il runtime può usare WebGPU per accedere alla GPU e migliorare le prestazioni dell’inferenza. Google indica anche il supporto a WebNN, che mira a sfruttare le unità dedicate all’AI presenti nei chip più recenti.

Se queste tecnologie non sono disponibili, LiteRT.js ricade automaticamente su CPU e WebAssembly con XNNPack, così da mantenere un livello di compatibilità ampio anche su sistemi meno avanzati. Questa architettura rende il framework adatto sia a scenari sperimentali sia ad applicazioni prodotte con requisiti più concreti di affidabilità.

Impatto sul Web AI

L’interesse per LiteRT.js non riguarda solo la parte tecnica, ma anche il modo in cui può cambiare lo sviluppo delle applicazioni AI sul Web. La possibilità di eseguire modelli in locale riduce la dipendenza dai servizi remoti e semplifica la costruzione di strumenti che trattano dati personali o sensibili.

Per casi d’uso come assistenti intelligenti, classificazione di immagini, riconoscimento vocale e funzioni di produttività, il vantaggio è duplice: tempi di risposta più rapidi e maggiore controllo sui dati.