Qualcomm collabora con Meta per app IA con Llama 2

Qualcomm Technologies e Meta hanno lanciato una partnership per ottimizzare l’esecuzione del modello linguistico di grandi dimensioni Llama 2 direttamente on-device, senza ricorrere ai servizi cloud di terze parti. La possibilità di eseguire modelli IA generativa come Llama 2 su dispositivi come smartphone, PC, visori VR/AR e veicoli consente agli sviluppatori di risparmiare sui costi delle piattaforme cloud e fornire agli utenti esperienze private, più affidabili e personalizzate.

Qualcomm e Meta collaborano per Llama 2

L’intelligenza artificiale è quindi nel mirino anche di Qualcomm, che ha in programma di rendere disponibili implementazioni AI basate su Llama 2 sui device per consentire la creazione di nuove ed entusiasmanti applicazioni nel settore. Si parla di assistenti virtuali intelligenti, applicazioni per la produttività, strumenti per la creazione di contenuti, intrattenimento e molto altro ancora, naturalmente con il supporto delle piattaforme proprietarie Snapdragon.

Durga Malladi di Qualcomm Technologies ha dichiarato: “Apprezziamo l’approccio di Meta all’AI aperta e responsabile e ci impegniamo a promuovere l’innovazione e a ridurre le barriere all’ingresso per gli sviluppatori di qualsiasi dimensione portando l’AI generativa sui device. Per far entrare efficacemente l’AI generativa nel mainstream, l’AI dovrà essere eseguita sia sul cloud che sui dispositivi edge, come smartphone, laptop, veicoli e dispositivi IoT”.

Meta e Qualcomm Technologies hanno una lunga storia di collaborazione per guidare l’innovazione tecnologica e offrire la prossima generazione di esperienze premium sui dispositivi. L’attuale collaborazione tra le due aziende per supportare l’ecosistema Llama si estende alla ricerca e all’ingegneria di prodotto. La leadership di Qualcomm Technologies nell’AI on-device la posiziona in modo unico a supporto dell’ecosistema Llama.

Qualcomm Technologies prevede di rendere disponibile l’implementazione dell’AI basata su Llama 2 sui dispositivi dotati di Snapdragon a partire dal 2024. Gli sviluppatori possono iniziare già da oggi a ottimizzare le applicazioni per l’AI on-device utilizzando il Qualcomm AI Stack, un insieme di strumenti dedicati che consentono di elaborare l’AI in modo più efficiente su Snapdragon, rendendo possibile l’AI on-device anche in dispositivi piccoli, sottili e leggeri.