Il modello AI Ornith-1.5 punta forte all'utilizzo su smartphone

Nelle scorse ore, l’organizzazione nota come Ornith ha rilasciato il suo modello di AI, ovvero Ornith-1.5.

Questo è stato proposto con tre versioni distinte, ovvero Ornith-1.5-397B, Ornith-1.5-35B-A3B e Ornith-1.5-9B, ognuna delle quali con funzioni diverse.  La variante più complessa, ovvero 1.5-397B, ha ottenuto punteggi di benchmark equivalenti a quelli di Claude Opus 4.8. Inoltre, la versione quantizzata di Ornith-1.5-9B è dichiarata eseguibile su smartphone, un punto di forza su cui l’organizzazione vuole puntare per la diffusione del modello AI in un settore già saturo di proposte.

Tre architetture per scenari diversi di Ornith-1.5

Ornith-1.5-397B è un modello Mixture of Experts con 397 miliardi di parametri totali, progettato per competere con i sistemi proprietari di fascia alta. Ornith-1.5-35B-A3B, dal canto suo, mantiene 35 miliardi di parametri ma ne attiva soltanto 3 miliardi durante l’elaborazione di ciascun token, grazie a un meccanismo di routing che seleziona gli esperti più adatti alla richiesta. Ornith-1.5-9B è invece un modello Dense nel quale tutti i 9 miliardi di parametri partecipano al calcolo.

Questa distinzione tra parametri totali e parametri attivi è cruciale per comprendere i compromessi della famiglia. Il modello da 397B rappresenta il vertice prestazionale, come già accennato. La versione da 35B offre invece un equilibrio interessante tra capacità rappresentativa ed efficienza computazionale, superando in alcune prove modelli Dense di dimensioni maggiori.

Auto-miglioramento e controllo del reward hacking

Il cuore tecnico di Ornith-1.5 è il ciclo di self-improvement ereditato da Ornith-1.0 e portato a un livello superiore. Durante l’addestramento, il modello non impara esclusivamente a produrre soluzioni, ma costruisce anche le procedure che lo aiutano a trovarle. Queste procedure, chiamate scaffold, possono includere memoria, gestione degli errori e modalità di orchestrazione degli strumenti. Il risultato di una traiettoria viene quindi utilizzato per ottimizzare non soltanto la risposta finale, ma anche il metodo impiegato per arrivarci.

Un sistema capace di modificare le proprie procedure introduce però il rischio concreto di reward hacking, ovvero la possibilità che il modello massimizzi il punteggio senza risolvere realmente il problema. Ornith affronta questo problema separando ciò che il modello può modificare da ciò che rimane sotto il controllo dell’ambiente di valutazione. Un monitor deterministico controlla operazioni come l’accesso a percorsi riservati o la modifica degli script di verifica, mentre un LLM judge congelato funge da ulteriore livello di controllo per catturare strategie che soddisfano il criterio numerico senza corrispondere alla qualità reale della soluzione.

Esecuzione locale e disponibilità open source

All’estremo opposto della famiglia si trova Ornith-1.5-9B-Mobile, distribuito in forma quantizzata e pensato esplicitamente per gli smartphone. La quantizzazione riduce la precisione numerica utilizzata per rappresentare i pesi, comprimendo il modello a circa 1,5 GB e consentendo l’esecuzione su hardware mobile con risorse limitate. Il compromesso è inevitabile: una rappresentazione a precisione inferiore può comportare una perdita di qualità, ma rende possibile portare modelli che sarebbero difficili da eseguire integralmente in memoria su dispositivi molto più limitati.

Ornith-1.5 è distribuito come modello open source con licenza MIT, disponibile attraverso Hugging Face in diverse varianti quantizzate. La licenza MIT riduce sensibilmente le restrizioni legate all’utilizzo e alla redistribuzione rispetto ai servizi proprietari accessibili esclusivamente tramite API. La disponibilità dei pesi non elimina però i requisiti hardware: un modello da 397B resta un modello di dimensioni enormi anche quando utilizza un’architettura MoE, mentre la variante 9B quantizzata è molto più adatta a un impiego locale.