Altro che Prompt Engineering: il futuro dell’AI si gioca tutto sul Contesto

Negli ultimi anni, l’attenzione di sviluppatori, aziende e creativi si è concentrata su una nuova e promettente abilità: il Prompt Engineering. La capacità di scrivere prompt ben formulati, chiari e dettagliati sembrava la chiave per sbloccare tutto il potenziale dei Large Language Models (LLM) come GPT, Claude o Gemini. L’abbiamo sottolineato anche nell’articolo sull’intelligenza artificiale (AI) spiegata facile: un prompt ben congegnato porta a risposte più pertinenti e ben argomentate, evidenziando i motivi tecnici alla base di questa affermazione.

Oggi, con l’evoluzione degli agenti autonomi, delle architetture multi-step e delle applicazioni AI più complesse, questo approccio inizia a mostrare i suoi limiti. Il vero problema non è più “come” formulare la richiesta, ma “quale contesto” fornire all’AI perché possa davvero capire cosa le stiamo chiedendo di fare.

È qui che nasce il concetto di Context Engineering: un cambio di paradigma che ridefinisce l’interazione con i modelli linguistici. Non più solo prompt ben scritti, ma sistemi dinamici che sanno fornire le informazioni giuste, nel formato giusto, al momento giusto.

L’evoluzione oltre il Prompt: nasce l’Ingegneria del Contesto

Philipp Schmid, Senior AI Relation Engineer presso Google DeepMind, ha pubblicato un’analisi davvero illuminante. La vera sfida non è più solo “cosa scrivi al modello”, ma quali dati, strumenti e strutture informazionali prepari affinché l’AI possa risolvere il compito in modo efficace.

L’ingegnere di Google DeepMind cita Tobi Lütke, il CEO e fondatore di Shopify, noto per il suo approccio innovativo all’integrazione dell’intelligenza artificiale nei flussi di lavoro aziendali.

Lütke descrive il Context Engineering come “l’arte di fornire tutto il contesto necessario affinché il compito risulti plausibilmente risolvibile dal modello LLM“.

Con l’adozione crescente di agenti intelligenti, i fallimenti non derivano più dalla debolezza del modello, ma dalla mancanza o cattiva progettazione del contesto. Schmid parla di “fallimenti di contesto“.

Che cos’è il Contesto?

Per comprendere il nuovo approccio, bisogna ampliare radicalmente la propria idea di “prompt”. Il contesto è tutto ciò che il modello ha a disposizione prima di generare una risposta.

Componenti del contesto possono essere i seguenti:

• Istruzioni e System Prompt: definiscono il comportamento dell’AI. Spesso comprendono esempi, regole, stili di risposta.
• Prompt dell’utente: la richiesta immediata da soddisfare.
• Stato e memoria a breve termine: la cronologia della conversazione.
• Memoria a lungo termine: conoscenze persistenti accumulate, preferenze, sintesi, dati memorizzati.
• Informazioni recuperate (RAG): documenti, database o informazioni recuperate e aggiornate tramite API, integrate dinamicamente.
• Strumenti disponibili: elenco delle funzioni o API che l’agente può usare (es. invia_email, controlla_disponibilità).
• Formato di output: definizioni strutturate per la risposta (es. JSON, markdown, HTML).

Da una risposta mediocre a un’”esperienza magica”

Schmid fa anche un esempio concreto ma, allo stesso tempo, semplicissimo in modo tale da essere immediatamente comprensibile.

Supponiamo di aver approntato un sistema basato su agenti AI in grado di gestire il contenuto delle email in arrivo. L’email contiene la richiesta dell’utente, in questo caso la seguente:

Ehi, ci sei domani per un rapido confronto?

Un agente “scadente” risponderebbe con educazione, ma senza valore aggiunto:

Grazie per il messaggio. Domani per me va bene. A che ora pensavi?

Un agente evoluto che prima di generare la risposta, raccoglie e struttura il contesto, si comporta invece così come segue:

• Legge il calendario (e ad esempio rileva che l’agenda è tutta occupata).
• Analizza le email precedenti per mantenere un tono informale.
• Riconosce il mittente come partner chiave.
• Usa gli strumenti send_invite e send_email.

In questo secondo caso, il risultato prodotto è il seguente:

Ehi Jim! Domani sono pieno fino all’ultimo minuto. Giovedì mattina libero, se per te va bene. Ti ho mandato l’invito, fammi sapere.

Il codice non è cambiato. La “magia” è nella progettazione del contesto.

Cos’è l’Ingegneria del Contesto?

Se con il Prompt Engineering ci si limita alla scrittura di un messaggio ottimizzato, l’Ingegneria del Contesto è un sistema dinamico. È un’architettura che raccoglie, filtra e struttura tutte le informazioni, strumenti e regole rilevanti per aiutare il modello a raggiungere il suo obiettivo.

Il contesto non è quindi un prompt fisso, ma un “assemblaggio” costruito in tempo reale prima della chiamata LLM. È dinamico e adattivo: si adatta alla richiesta dell’utente. Se stai prenotando un volo, serve l’agenda; se chiedi un riepilogo, servono i dati recenti.

L’Ingegneria del Contesto combina dati e capacità operative (informa il modello e gli fornisce gli strumenti per agire come API, funzioni e tool). Inoltre, cura il formato quanto il contenuto: un riassunto ben scritto vale più di una lista di eventi disordinata. Una struttura JSON ben definita evita ambiguità.

Perché è fondamentale

La vera sfida nella creazione di agenti AI davvero utili non è trovare un nuovo modello o addestrare una nuova rete. È capire come orchestrare dati, strumenti e memoria per generare risposte pertinenti, efficaci e “umane”.

L’Ingegneria del Contesto rappresenta l’infrastruttura cognitiva che permette agli LLM di “ragionare”, agire e rispondere in maniera efficace, affidabile e coerente con l’obiettivo di ogni singola attività.

E adesso che Google ha ceduto a Linux Foundation il controllo sul protocollo A2A, sviluppato per far parlare tra loro gli agenti AI usando uno standard e quindi una piattaforma comuni, l’idea di puntare seriamente sul contesto è davvero ciò che gli anglosassoni definiscono un game changer, ossia un elemento che cambia radicalmente le regole del gioco e fa compiere un deciso balzo in avanti.