Un nuovo paradigma AI sta emergendo tra gli sviluppatori: l’ingegneria del contesto. Questo approccio si distingue dall’ingegneria dei prompt e dalla “vibe coding”, concentrandosi sulla progettazione sistematica e strutturata dell’ambiente in cui un modello linguistico di grandi dimensioni (LLM) opera. Come sottolineato da Andrej Karpathy, co-fondatore di OpenAI, l’ingegneria del contesto è “dieci volte più efficace dell’ingegneria dei prompt e cento volte più efficace della vibe coding”.
Mentre l’ingegneria dei prompt si concentrava sulla formulazione di istruzioni concise per guidare i modelli AI, l’ingegneria del contesto amplia questa visione. Non si tratta più solo di come formulare una richiesta, ma di come strutturare l’intero ambiente informativo che consenta al modello di comprendere e risolvere compiti complessi. Questo include la gestione della memoria, la conservazione dello stato, l’integrazione di conoscenze strutturate e l’uso di strumenti che permettano al modello di interagire con l’ambiente circostante.
L’ingegneria del contesto riconosce che un modello AI non è intrinsecamente in grado di comprendere o risolvere un problema senza un adeguato supporto informativo. Pertanto, è essenziale progettare pipeline che forniscano al modello informazioni pertinenti, provenienti dalla cronologia dell’utente, interazioni precedenti, chiamate a strumenti esterni e database interni, il tutto in un formato facilmente digeribile da un sistema basato su Transformer.
Per facilitare l’implementazione dell’ingegneria del contesto, sono stati sviluppati strumenti e framework specializzati. Ad esempio, LangGraph offre agli sviluppatori un controllo dettagliato su cosa viene fornito al modello, quali passaggi vengono eseguiti in anticipo e dove vengono archiviati gli output. Questo approccio consente una progettazione più fine e mirata delle interazioni con i modelli AI.
L’ingegneria del contesto ha anche implicazioni oltre l’aspetto tecnico. Secondo Ethan Mollick, professore associato alla Wharton School, non si tratta solo di creare input utili per un LLM, ma di codificare il funzionamento interno di un’azienda. Questo include la struttura dei report, il tono della comunicazione e i processi interni che definiscono la logica aziendale. In questo senso, l’ingegneria del contesto è tanto una questione culturale quanto tecnica.