Agente o chatbot? La distinzione che decide il tuo budget AI

La maggior parte degli "agenti AI" pubblicizzati oggi sono chatbot con un branding migliore. Non è una posizione cinica — è un problema di scoping, e costa soldi veri alle aziende. Vediamo regolarmente aziende che pianificano il budget per un chatbot e si aspettano risultati da agente, o il contrario: commissionano una complessità da agente per un lavoro che un chatbot potrebbe svolgere a una frazione del costo. Fare chiarezza su questa distinzione, prima che venga scritta una singola riga di codice, è una delle cose più economiche che puoi fare in un progetto AI.

Un chatbot risponde. Un agente fa le cose.

Un chatbot prende un input e produce un output. Chiedi, risponde. Questo è l'intero ciclo: un turno, nessun obiettivo da scomporre, nessuno strumento esterno a cui accedere, nessuna memoria portata da uno scambio all'altro. Questo vale anche per chatbot molto sofisticati — un large language model può scrivere un'ottima risposta a una domanda complessa e restare comunque, architetturalmente, un chatbot se è tutto ciò che fa.

Un agente è costruito per perseguire un obiettivo attraverso più passi. Scompone quell'obiettivo in una sequenza di azioni, usando potenzialmente strumenti esterni come un database, un calendario, un'API interna, un software, che già utilizzi tiene traccia di ciò che ha già fatto e adatta il suo piano in base a ciò che osserva lungo il percorso, fino a raggiungere l'obiettivo o a determinare che non può. La differenza non sta in quanto è "intelligente" il modello sottostante. Sta nel fatto che il sistema sia configurato per agire e adattarsi, o solo per rispondere.

Perché questo conta più di quanto sembri

Questa distinzione non è accademica. È il principale driver di scope, costo e rischio in un progetto AI:

• Un progetto chatbot è tipicamente una build ben definita e circoscritta: collega un modello alla tua knowledge base o ai tuoi contenuti di supporto, affina i prompt, vai in produzione. Costo prevedibile, timeline prevedibile, failure mode prevedibili (principalmente: dà una risposta inutile o sbagliata, e un umano la corregge).
• Un progetto agente è un altro animale. Ha bisogno di un'architettura di memoria, di un insieme definito di strumenti che il sistema può usare, di guardrail su cosa può fare autonomamente rispetto a cosa richiede l'approvazione umana, e soprattutto di un modo per osservarlo e correggerlo quando percorre la strada sbagliata attraverso più passi invece di uno solo. Questo significa più ingegneria, più testing e più supervisione continuativa. Può anche generare molto più valore, perché può effettivamente completare il lavoro invece di descrivere solo come farlo.

Nessuno dei due è "migliore". Risolvono problemi diversi, a fasce di prezzo diverse, con profili di rischio diversi. L'errore è comprarne uno credendo di comprare l'altro.

Un modo rigoroso per distinguerli

Non è solo una distinzione di marketing — i ricercatori hanno cercato di definirla con precisione. In "Cognitive Architectures for Language Agents" (2023, arXiv:2309.02427), Theodore Sumers, Shunyu Yao, Karthik Narasimhan e Thomas Griffiths propongono CoALA, un framework che descrive cosa serve realmente a un'architettura di agente AI, attingendo alle scienze cognitive e all'AI simbolica classica. Tre componenti, nello specifico:

1. Una memoria modulare — non solo un log di chat, ma memoria di lavoro, memoria episodica (cosa è successo prima), memoria semantica (fatti e conoscenze) e memoria procedurale (come fare le cose), mantenute separate e indirizzabili.
2. Uno spazio di azione strutturato diviso tra azioni esterne (chiamare uno strumento, interrogare un sistema, compiere un passo nel mondo reale) e azioni interne (ragionare, recuperare dalla memoria, imparare da ciò che è successo).
3. Un processo decisionale generale: la logica che decide, ad ogni passo, quale azione intraprendere successivamente, in base all'obiettivo e a ciò che è stato osservato finora.

Un LLM puro, da solo, non ha niente di tutto questo: nessuno spazio di azione esterno, nessuna memoria strutturata persistente. Diventa un agente solo quando viene inserito in un ciclo di percezione, ragionamento e azione, con accesso reale agli strumenti."

Il test delle tre domande

Prima di approvare un progetto etichettato "agente AI," chiediti:

• Ricorda quello che ha già fatto, attraverso più di uno scambio?
• Può agire — non solo descrivere cosa dovrebbe essere fatto, ma farlo davvero?
• Decide autonomamente il passo successivo, invece di aspettare un nuovo prompt ogni volta?

Tre sì, stai guardando un agente, con l'ingegneria e la supervisione che questo implica. Qualsiasi no, probabilmente stai guardando un chatbot — che potrebbe essere esattamente ciò di cui hai bisogno, a una frazione del costo e della complessità, se il lavoro è genuinamente di risposta a domande.

Vale la pena decidere prima di fare lo scope, non dopo

Le aziende che ottengono di più dall'AI non sono quelle che costruiscono il sistema più complesso. Sono quelle che abbinano correttamente il sistema al lavoro — e c'è denaro reale nel farlo bene fin dall'inizio. Un chatbot di supporto che deve solo rispondere a domande non ha bisogno di un'infrastruttura da agente. Un processo che richiede genuinamente un'esecuzione multi-passo attraverso i tuoi sistemi interni — riconciliare record, fare follow-up su più strumenti, adattarsi quando qualcosa non va come previsto non sarà risolto da un chatbot meglio ottimizzato, per quanto buone sembrino le risposte.

Se non sei sicuro di quale dei due abbia davvero bisogno la tua azienda, è esattamente il tipo di domanda che una breve conversazione di scoping risolve rapidamente, prima che tu impegni il budget nella direzione sbagliata. Prenota una chiamata strategica gratuita di 30 minuti avrai una risposta chiara in ogni caso.