AI model router, perché le aziende li vogliono sempre di più

Con l’aumento degli agenti di intelligenza artificiale, le imprese si trovano ad affrontare costi sempre più elevati per l’utilizzo dei modelli. Per questo cresce l’interesse verso gli AI model router, software che scelgono automaticamente il modello più adatto in base a costi, prestazioni e velocità.

Nessuno ama ritrovarsi con una bolletta fuori controllo. Eppure è quanto sta accadendo a molte aziende che stanno adottando agenti di intelligenza artificiale come Claude Code e Codex per automatizzare attività sempre più complesse.

A differenza di un chatbot tradizionale, questi strumenti possono lavorare in autonomia per ore, richiamando ripetutamente modelli linguistici di grandi dimensioni e consumando milioni di token. Il risultato è che un programmatore può avviare un’attività, allontanarsi dalla scrivania e ritrovarsi, poche ore dopo, con costi di inferenza nell’ordine di migliaia di dollari.

Secondo una recente ricerca, il 62% delle organizzazioni dichiara che una spesa imprevista legata all’intelligenza artificiale ha influenzato una decisione aziendale nell’ultimo anno. Tra queste, il 40% ha dovuto coinvolgere il consiglio di amministrazione, il 33% ha congelato temporaneamente gli investimenti e il 25% ha rinviato o cancellato un progetto AI.

Cosa sono gli AI model router

Per rispondere a questo problema stanno emergendo gli AI model router, software progettati per scegliere automaticamente il modello di intelligenza artificiale più adatto a ogni attività, bilanciando costi, velocità e prestazioni.

L’idea è semplice: non tutte le richieste richiedono il modello più potente e costoso. Un router può indirizzare le operazioni più semplici verso modelli economici e riservare quelli di frontiera ai compiti realmente complessi.

Secondo le aziende del settore, questo approccio può ridurre i costi di inferenza anche del 30%, senza compromettere la qualità dei risultati.

Un mercato in piena espansione

La crescente domanda ha favorito la nascita di numerosi operatori specializzati.

Tra questi c’è OpenRouter, che offre un’unica piattaforma di accesso a centinaia di modelli di intelligenza artificiale ed è stata recentemente indicata come possibile obiettivo di acquisizione da parte di Stripe con una valutazione fino a 10 miliardi di dollari.

Not Diamond utilizza invece algoritmi che selezionano automaticamente il modello migliore per ciascuna richiesta, mentre LiteLLM permette alle imprese di costruire e gestire una propria infrastruttura di routing.

Anche i grandi gruppi tecnologici stanno integrando funzionalità analoghe nelle proprie piattaforme. Salesforce, Databricks, Cursor, Ramp, Meta e la startup video Runway stanno sviluppando sistemi capaci di orchestrare più modelli AI contemporaneamente.

Gli agenti AI fanno esplodere la domanda

Secondo Chris Clark, cofondatore e Chief Operating Officer di OpenRouter, la svolta è arrivata con la diffusione degli agenti autonomi come Claude Code.

Tra il 2024 e il 2025, spiega, i vertici aziendali hanno spinto con decisione verso l’adozione dell’intelligenza artificiale. Solo quest’anno, però, gli agenti hanno iniziato a svolgere attività realmente autonome, utilizzando strumenti esterni, richiamando diversi sistemi e completando flussi di lavoro complessi.

Questa evoluzione ha però un costo: gli agenti consumano molti più token rispetto alle tradizionali conversazioni con un chatbot.

“Molte aziende non avevano previsto un budget adeguato”, osserva Clark. “Si era diffusa una sorta di approccio massimalista.”

Per OpenRouter questo rappresenta però un’opportunità. Secondo Clark, nel prossimo futuro i token AI diventeranno una delle principali voci di spesa operativa delle imprese.

Non sempre serve il modello più potente

Secondo Clark, molte attività sono già arrivate a un punto di “saturazione dell’intelligenza”: utilizzare il modello più avanzato non migliora significativamente il risultato rispetto a modelli meno costosi.

Oggi, invece, molte aziende utilizzano automaticamente il modello più potente per qualsiasi operazione, con un evidente spreco di risorse.

Anche Tomás Hernando Kofman, CEO di Not Diamond, sottolinea come scegliere il modello sbagliato possa risultare costoso. Un modello più piccolo, infatti, potrebbe impiegare più tempo per completare lo stesso lavoro, aumentando comunque i costi complessivi.

Per questo i sistemi di routing analizzano la complessità della richiesta, la cronologia della conversazione e altri parametri per decidere quale modello utilizzare in ogni fase del processo.

Non solo risparmio

Secondo David Ward, President e Chief Architect di Salesforce, il contenimento dei costi rappresenta solo il primo passo.

In futuro gli AI model router dovranno anche gestire aspetti come conformità normativa, sicurezza, governance e accesso ai dati aziendali.

L’obiettivo non sarà soltanto scegliere il modello più efficiente, ma individuare anche quello più adatto in termini di affidabilità, competenze specifiche e risultati di business.

Più flessibilità, meno dipendenza

Anche Florian Douetteau, cofondatore e CEO della piattaforma enterprise Dataiku, ritiene che molte aziende stiano cercando di ridurre la dipendenza da un singolo fornitore di AI.

Le recenti limitazioni nell’accesso ad alcuni modelli hanno spinto numerosi clienti a valutare strategie multi-provider, così da poter cambiare rapidamente tecnologia qualora un servizio non fosse più disponibile.

Secondo Douetteau, un CIO di una società Fortune 500 gli ha raccontato la preoccupazione di scoprire, un venerdì sera, che il modello alla base di un processo aziendale critico avrebbe potuto non essere più disponibile il lunedì successivo.

Una tecnologia più complessa di quanto sembri

Nonostante il crescente interesse, sviluppare un AI model router efficace non è semplice.

Clark sottolinea che una piattaforma di routing non consiste soltanto in un’API che collega diversi modelli. Richiede partnership con i principali sviluppatori di AI, monitoraggio costante di migliaia di endpoint, gestione di eventuali interruzioni del servizio, aggiornamenti continui e verifiche sulle politiche di utilizzo dei dati e sull’infrastruttura hardware.

“Non è un semplice livello software”, conclude Clark. “È una partnership profonda con l’intero ecosistema dell’intelligenza artificiale.”