Ollama 0.40.14: novità per Claude Code, endpoint API e MLX

Il progetto open source Ollama ha reso disponibile la versione v0.40.14 del proprio software. Questo aggiornamento introduce una serie di correzioni mirate all'interazione con servizi esterni, migliora la conformità con gli standard delle API di OpenAI e ottimizza le prestazioni di calcolo su determinate architetture hardware.

Cosa è stato annunciato

Il registro delle modifiche della versione 0.40.14 include interventi su più componenti della piattaforma:

• Integrazione con Claude Code: il comando ollama launch claude applica ora il limite specifico di token in uscita del modello. In questo modo, i modelli residenti sul cloud non rischiano più di bloccarsi contro la soglia predefinita fissata a 128.000 token (i token rappresentano i frammenti di testo o parole elaborati dall'intelligenza artificiale).
• Endpoint compatibili con OpenAI: in precedenza, le richieste inviate senza specificare parametri di generazione (i cosiddetti sampler, come temperature o top_p, che regolano la casualità e la creatività della risposta) venivano forzate a un valore di 1.0. Con questo aggiornamento, il sistema adotta invece i valori predefiniti inclusi nel pacchetto del modello, uniformando il comportamento a quello dell'endpoint /api/chat.
• Gestione delle risposte e ricerca web: le risposte provenienti da ricerche web su cloud indirizzate a /api/chat vengono ora decodificate correttamente, anche quando compresse. Inoltre, l'endpoint /v1/responses preserva i contenuti leggibili in input, inclusi eventuali precedenti rifiuti forniti dall'assistente, senza appiattire la struttura dei messaggi.
• Stabilità e routing per ChatGPT: l'applicazione di Ollama può ora tentare automaticamente la riconnessione in caso di disconnessione da ChatGPT, evitando di lasciare la sessione interrotta. Parallelamente, il comando ollama launch codex verifica la disponibilità del routing verso ChatGPT prima della configurazione, mostrando un errore chiaro se la connessione non è raggiungibile.
• Prestazioni su MLX: per chi utilizza MLX, il framework di calcolo ottimizzato per i chip Apple Silicon, è stato reso più veloce il campionamento top-k in presenza di vocabolari di grandi dimensioni.

Cosa cambia per chi usa l'AI

Per gli sviluppatori e gli utenti che integrano Ollama nei propri flussi di lavoro, questo rilascio risolve diversi attriti tecnici. Chi utilizza Claude Code con modelli cloud non vedrà più interruzioni arbitrarie dovute a limiti rigidi di output non corrispondenti a quelli reali del modello.

Inoltre, chi sfrutta software o interfacce di terze parti collegate a Ollama tramite chiamate compatibili con OpenAI otterrà risposte più coerenti con il comportamento previsto dagli autori dei singoli modelli, poiché le impostazioni di fabbrica non vengono più sovrascritte da valori arbitrari in assenza di parametri espliciti. Infine, le ottimizzazioni su MLX garantiscono una maggiore efficienza durante l'esecuzione locale su sistemi Apple compatibili.