Ollama v0.40.15-rc0 introduce il supporto al modello MiMo V2.6

Il team di sviluppo di Ollama ha reso disponibile la versione preliminare v0.40.15-rc0 del software, un aggiornamento mirato all'integrazione di nuove architetture di rete e alla revisione dell'infrastruttura di calcolo su sistemi operativi Linux. La pubblicazione segna l'avvio della fase di test successiva alla precedente versione v0.40.14 del noto strumento per l'esecuzione in locale di modelli di intelligenza artificiale.

Cosa è stato annunciato

Il registro delle modifiche ufficiale riporta due interventi tecnici principali, entrambi firmati dallo sviluppatore dhiltgen:

• Supporto per MiMo V2.6: con la modifica contrassegnata come #19400, il runtime di Ollama implementa il riconoscimento e la compatibilità nativa con il modello MiMo V2.6, consentendone la gestione diretta all'interno del motore di esecuzione.
• Caricamento in-process delle librerie CUDA su Linux: con l'aggiornamento #19433, relativo al componente mlx, le librerie CUDA distribuite insieme al programma vengono ora caricate direttamente all'interno dello stesso processo sui sistemi operativi Linux.

Per inquadrare questi aspetti tecnici, è utile chiarire i termini di riferimento:

• CUDA (Compute Unified Device Architecture): è l'infrastruttura software sviluppata da NVIDIA che consente ai programmi di sfruttare la potenza di calcolo parallelo delle schede grafiche per eseguire l'elaborazione dei modelli di intelligenza artificiale.
• Caricamento in-process: definisce una modalità in cui i moduli software o le librerie esterne vengono caricati all'interno del medesimo spazio di memoria allocato per il processo principale, anziché demandare l'esecuzione a componenti esterni o processi separati.

Cosa cambia per chi usa l'AI

L'introduzione di questa versione comporta novità pratiche per chi impiega Ollama in ambienti di sviluppo o produzione:

• Integrazione di nuovi modelli: per gli sviluppatori e i professionisti che desiderano lavorare con MiMo V2.6, la nuova release consente di testare il modello sfruttando l'interfaccia standard e il sistema di orchestrazione tipici di Ollama, senza la necessità di predisporre configurazioni ad hoc.
• Gestione delle risorse su ambiente Linux: per gli utenti che operano su macchine Linux equipaggiate con acceleratori NVIDIA, il passaggio al caricamento in-process per le librerie CUDA bundle interviene sulle modalità di dialogo a basso livello tra il software e i componenti di calcolo grafico.

Trattandosi di una versione contrassegnata come "rc0" (Release Candidate 0), la release è concepita per la fase di verifica e testing preventivo rispetto alla futura versione stabile v0.40.15.