vLLM

High-throughput LLM serving engine with PagedAttention and an OpenAI-compatible server.

Fonti e aggiornamento

Dati dai cataloghi indicati sotto, adattati per AI-N. Le descrizioni possono essere in lingua originale. Verifica prezzi e disponibilità sul sito ufficiale.

Ultimo aggiornamento importato: 31 ott.