V

vLLM

V
vLLM AI v0.33.0

v0.33.0

このリリースには389人の貢献者 (122人の新規) から927件のコミットメントがあります!新しいモデル:Reflection Beam-1.0 (501B MoE, 23Bアクティブ) とDFlash2ドラフト (#62074),ヤンデックスアリスAI-ファンデーション-80B-A3B (#57963),リキュリブ・フリント (40B MoE, 2.5Bアクティブ) (#62938),ミューズ・スパーク・オープン (#61879),ステップ-5プレビュー (#61727, #63147),NVIDIA アルパマイオ2 スーパー (#62957),ネモトロン・ラボス ドリー1.0-4B (#60149),ネム。..

V
vLLM AI v0.33.0rc0

v0.33.0rc0

[Bugfix][MRV2] CUDA の適応型検証コストプロファイリングをスキップする ...

V
vLLM AI v0.32.0

v0.32.0

このリリースには、363人の貢献者 (121人の新規) から814件のコミットメントがあります!構造化決定と汎用パーサー:新しいPOST /v1/systemoneエンドポイントは、構造化状態 (#59299) 上の選択、ノール、スコアに関する質問に答え、デフォルトで (#60677, #60696) サービスされ、Cloudflare/keyf-omni (#61064),LiquidAI/d1-3B (#60676) とDifusionGemma (#60466) でも実行されます。新しいHFツールとR...

V
vLLM AI v0.32.1rc0

v0.32.1rc0

[Doc][RL] 訓練者のための重量転送HTTPプロトコルを文書化。..

V
vLLM AI v0.32.0rc2

v0.32.0rc2

[CI] DeepSeek-V4.1-Flash-NVFP4の評価を FP8-Engramの修正 (#...

V
vLLM AI v0.31.0

v0.31.0

v0.31.0 ハイライト このリリースには307人の貢献者 (96人の新規) から717件のコミットメントがあります!DeepSeek-V4.1-Flashパフォーマンス: V4.1 NVFP4圧縮KVキャッシュでFlashMLAメガ注意はSM100デフォルト (#56935); インデクサー (#56254) のためのDeepGEMM稀有MQAログ、ゲートGEMMと専門家選択 (#56266) を融合するMega-Gate;デコーダの境界はTPをすべて削減し、mHC入力準備を融合させる。..

V
vLLM AI v0.31.0rc4

v0.31.0rc4

[Bugfix][HiSparse] MTP受容の崩壊を FULL グラフで修正する。..

V
vLLM AI v0.31.0rc2

v0.31.0rc2

[Bugfix][Mamba] チェックポイントを 薄い。..

V
vLLM AI v0.30.0

v0.30.0

このリリースには315人の貢献者から762件のコミットメント (104件の新規) が含まれています!新しいモデル: DeepSeek-V4.1-Flash (#56214, #56228, #56208) で、FlashMLA V4.1レコードを介してSM100 (#56893), DeepGEMM Mega-mHC (#56962) でMXFP8にKV全体を格納し、Engram DPシェードリング (#56512) でアシンクエングラムプレフェッチ;DepSeek-V4-Flash-Vision-Exp (#54566),またROCm (#55107) でLoRA (#55897) で。..

V
vLLM AI v0.30.0rc2

v0.30.0rc2

[Bugfix][NIXL] 通知のみのリクエストの報告を受信するのを避ける (...

V
vLLM AI v0.29.1rc0

v0.29.1rc0

[ウォーターマーク] 二重鍵のガムベル・マックスウォーターマーク 憶測的な解読。..

V
vLLM AI v0.29.0

v0.29.0

このリリースには、277人の貢献者 (91人の新規) から594件のコミットメントがあります!Model Runner V2は、すべてのモデル (#53183) のデフォルトで、モデル (#48290) のプールで始まった展開を完了しました。MRV2はまた、KVキャッシュの自動サイズ化 (#53306),ステップごとにログットのメモリを1/TP (#50465),プロンプト埋め込み (#42963),extract_hidde...でカットするバッチ分割サンプリングのためのCUDAグラフメモリプロファイリングも獲得した。