vLLMのスタック展開 [CI/ビルド]アンカーチャート。yamlバージョン grepの開始までライン by @ruizhang0101 in #944 モデルごとに vLLM観察可能なダッシュボードを追加する @brokedba in #948 [Bugfix][Router] 古いプロメテウスエンドポイントの健康指標 (#888) を修正する @prashankotasap in #936 [Bugfix][Dashboard] ルーターレプリカを介して健康_pods_totalを削除する @banlor in #943 [Bugfix] チュートリアルを修正する wro...
スタック展開 vLLM What's Changed feat ((helm) 追加PDB @enneitex で展開毎に #851 生産準備の vLLM CoreWeave CKS テラフォームスタックを追加 @brokedba で #834 [Feat][ルーター] #777 で @yahavb で分解されたプレフィールオーケストラルーティングを追加 [バグ修正] #885 で @ruizhang0101 で @keyuchen21 によって設定可能なNodePort をルーターサービスに追加 #875 で ...
スタック展開 vLLM What's Changed serveringEngineSpec環境変数を追加する @shernshiou in #799 [Fix] @keyuchen21 in #797 [Router]: @nmiguel in #820 [Router][Fix]: @nmiguel in #821 で画像とオーディオ API のルートを追加する @nmiguel で画像の固定名/endpoint を編集する @nmiguel in #822 README.md で連絡先情報を更新する @ruizhang0101 in #821...
スタック展開 vLLM What's Changed [Feat] 追加 imagePullSecrets ルーターとキャッシュサーバー展開のサポート。.. by @HanFa in #762 [Feat] 追加生産準備の vLLM Nebius MK8s テラフォームチュートリアル by @brokedba in #748 [Feat] モデルSpec リソースを直接 @danhubern で宣言することを許可する #729 [Router] /v1/responses エンドポイントの導入 by @sebastiaanvduijn in #691 [Bugfix][Router] ルータのスタ。..
vLLMのスタック展開 何が変わったか [Feat] lmcache cpu ram + ローカルディスクオフロードのための GKE例を追加 #678 で @dannawang0221 [Feat] kvawareルーティングのために lmcache 0.3.5 を使用 #673 で @zerofishnoodles [Feat]: ray-cluster.yaml (ヘルムチャート) に pull ポリシーオプションを追加 #686 で @moriabs88 [Feat] #679 で @Romero027 で KEDA でゼロにスケーリングのサポートを追加 [バグ修正] 小の修正 o...
vLLMのスタック展開 何が変わったか [Feat] @Fabhiahnによって#557で優先順位クラスを指定するオプションを追加 [CI/Build] @Shaoting-Fengによって#595でCIランナーをL4に変更する [Bugfix] @zerofishnoodlesによって#598で動的コンフィギュレーションを修正する [refactor] @kobe0938によってRSTドキュメントを再設計する [Misc] @kobe0938によって#592でuv.lockをリバートする [Misc] #604で @kobe0938によって uv.lockをリバートする [CI/Build] @Sによってラウターのエンドツーエンドテストでトランスフォーマーバージョンを指定する。..
vLLMのスタック展開 変更点 [CI]:夜間ドッカー画像 (#514) のエントリーポイントを変更する (by @sammshen) 睡眠と目覚めのエンドポイント (#498) のサポートを追加する (by @dumb0002 ) [Bugfix] lmcacheサーバ (#520) の健康探査を追加する (by @zerofishnoodles) [Doc, Feat]基本的なKEDAサポートとチュートリアル (#487) (by @Romero027) [Misc]不要なファイル (#521) を削除する (by @zerofishnoodles) k...
vLLM のスタック展開
vLLMのスタック展開 変更点 特定のエンジンインスタンス (#438) にリクエストをルーティングするサポートを追加 @dumb0002 [Perf] 分別されたプレフィールルーターのパフォーマンスを改善 (#440) @YuhanLiu11 [修正] デフォルトの名前空間サービスのみをモニターする名前空間 (#447) @nicole-lihui更新 スクリプトをインストールする kubectl コマンドをグローバルで kuberay-operator pod を検索する (#460) @googs1025 [Doc] 文書を追加する。..
vLLMのスタック展開 変更[Feat]追加 extraVolumes と extraVolumeMounts オプション @BrianPark314 (#396 ) [Bugfix] 修正(サービス]: post_request コールバックをセマンティック_キャッシュ @ant-ms (#399 ) に依存しないようにする [Feat] エンジンポッドの手動スケジューリングをサポートする @dumb0002 (#400)) [Bugfix] miss 引数タイプセットを追加 @googs1025 (#401) [Feat] セントリ sdk と cli args @pwuersch (#395 ) [Doc...
vLLMのスタック展開 何が変わったか [Feat] エンジン展開をオン/オフにするサポートを追加する @dumb0002 #311 [Feat] ルーター&キャッチャーサーバーの nodeSelectorTerms を追加する @kinoute #314 [Bugfix] stdout/stderr を適切に処理するためにログガーのハンドラーを更新する @corona10 #320 [CI] 常にヘルム機能チェックのログをアップロードする @pwuersch #321 [CI/Build] CI/CD @Shaoting-Feng #3...