What's Changed fix ((release): manylinux タグを PyPI アップロード前に適用 (795396a3a) by AlpinDale fix ((release): すべてのホイールを GitHub リリース (#1749) (ba857e9b9) by @AlpinDale fix ((build): CUDA ホイール (#1748) (d23fda737) by @AlpinDale fix ((moe): Kimi K3 DeepGEMM gather shape (#1747) (a4a09745f by @AlpinDale fix ((ci): ROCmビルドキャッシュ (6586b288...
What's Changed feat: @AlpinDale in #1668でネイティブメタルサポートを追加する chore: @AlpinDale in #1669でメタルバックエンドパフォーマンスを最適化する perf: @AlpinDale in #1670でメタルでGDNパフォーマンスを最適化する 修正: @AlpinDale in #1671でメタルでメッセージをログインする 修正: @AlpinDale in #1672でexllamav3でgemma-4をdflashサポートを追加する feat: @AlpinDale in #1673でgemma-4をdflashサポートする
バックアップ: @AlpinDale #1636 の python 3.14 をサポートする #1637 の AlpinDale #1637 の ROCm の GLM-5.1 の修正: @AlpinDale #1638 の @AlpinDale の fusedmoe ルーターでレプリカ選択バイアス #1638 の @AlpinDale の #1638 の修正: @AlpinDale の #1639 の トーチ 2.12 の TORCH_COMPILE_DISABLE env var を尊重する #1639 の 作業: @AlpinDale の #1640 の worker から死コードを削除する #1641 の @AlpinDale の #1641 の @AlpinDale の #1641 でレンダリングの起動中に mm プロセッサを読み取るためにウォームアップ。..
What's Changed [エンジン] add API for concurrency rate and kv cache token limit by @AlpinDale in #1608 [diffusion] aphrodite diffusion backend by @AlpinDale in #1607 [cli][diffusion] @AlpinDale in #1610 [logger][metrics] が呼び出すときのみインポートディフュージョンバックエンド @AlpinDale in #1610 [logger][metrics] ログ 要求レベルログガーのキャッシュヒット数 @AlpinDale in #1611 [cli] 注目バックエンドを選択するための CLI を追加する @...
What's Changed feat: qwen3-next tool parser by @AlpinDale in #1512 [Build] feat: incremental cmake builds for @AlpinDale in #1515 chore: cleanup aphrodite FA directory by @AlpinDale in #1516 docs: @AlpinDale in #1517 の新しいモデルへのサポートを追加するドキュメントを更新する #1517 の修正: @AlpinDale in #1518 の ray を提供するマルチノード chore: @AlpinDale in... の TensorSchema にささやきを移行する
署名: リーシャプヴィール・シンフ リーシャプヴィール@gmail.com
署名: イソトリー mozf@mail2.sysu.edu.cn
[修正] 処理 PaddleOCR-VL画像プロセッサ Max_pixels トランスフォー。..
[ハイブリッド] get_mamba_groups を呼び出す (MambaCopyBuffers.createで) ...
[ROCm]torch.compiller.skip_all_guards_unsafe oの属性エラーを修正する
[Bugfix][MultiConnector] サポートHMAサブコネクタのマルチコネクタを修正。..
ハリー・メルラー 19981378+hmellor@users.noreply.github.com
署名: ダマオジ 1811866786@qq.com
何が変わったか feat: #1439 で @AlpinDale の Motif モデルを実装 [V1] feat: #1440 で @AlpinDale の flashinfer を通して fp8 kv をアンペアでサポート [V1] feat: #1441 で @AlpinDale の Kobold API をデフォルトで有効にする feat: #1442 で @AlpinDale の DeepConf サンプリングを追加する feat: #1443 で @AlpinDale の flash attn コンパイルを無効にするオプションを追加する feat: #1443 で @AlpinDale の throttling を通して PP のパフォーマンスを最適化する feat...
V0.9.0 長いことこのリリースとv0.6.7の間には多くの変化がありました。最も重要なものを要約してみようと思いますが 多くのことを見落としてしまうでしょう新しいモデル AIMv2 アーシー アリア アヤ ビジョン バイリング バンバ ベルト モデル (エンコーダーのみ埋め込み) コマンド A ビジョン CLIP テキストモデル ディープ検索-V3ドット。llm1 エルニー-4.5 エルニー-4.5 モエ EXAONE-4 ファルコン-H1 フローレンス-2 ジェマ-3 ジェマ-3n GLM-4...
変更されたコア: @AlpinDale で #1112 のテストで多ステップ+アシンクロンへの出力ストリーミングサポートを追加: @AlpinDale で #1113 のスケジューラーテストを更新 (1/N) XQA: Aphrodite で @AlpinDale で #1115 の作業で XQA CUDA カーネルを統合: @AlpinDale で #1116 の作業で @AlpinDale で #1117 の修正で mm_processor_kwargs として phi3_v num_crops を暴露: 不安全なすべての。..
@AlpinDale で #965 tpu で internvl と internlm2 のパイプライン並行性をサポート: @AlpinDale で #968 の修正で async のポストプロセッシングをサポート追加: @AlpinDale で #969 tpu で @AlpinDale で監視例で prometheus.yaml パスがサポート: @AlpinDale で #970 vlm で @AlpinDale で GKE と RayServe で 1 つおよび複数のホスト TPU をサポート: @AlpinDale で @AlpinDale i...
Xpu: refactor XPU worker & executor by @AlpinDale in #861ビルド: @AlpinDale in #862の要求ファイルにjinja2を追加注意: @AlpinDale in #863の注意: @AlpinDale in #863の注意: xpu: @AlpinDale in #864の実行者: @AlpinDale in #865の実行者: pipe worker_class_fn arg: @AlpinDale in #865の実行者: @AlpinDale in #866 feat: AWQ...
変更点 #851 DRY で @qpwo によって linux arm64/aarch64/GH200 インストールヒントを追加する #849 サンプラーで @selalipop によってサンプラーに output_tokens を追加する #852 サンプラーで @AlpinDale によって DRY 同期問題修正する #855 サンプラーで @AlpinDale によって DRY に対して範囲パラメータを追加する #856 サンプラーで @AlpinDale によって z アルゴリズムを使用して DRY パフォーマンスを最適化する #8...