H
パッチリリース: v5.14.1
パッチリリース v5.14.1 このパッチは、インクリングモデルを統合する際に発生したいくつかの問題を解決します。特に、アシスタント生成中にEncoderDecoderCacheを使用するモデルに影響を与える問題です。StaticCache と sdpa でのプレフィール中に出現する問題を修正しました。次のコミットが含まれています: 修正 sdpa プレフィール position_bia...
H
リリース v5.14.0
リリース v5.14.0 新しいモデル追加 インクリング (Thinking Machinesから新鮮): 975B合計、 41Bアクティブ インクリングモデル #47347 を追加する @molbap @Cyrilvallez @eustlb と @zucchini-nlp インクリングは、テキスト、画像、オーディオ入力を受け入れ、テキスト出力を生成する汎用マルチモダルのモデルです。英語や他の言語、複数のコーディング言語で使用するものです。モデルがデシ。..
H
パッチリリース v5.13.1
パッチリリース v5.13.1 このパッチは、最新バージョンの vllm のトランスフォーマーを有効にすることに焦点を当てています!@hmellor からのカスタムモデル (#47245) のためのremap_legacy_layer_typesで、新しい線形層型名 (#47174) を知らないカスタムコードを修正します。 @hmellor からの _LazyAutoMapping.register が@hmellor からの str キーを (#47148) 渡すケースを修正します。
H
リリース v5.13.0
リリース v5.13.0 新しいモデル追加 KimiK 2.5,2.6,および 2.7 このリリースには、Kimi 2.5 が 2.5-2.7 で使用されている Kimi 2.5 のアーキテクチャが含まれています。 Kimi K2.5 は、長距離コーディング、コーディング駆動設計、積極的な自主実行、およびスワームベースのタスクオーケストレーションの実践的な能力を向上させるオープンソースのネイティブマルチモダルの代理モデルです。このモデルはキミK2.5で提案されました
H
パッチリリース v5.10.4
パッチリリース v5.10.4 アップデート: pypi 5.10.3 には存在していないことに注意してください。 そしてこれは 5.10.4 に保存されました (基本的にはマイナーバージョンをスキップしました).すみません 私のせいです分かりやすくしたいだけ!VLLMがトランスフォーマーと同期するために必要ないくつかの修正 🤗 [修正] #45534 #46456によって導入された回帰 修正 {画像/ビデオ/オーディオ}_token_ids in ProcessorMixin...
H
パッチリリース v5.12.1
パッチリリース v5.12.1 PEFT の下限を更新し、ミストラル・トークナイザー (ミストラル・コモンがインストールされている場合) を適切に解決するための自動トークナイザー修正。これは、メインリリースに既に含まれていた修正を省略した v.10.3 に類似しています - vLLM はまず 5.10.3 をターゲットにします🤗 @hmellor (#46605) の peft ローヤーバインド #46605 の修正 @itazap (#46667) の mistral コモンバックエンドの修正 #46667 の修正 完全変更。..
H
リリース v5.12.0
リリース v5.12.0 新モデル追加 ミニマックス-M3-VL ミニマックス-M3-VLは、MiniMax-M3テキストバックボーンと3D回転位置埋め込みのCLIPスタイルのビジョンタワーをペアするミニマックス-M3ファミリーのビジョン言語メンバーです。SWIGLU-OAIゲートされた専門家とブロック・スパース注意のための雷のインデクサーを組み合わせたミックス・デンス/スパースミックス・オブ・エキスパート・デコーダーを使用します。モデルが画像を処理する。..
H
リリース v5.11.0
リリース v5.11.0 新しいモデル追加 DiffusionGemma DiffusionGemmaは、推論速度に特化したエンコーダー・デコーダーアーキテクチャを使用することで、標準的な因果言語モデルの連続的なボトルネックを軽減するように設計されています。推論の過程で DiffusionGemmaはマルチキャンバスのサンプリングを利用します 一度に1つのトークンを生成する代わりに モデルが繰り返し完全なブロックを表示します
H
パッチリリース v5.10.2
パッチリリース v5.10.2 クリップに関連するモデルのモデル変換に大きなバグがあり、これは sam3などのモデルに影響を与えた。更新してください 🙏 @zucchini-nlp (#46406) によるクリップモデルの変換の修正 完全変更日記: v5.10.1...v5.10.2
H
リリース v5.10.1
V5.10.1 v5.10.0のリリースが 破損したブランチで公開される間に 引き上げられましたみんな すみません 早くリリースしたら こんなことが起こるんです!!!新しいモデル追加 Gemma4 unified+ Gemma4 MTP Gemma 4 12B Unifiedは、予備訓練および指示調節されたバリエーションを持つエンコーダーフリーマルチモダルモデルです。標準のGemma 4とは異なり Gemma 4 12B ユニフィーダは
H
v5.10.0
v5.10.0
H
リリース v5.9.0
リリース v5.9.0 新しいモデル追加 Cohere2Moe Command A+は、Cohere のミックス・オブ・エキスパート (MoE) 言語モデルで、滑り窓と全注意層を組み合わせたハイブリッドの注意パターンを備えています。このモデルは共有された専門家とルーティングされた専門家の両方を組み込み、広範なテキストシーケンスを処理するための非常に大きなコンテキストウィンドウをサポートします。リンク:ドキュメント 新しい cohere2_moeモデル (#46115) を追加 b...
H
バックアップ-再ベース化前に
クリーン:残ったリベースノイズファイル (75ファイル) を原始/メインに戻す
H
パッチリリース v5.8.1
このリリースは主にDeepseek V4の統合を修正します!!![修正]Fatal_errorをContinuousBatchingManagerに追加して サービス。..@qgallouedec, @remi-or Fix WeightConverter regexが share_expertsを専門家として誤ってマッチしている @silencelamb, @claude Deepseek v4の修正 @ArthurZucker (#45892) Deepseek v4 csaマスクの崩壊 @ArthurZucker, @Sawyer117 (#45928)