H
パッチリリース v5.22.1
パッチリリース v5.22.1 文書を修正しただけです!** [修正] @remi-or から Ml4 (#50124) の WIP ドキュメントを削除
H
v5.22.0:ミストラル・ラージュ4 (ル・ションク)
新しいモデル Mistral Large 4 (Le Chonk) Mistral Large 4は、Mistralがこれまでに開発した最大かつ最も能力のあるモデルである。 1兆パラメータのネイティブマルチモダルのミックス・オブ・エキスパートモデルで、トークンあたり49億のアクティブパラメータ (520億の埋め込みと出力層を含む) を搭載し、ヨーロッパにあるMistralのデータセンターで3,800台のNVIDIA Grace Blackwell GPUでゼロから訓練されている。ミストラル・ラグ4 統一指示。..
H
パッチリリース v5.21.1
パッチリリース v5.21.1 ** init (#50080) の間に割り当てられる設定のための rope_scaling setter を修正しました。
H
リリース: v5.21.0
リリース v5.21.0 新しいモデル追加 MiniCPM-OCR MiniCPM-OCRは、OpenBMBのMiniCPM-Vファミリーの文書理解モデルです。MiniCPM-V 4.6 アーキテクチャを維持し、 SigLIP ビジョンエンコーダーと Qwen3.5 言語モデルとウィンドウ注意融合を組み合わせています。スキャンされたページ、スクリーンショット、領収書、表などのテキスト密度の高い画像を読み取るのに特化したものです。リンク:ドキュメント 紙F...
H
パッチリリース v5.20.2
パッチリリース: v5.20.2 このパッチは、特に、生成中の prepare_inputs_for_generation の内部で一部の入力が元のタイプを失い、マルチモダルのモデルに問題をもたらす問題を解決します。また、下記のコミットメントに記載されている他の問題も修正しています。@Cyrilvallezによって生成 (#49731) で入力を修正する。 bfloat16 wit で専門家グラデーションをゼロに修正する。..
H
リリース v5.20.1
リリース v5.20.1 新しいモデル Beam from Reflection AI Beamは、コード化とエージェント用ケースに焦点を当てた、トークン効率の良い、境界スケールモデルです。独自のハードウェアやインフラストラクチャやクラウド上で 強力なモデルを実行し 特定のニーズに合わせて 調整したいチーム向けに作られていますオートマッピングの小さなバグ (#49664) を修正しました。
H
リリース v5.20.0
リリース v5.20.0 新しいモデル追加 Muse Spark Open Muse Spark Openは、テキスト、画像、オーディオ、ビデオを入力として入力し、テキストを生成するMetaのマルチモダルミックス・オブ・エキスパートモデルです。合計パラメータは816B (トークンあたり42Bのアクティブ) で、モダリティにわたって共有される最大1,048,576トークンのコンテキストウィンドウがあります。多ファイル編集、デバッグ、そして。..
H
リリース v5.19.0
リリース v5.19.0 新しいモデル追加 EmbeddingGemma2 EmbeddingGemma 2は、Gemma 4 アーキテクチャに構築されたGoogleのマルチモダルのエンベディングモデルです。テキスト、画像、オーディオ、ビデオを、個別にまたは1つの入力で組み合わせて、クロスモダル検索、意味類似性、クラスタリング、分類のための共有768次元ベクトル空間にコードします。マトリョシュカ表現学習を使ってる
H
リリース 5.18.0
新しいモデル追加 ネモトロン3ダイアライゼーション ネモトロン3ダイアライゼーションは、現実世界のオーディオで"誰がいつ話したか"を決定するために設計されたオープンウェイトストリーミングスピーカーダイアライゼーションモデルです。ストリーミングとオフラインの推論の両方をサポートし、最大8つのスピーカーに対応し、各スピーカーの入力オーディオの最初の到着によってスピーカー出力を注文します。このモデルは、到着命令スピーカーキャッシュ (AOSC) 1とF...
H
リリース 5.17.0
リリース v5.17.0 新モデル追加 HYV4 Hy4-Previewは、トークンごとに 49B パラメータをアクティベートする 780B パラメータのミックス・オブ・エキスパート言語モデルです。各MoE層には 256人のルーティングされた専門家と 一人の常勤の共有専門家がいて それぞれのトークンを8人にルーティングします1MトークンですMLA (マルチヘッド潜伏注意) はキーと値を圧縮します。
H
リリース: v5.16.0
リリース v5.16.0 新しいモデル追加 Qwen4-Exp Qwen4-Expは、GatedResidual (GR),Qwen Sparse Attention (QSA),Per-Layer Embedding (PLE) の3つのキーコンポーネントを持つQwen3.5のハイブリッドテキストとマルチモダルのアーキテクチャをベースにしている。GRはQwenが開発した残留アーキテクチャで、Hyper-ConnectionとGatedNormを組み合わせています。複数の残留流れを 細粒子の元素配列ゲートで混ぜます
H
リリース v5.16.1
GLM が含まれているため、これは特別リリースです!GLM-5.3-Flash GLM-5.3-Flashは、GLM-5シリーズの最初のネイティブマルチモダルのモデルです。320Bの総パラメータと 18Bのアクティブパラメータで GLM-5.2をベンチマークと現実ワークロードで10分の"の価格で上回り、コードとエージェント基準で Claude Opus 4.8に近づいています。GLM-5.3 フラス。..
H
パッチリリース: v5.15.1
パッチリリース v5.15.1 このパッチは、特にDFlashとMTP候補生成器のいくつかの問題を解決し、ランチョスフィルターを使用した場合、画像が加速器で処理できない場合の問題も解決しています。このコンミットには以下のコンミットが含まれます。 @sywangyi と @Cyrilvallez によって、DFlash 候補トークンデバイスの device_map="auto" (#47877) との不一致を修正 CandidateGenerat の logit ディストリビューションをアライン。..
H
リリース: v5.15.0
リリース v5.15.0 新しいモデル追加 Meta Muse Glimmer Muse Glimmerは、今日リリースされたMetaの新しいマルチモダルのモデルで、特にエージェント用ケースのために設計されています。Museから30Bパラメータに絞り、Apache 2.0ライセンスでリリースされ、コード化、文書分析、パーソナルアシスタント、ClawまたはHermesのような設定などのプライバシーに配慮したアプリケーションのローカルセットアップに展開できます。ミュゼ・グリー。..
H
パッチリリース: v5.14.1
パッチリリース v5.14.1 このパッチは、インクリングモデルを統合する際に発生したいくつかの問題を解決します。特に、アシスタント生成中にEncoderDecoderCacheを使用するモデルに影響を与える問題です。StaticCache と sdpa でのプレフィール中に出現する問題を修正しました。次のコミットが含まれています: 修正 sdpa プレフィール position_bia...
H
リリース v5.14.0
リリース v5.14.0 新しいモデル追加 インクリング (Thinking Machinesから新鮮): 975B合計、 41Bアクティブ インクリングモデル #47347 を追加する @molbap @Cyrilvallez @eustlb と @zucchini-nlp インクリングは、テキスト、画像、オーディオ入力を受け入れ、テキスト出力を生成する汎用マルチモダルのモデルです。英語や他の言語、複数のコーディング言語で使用するものです。モデルがデシ。..
H
パッチリリース v5.13.1
パッチリリース v5.13.1 このパッチは、最新バージョンの vllm のトランスフォーマーを有効にすることに焦点を当てています!@hmellor からのカスタムモデル (#47245) のためのremap_legacy_layer_typesで、新しい線形層型名 (#47174) を知らないカスタムコードを修正します。 @hmellor からの _LazyAutoMapping.register が@hmellor からの str キーを (#47148) 渡すケースを修正します。
H
リリース v5.13.0
リリース v5.13.0 新しいモデル追加 KimiK 2.5,2.6,および 2.7 このリリースには、Kimi 2.5 が 2.5-2.7 で使用されている Kimi 2.5 のアーキテクチャが含まれています。 Kimi K2.5 は、長距離コーディング、コーディング駆動設計、積極的な自主実行、およびスワームベースのタスクオーケストレーションの実践的な能力を向上させるオープンソースのネイティブマルチモダルの代理モデルです。このモデルはキミK2.5で提案されました
H
パッチリリース v5.10.4
パッチリリース v5.10.4 アップデート: pypi 5.10.3 には存在していないことに注意してください。 そしてこれは 5.10.4 に保存されました (基本的にはマイナーバージョンをスキップしました).すみません 私のせいです分かりやすくしたいだけ!VLLMがトランスフォーマーと同期するために必要ないくつかの修正 🤗 [修正] #45534 #46456によって導入された回帰 修正 {画像/ビデオ/オーディオ}_token_ids in ProcessorMixin...
H
パッチリリース v5.12.1
パッチリリース v5.12.1 PEFT の下限を更新し、ミストラル・トークナイザー (ミストラル・コモンがインストールされている場合) を適切に解決するための自動トークナイザー修正。これは、メインリリースに既に含まれていた修正を省略した v.10.3 に類似しています - vLLM はまず 5.10.3 をターゲットにします🤗 @hmellor (#46605) の peft ローヤーバインド #46605 の修正 @itazap (#46667) の mistral コモンバックエンドの修正 #46667 の修正 完全変更。..
H
リリース v5.12.0
リリース v5.12.0 新モデル追加 ミニマックス-M3-VL ミニマックス-M3-VLは、MiniMax-M3テキストバックボーンと3D回転位置埋め込みのCLIPスタイルのビジョンタワーをペアするミニマックス-M3ファミリーのビジョン言語メンバーです。SWIGLU-OAIゲートされた専門家とブロック・スパース注意のための雷のインデクサーを組み合わせたミックス・デンス/スパースミックス・オブ・エキスパート・デコーダーを使用します。モデルが画像を処理する。..
H
リリース v5.11.0
リリース v5.11.0 新しいモデル追加 DiffusionGemma DiffusionGemmaは、推論速度に特化したエンコーダー・デコーダーアーキテクチャを使用することで、標準的な因果言語モデルの連続的なボトルネックを軽減するように設計されています。推論の過程で DiffusionGemmaはマルチキャンバスのサンプリングを利用します 一度に1つのトークンを生成する代わりに モデルが繰り返し完全なブロックを表示します
H
パッチリリース v5.10.2
パッチリリース v5.10.2 クリップに関連するモデルのモデル変換に大きなバグがあり、これは sam3などのモデルに影響を与えた。更新してください 🙏 @zucchini-nlp (#46406) によるクリップモデルの変換の修正 完全変更日記: v5.10.1...v5.10.2
H
リリース v5.10.1
V5.10.1 v5.10.0のリリースが 破損したブランチで公開される間に 引き上げられましたみんな すみません 早くリリースしたら こんなことが起こるんです!!!新しいモデル追加 Gemma4 unified+ Gemma4 MTP Gemma 4 12B Unifiedは、予備訓練および指示調節されたバリエーションを持つエンコーダーフリーマルチモダルモデルです。標準のGemma 4とは異なり Gemma 4 12B ユニフィーダは
H
v5.10.0
v5.10.0
H
リリース v5.9.0
リリース v5.9.0 新しいモデル追加 Cohere2Moe Command A+は、Cohere のミックス・オブ・エキスパート (MoE) 言語モデルで、滑り窓と全注意層を組み合わせたハイブリッドの注意パターンを備えています。このモデルは共有された専門家とルーティングされた専門家の両方を組み込み、広範なテキストシーケンスを処理するための非常に大きなコンテキストウィンドウをサポートします。リンク:ドキュメント 新しい cohere2_moeモデル (#46115) を追加 b...
H
バックアップ-再ベース化前に
クリーン:残ったリベースノイズファイル (75ファイル) を原始/メインに戻す
H
パッチリリース v5.8.1
このリリースは主にDeepseek V4の統合を修正します!!![修正]Fatal_errorをContinuousBatchingManagerに追加して サービス。..@qgallouedec, @remi-or Fix WeightConverter regexが share_expertsを専門家として誤ってマッチしている @silencelamb, @claude Deepseek v4の修正 @ArthurZucker (#45892) Deepseek v4 csaマスクの崩壊 @ArthurZucker, @Sawyer117 (#45928)