L
b12119
サーバー:リアルタイム:例外 (#31632) にクラッシュする代わりにエラーイベントを送信 サーバー:リアルタイム:例外にクラッシュする代わりにエラーイベントを送信 サーバー:ex_wrapperを介してウェブソケットハンドラーをルート、リアルタイムテストサーバを削除 リアルタイム:チャットテンプレートが新しいものを拒否するときに以前のツールを保持 サーバー:リアルタイム:ツールスキーマを拒絶 文法変換できない、 ws_ex_wrapp...
L
b12118
opencl: FA (#31633) で解読パーフを改善する opencl: q4_Kゲートアップ + GLUのためにより多くのワークグループを使用する 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com opencl: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com opencl: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com 共同著者: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com opencl: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com 共同著者: 共同著者: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com opencl: 共同著者: 共同著者: 共同著者: 共同著者: Shaofei Qi shaoqi@qti.qualcomm.com 共同著者: 共同著者: Shaofei Qi shaoqi@qti.qual
L
b12116
モデル、mtmd: drama-3 ttsサポート (#31613) モデル、mtmd: drama-3 ttsサポート クリーンアップ mtmd: drama3 ヘルパーがコードブックタワーの制限で停止 共同著者: Pascal admin@serveurperso.com ウェブサイト: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/63780976 macOS/iOS: macOS Apple シリコン (arm64) macOS Apple シリコン (arm64,KleidiSAAI enabled) DIBLED macOS Intel (x64) iOS...
L
b12114
webgpu: get_max_size から maxBufferSize を返し、 memset/clear (#31348) での全バッファバインドを回避する。 get_max_size を修正し、 memset シェードを改良する。 buffer_memset を修正して、バッファのサイズが最大バインドサイズよりも大きいようにする。ウェブサイト: https://llama.app 認定: https://github.com/ggml-org/llama.cpp/attestations/63772875 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI...
L
b12111: common: common_get_path_from_envから削除する (#31444)
アドリアン・ガルーエ (Adrien Gallouët) の署名
L
v0.9.0
概要 このリリースでは、OCP FP8 E4M3 量子化サポート、複数のシーケンス推論のために統一KVキャッシュを効率的にする新しい flash_attn_ext_rows op,および一般的なバッチテンサーコピー API が追加されています。4つの新しいアーキテクチャがサポートされています (Clover, Limite, Metis-1.6およびMistral Large 4), オーディオ生成とトランスクリプションは、チャッターボックスTTS,ネモトロン3.5トランスクリプトと事前に定義されたポケットTTSで拡張されています。..
L
b12110
llama.cpp: バンプバージョン 0.9.0 (#31646) llama.cpp: バンプバージョン 0.9.0 作者: 更新 ウェブサイト: https://llama.app 認定: https://github.com/ggml-org/llama.cpp/attestations/63573996 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI有効) ディSABLED macOS インテル (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) 26.04 Ubuntu s3...
L
b12109
シンクロ: ggml ウェブサイト: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/63566813 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI有効) DISABLED macOS インテル (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu 26.04 s390x (CPU) Ubuntu 26.04 s390x (zDNN) x64 (Vulkan) Ubuntu arm64 (Vulkan) Ubuntu Ubun...
L
b12102
ggml: ステップが到達するバイトによってバインドされたビュー (#31584) ggml: ステップが到達するバイトによってバインドされたビュー ステップが設定される前に計算された、同じ形状の連続テンソーのサイズでソースと比較したビュー。列が重なり合っているビューは、そのソース内に留まるにもかかわらず、そのチェックに失敗し、より広いステップを持つビューは、その終わりに到達しながらそれを通過しました。ヴィー。..
L
b12101
ggml:ggufライター (#31144) に直接ホスト-バッファテンソールデータを書き込む。 ggufライターは、それを書き込む前に、各テンソールを一時ベクトルにステージ化した。ホスト・バッファテンソーの場合、データポインタは直接書き込めるので、ステージコピーをスキップして直接ファイルに書き込む。これは、per-tensor,zero-init,memcpyの割り当てを回避する。Dsh:llama.cpp/ggml-org/DeepSeek-V4-フラッシュビジョン-Exp-GGU...
L
(b12103: opencl: アドレノのQ2_0 GEMVを改善する (#31577)
opencl: q2_0 の解読と小さな f32 マットモールの改善 サポート: コデックス opencl: アドレノ 8xx で小さな f32 マットモールの最適化 サポート: コデックス
L
b12100
common: longer quant names (#31620) の内に fix -hf タグのマッチング common: longer quant names の内に fix -hf タグのマッチング ":F16"は"BF16"を含む"BF16"が repo に含まれていたときに BF16 ファイルを選びました。同じことが ":Q4_XS"と"IQ4_XS"にも当てはまる。このタグはパス内のトークン境界から始まりますdsh:llama.cpp/ggml-org/GLM-5.3-Flash-GGUF (Mac Studio,M5 Ultra,256GB) がサポートしています
L
b12099
hexagon: add LIGHTNING_INDEXER support (#31289) hexagon: initial support for LIGHTNING_INDEXER op hex-lght-idxr: hmx for prefill hex-lght-idxr: q8_0解読 gather transpose, two-block decode compute hex-lght-idxr: decode and prefill のパイプラインの hmx パスワード: K (f32) のサポートを追加
L
b12098
mtmd: qwen3-vl ビデオプロンプト形式 (#31619) の正確なサポート ウェブサイト: https://llama.app 証明: https://github.com/ggml-org/llama.cpp/attestations/63416358 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI有効) 障害 macOS インテル (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu 26.04 s390x (CPU) 26.04 s390x...
L
b12097
model, mtmd: add chatterbox TTSサポート (#30993) add chatterbox TTSサポート 共著者: Pascal admin@serveurperso.com add built-in voice support rm冗長コードクリーンアップ クリーンアップ 2 コードレビューからバッチされた提案を適用する 共著者: Sigbjørn Skjæret sigbjorn.skjaeret@huggingface.co improve 共著者: Pascal admin@serveurperso.com 共著者: Sigbjørn Skjæret sigbjorn.skjaeret...
L
b12096
hexagon: add TOP_K_MASK op (#31552) hexagon: add TOP_K_MASK op Hexagon TOP_K_MASKカーネルを簡素化し、ホストの構成を複製しないでください ウェブサイト: https://llama.app 証明書: https://github.com/ggml-org/llama.cpp/attestations/63407530 macOS/iOS: macOS Apple シリコン (arm64) macOS Apple シリコン (arm64, KleidiAI有効) 障害 macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu ar...
L
b12094
hexagon: バックエンドサンプラー (#31279) のためのより速い TOP_K hexagon: バックエンドサンプラーのためのより速い TOP_K (タイルをスキップし、ブロックスキャン) max が実行中の k-th 最良値に達できないタイルのビットニックソートをスキップし、その後 top_k_scan とタイルソートを置き換える: 256-フロートブロックを1 HVX max-reduce で拒否し、並べた k-エントリーリストに生き残った要素のみを挿入する。2..64のkで使われます。
L
b12091
spec: save and restore MTP hidden state (#30141) speculative : MTP hidden state を保存し、復元する Assisted-by: Codex tests : remove MTP state test Assisted-by: Codex speculative : MTP チェックポイント状態を簡素化する 境界隠し行のみを保存する; 検証行はサポートされている復元経路で再構築される。協力: GPT-6 共同著者: zouyongxing zouyongxing@bytedance.com ウェブサイト: https://lla...
L
b12090
ggml-zdnn: FATNテスト失敗を修正 (#31583) ウェブサイト: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/63384051 macOS/iOS: macOS Apple シリコン (arm64) macOS Apple シリコン (arm64, KleidiAI有効) 障害 macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) s390x (CPU) Ubuntu 26.04 s390x (CPU) Ubuntu 26.04 s390x (zDNN) Ubuntu x64 (Vul...
L
b12089
モデル: Metis-1.6モデルのサポートを追加 (#31134) サポート: Claude ウェブサイト: https://llama.app 認定: https://github.com/ggml-org/llama.cpp/attestations/63378637 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI有効) ディSABLED macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu 26.04 s390x (CPU) 26.04 s Ubuntu s...
L
b12088
モデル: enable NVFP4 LFM3 ggufs (#31608) ウェブサイト: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/63372395 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (arm64, KleidiAI enabled) ディSABLED macOS インテル (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) s390x (CPU) Ubuntu 26.04 s390x (CPU) Ubuntu 26.04 s390x (zDNN) Ubuntu x64 (Vulka...
L
b12087
mtmd: add Nemotron 3.5 Transcribeサポート (#31471) mtmd: add Nemotron 3.5 Transcribeサポート 支援: Claude convert: Nemotron-H ターゲットのための草案モデルの語彙を修正する 支援: Claude convert: reject non-BF16 チェックポイントを書き換える 支援: Claude mtmd: スピーカーをFIFO予測する ローカル 支援: Claude mtmd: mel in encode_windowsを正規化する 支援: Claude : convert m...
L
b12086
qwen4exp: 接続状態の尾を中間コンット (#31443) を使わずに書き込む。 build_conv_state_atは、復習状態に書き込む前に接続入力尾の連続コピーを作成する。したがって、すべてのGDNレイヤは生成トークンあたり2つのデバイスコピーを発行する。Qwen3.8-Flash-Next (36GDNレイヤー) では、トークン1枚につき72枚、36枚になります。推論的な解読は、ロールバックスロットごとに1つ追加します。ほら。..
L
b12084
モデル: LFM3 でのレコード層入力 仕様 dec (#31598) ウェブサイト: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/63354471 macOS/iOS: macOS Apple シリコン (arm64) macOS Apple シリコン (arm64,KleidiAI有効) ディSABLED macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu 26.04 s390x (CPU) 26.04 s390x (zDNN)...
L
b12083
ggml: ggml_roll bound check (#30375) でサインされたオーバーフローを避ける ggml_roll は abs ((shift) で各シフトを検証したが、 abs ((INT_MIN) は bound check が実行される前に評価されたサインされた整数オーバーフロー UB である。署名された安全テストと比較してください。ウェブサイト: https://llama.app 認定: https://github.com/ggml-org/llama.cpp/attestations/63348301 macOS/iOS: macOS アップル シリコン (arm64) macOS アップル シリコン (...
L
b12081
cuda: Q8_1の修正金額の潜在的な修正 (#31247) cuda: Q8_1の修正金額の潜在的な修正 更新 ggml/src/ggml-cuda/quantize.cu 共著者: Gaurav Garg gaugarg@nvidia.com 宛てのレビューコメント 量化_mmq_q8_1の流れも変更する 共著者: Gaurav Garg gaugarg@nvidia.com ウェブサイト: https://llama.appattestations: https://github.com/ggml-org/llama.cpp/attestations/63333029...
L
b12080
cuda: バッチされたテンソーをマッピングされたホストメモリ (PR to master) (#31391) に読み込む。 cuda: バッチされたテンソーをマッピングされたホストメモリに読み込む。
L
b12079
マルチノードテンソール並列性 (#28967) のncclサポートを追加する 独立したプロセスで実行されるランク間の集合体のためのバックエンドインターフェースを追加し、NCCLを使用してCUDAバックエンドに実装し、利用可能な場合、RPCサーバーで使用する。ggml_backend_comm_allreduce_rank_tを削除し、per-raのために ggml_backend_comm_allreduce_tensorを再利用する
L
b12095
gemma4:グラフの最適化 (E2BとE4Bの ppに対する大規模な利益) (#3...
L
b12078
ツール: GGUF スプリートメジャー (#31579) で不一致なシェードを拒絶する ウェブサイト: https://llama.app 証明: https://github.com/ggml-org/llama.cpp/attestations/63239877 macOS/iOS: macOS Apple シリコン (arm64) macOS Apple シリコン (arm64, KleidiAI有効) 障害 macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu 26.04 s390x (CPU) 26.04 s390x (zD...