ハイライト 多くのバグ修正 MLX v0.31.2 に同行するローカルジェネレーションストリームをスレッドする #1124 の @angeloskath によってパッチバージョンをバムする BatchKVCache と BatchRotatingKVCache extend でバッチ寸法不一致を修正する #1171 の @kernelpool によってサーバーで並行ツールコール処理を修正する #1170 の @kernelpool によって MiniMax M2 の並行ツールコールを修正する #1171 の @kernelpool によって欠落する tree_reduc を修正する。..
ハイライト キャッシングシステムプロンプトと非トリミング可能なキャッシュのユーザーメッセージ バッチジェネレータ再ファクタリング 何が変更されたか パッチバージョンをBump by @angeloskath in #959 @angeloskath in #971 プレゼンスと周波数ペナルティ @angeloskath in #971 バッチローティングKVCache by @rltakashige in #960 バッチローティングKVCacheで更新されるたびにEval self.left_padding @rltakashige in #960 遅延バインディングは誤ったキャッシュチェックポイントを引き起こした @angeloskath in #976 メタへ移動。..
CompletionsDataset mask_promptクラッシュ (#967) を修正する
変更点 #886 の @angeloskath による CacheList の保存/読み込み修正 #871 の @angeloskath による シェアモデル #892 の @spicyneuron による MLA モデルの混合量子プレディケートを修正 #894 の @kernelpool による JoyAI LLM Flash を追加 #894 の困惑: #896 の @ivanfioravanti による --trust-remote-code オプションを追加 サーバー: @percontation の @849 の json 応答に usage.prompt_tokens_details.cached_tokens を追加 #849 の qwen3.5 のキャスティングを修正。..
変更は? 修正 キミ 線形 by @kernelpool in #853 バンプバージョン for next release by @awni in #865 LFM2モデルを呼ぶ Pythonic ツール by @viktike in #864 DeepSeek V3.2インデクサーと重量読み込みを修正 @kernelpool in #866 検証セットをオプションにする 訓練プロセス by @Goekdeniz-Guelmez in #857 Mistral ツール パルサー by @awni in #874 LongCat MLA by @kernelpool in #868 [MODEL] qwen3 をサポートする。...
トランスフォーマー v5 はどう変わったか? @awni in #811 LongCat Flash ツールパーサーを追加 @kernelpool in #810 Kimi-K2.5 を追加 @kernelpool in #813 Bump mlx バージョンとバージョンを追加 @awni in #816 NemotronH のコンフィギュレーションの対応を修正 HuggingFace フォーマット by @LuqDaMan in #820 例外の修正 - MultiLinear.to_quantized ((() missing 'mode' by @inferencers in #809 Kimi K2.5 ツール処理を修正 @kernelpool in...
変更されたのは、実際のエラーの代わりにログインエラーを投げるため @Maanas-Verma in #778 サーバ: OpenAI対応の finish_reason by @percontation in #782 を使用して Apertus の Xielu アクティベーションを activations.py に @Goekdeniz-Guelmez in #772 で移動する @awni in #746 でバンプトランスフォーマー by @awni 更新 glm4_moe_lite をキャッシュでKV 潜伏を保存する @N8python in #780 で TeleChat3 を追加する @Goekdeniz-Guel...
変更点 追加 AWQ/GPTQ 重量変換ユーティリティ @ericcurtin in #730 追加 IQuest Coder V1 Loop バリアント @kernelpool in #716 スライディングウィンドウバッチングを修正 @awni in #738 バッチ生成を修正: ArraysCache にアイテム取得のための抽出方法を追加 @Goekdeniz-Guelmez in #740 MambaCache を nemotron-h のバッチ生成と互換性にする @nikhilmitrax in #690 サーバーベンチマークを追加。..
修正 mlx-lm リリース @awni in #733 全変更日記: v0.30.1...v0.30.2
何が変わったか #693 の @awni でカスタム dsv32 チャットテンプレート @awni で #698 の @awni で shard glm で #698 の minimax m2 をサポートする @awni で #700 設定ファイルの存在をチェックする load_config 関数を強化する i... で @cubist38 で #701 の batch_generate は Phi3 (LongRoPE) で失敗します。