M
v0.20.0
mlc-llm v0.20.0 安定 (最後の単石時代のリリース、mlc-...
M
v0.26.dev0: [リファクタ] TVMランタイム統合 (#3501) の更新
tvm/support/cuda の下に移動した NVTX ヘッダを使用し、 tvm::runtime の代わりに tvm::support から NVTXScopedRange を使用します。tvm_runtime_extraをデフォルトでリンクしてインストールすると、分散されたランタイムシンボルが正しく解消されます。
M
v0.19.0
タグ v0.19.0
M
v0.20.dev0: [デバイス] CPU検出を延期する (#3126)
このPRはすべてのGPUをチェックした後 CPU検出を最後のデバイスに移動します
M
v0.18.1
タグ v0.18.1
M
v0.19.dev0: [モデル] OLMo アーキテクチャ (#3046) のサポートを追加
このPRはOLMoアーキテクチャのサポートを追加します追加サポート: clip-qkv のサポートを追加する。テスト:既にAndroid (Pixel 4) と cuda (テンソール_パラレル_シュラッド=2) を設定してテストしました
M
v0.17.2: [ベンチ] API バックエンドの名前 (#2968) を更新
このPRはバックエンドの名前を更新し、バックエンドフレームワークごとに1つの名前を導入します。これらのバックエンドは同じAPIエンドポイントを指す可能性があります。
M
v0.17.1
タグ v0.17.1
M
v0.18.dev0: 追加されたhermes 3サポート (#2886)
追加されたヘルメス 3 サポート 修正されたフォーマット 固定 毛糸
M
v0.1.dev0
共同著者:ホンイ・ジン <jinhongyi02@gmail.com> 共同著者:ルイハン・ライ <ruihangl@cs.cmu.edu> 共同著者:天津・チェン <tqchen@cmu.edu> 共同著者:ジュンルー・シャオ <junrushao@apache.org> 共同著者:ジハオ・イエ <zhye@cs.washington.edu>