Qwen3.5/Qwen3.6/Gemma4モデルのプライマリサポートを追加し、トランスフォーマーv5との互換性。変更点 [misc] @hiyougaによる9703修正のfp8のセット・devバージョン: @sbhavaniによる9705のトランスフォーマーエンジンバックエンドサポートを追加 [misc] #9709の@tangeflyによるconfig.jsonの空きアーキテクチャフィールドと互換性 [モデル] #9707の@isLinXuによるYoutu-LLM-2Bをサポート #9710の@hiyougaによる lint [misc] Up...
2025年までさよならありがとうございました。2026年に LLMの精細調整を 容易かつ効率的な枠組みで コミュニティに提供し続けます追いついてくださいリポジトリ名を更新: LLaMA-Factory → LlamaFactory Python 3.93.10が廃止されました。 LlamaFactory は Python 3.113.13 を必要としています。
6月20日に上海2025 AWSサミットに参加します!上海でお会いします イベント情報: https://aws.amazon.com/cn/events/summits/shanghai/ 新機能 🔥 InternVL2.5/InternVL3モデル @Kuangdd01 #7258 #7537 #Qwen2.5-Omniモデル @Kuangdd01 #7273 #hiyouga #7273 #7611 #Llama 4 と Gemma 3 マルチモダルのモデル 🔥 公式 GPU ドッカー画像 @yzoaim #8181 🔥 SGLang 推論 @Qiaoli...
3月16日 VLLM 北京ミーティングに参加します!北京でお会いします イベント情報: https://mp.weixin.qq.com/s/viPRDlhnzS3qO9-96fMeeA 新機能 🔥 @zhuhanqingのAPOLLO最適化器 #6617 #6401の@Zeyi-Linの@SwanLab実験追跡器 #6542の@erictang000の@Ray Trainer #6190の@JieShenAIの@codemayqの@ascend NPUの#6601のYarnとLlama3ロープスケールでバッチ推論。..
新しい機能 🔥Support Llama-3.2とLlama-3.2-Vision by @marko1616 in #5547と #5555 🔥Support LLaVA-NeXT,LLaVA-NeXT-Video and Video-LLaVA by @BUAADreamer in #5574 🔥Support Pixtral model by @Kuangdd01 in #5581 サポート EXAONE3.0 by @shing100 in #5585 インデックスシリーズモデル by @Cuiyn in #5910 サポート Liger-Kernel for Qwen2-VL by @aliencao in #5438 モデルハブからモデルをダウンロードするサポート @h...
30,000の星を祝福します X (twitter) にフォローしてください 新機能 🔥#5290の@simonJJJJによるマルチイメージデータセットのQwen2-VLモデルを微調整サポート 🔥#5095の@relic-yuexiによるuse_adam_miniアーগুমントによるメモリ効率の良いAdam-mini最適化器をサポート ビデオデータセットのQwen2-VLモデルを微調整サポート。..
新しい機能 🔥#4224の @chuan298による neat_packing引数による汚染無梱包をサポートする 🔥#4691の @codemayqによる eval_dataset引数による分割評価をサポートする 🔥#4878の @aofengdaxiaによる mask_history引数による HQQ/EETQ量子化をサポートする @hiyougaによる quantization_method引数による 🔥#4352の @Ledzyによる BAdamを使用するときに Zero-3をサポートする 追加。..
新しい機能 サポート GLM-4 ツールと @mMrBun の #4173 の並列関数コール サポート PiSSA 微調整 @hiyouga の #4307 の新しいモデル ベースモデル DeepSeek-Coder-V2 (16B MoE/236B MoE) インストラクター/チャットモデル MiniCPM-2B DeepSeek-Coder-V2-Instruct (16B MoE/236B MoE) 新しいデータセット 監督微調整データセット Neo-sft (zh) Magpie-Pro-300K-Filtered by @EliostaMC in #4309 WebInstruct (...
修正 #2666: Unsloth+DoRA 修正 #4145: ドッカーイメージの PyTorch バージョンは vLLM 要件と一致していない 修正 #4160: @f-q23 の助けで LongLoRA 実装の問題 修正 #4167: @yzoaim によって Windows システムでインストールの問題
より強力なLlamaBoard 💪😀 Web UI の単一ノード分散トレーニングをサポートする チェックポイントから簡単に再開し、 #4053 の @hiyouga と @hzhaoy によって保存された設定を選択するためのドロップダウンメニューを追加する 完全/フリーズチューニングのチェックポイントを選択するサポート LlamaBoard にスループットメトリックを追加する #4066 の @injet-zhou より速い UI 読み込み 新しい機能を追加する @enji-zhou の @3785 の KTO アルゴリズムを追加する SimPO アルゴリズム。..