何が変わったか 新しい行が欠落している @theophilegervet in #234 Mistral Small 3.1 にサポートを追加する @juliendenize in #239 @juliendenize in #240 ファイルリフを削除する @juliendenize in #241 リリース 1.6.0 by @juliendenize in #241 新しい貢献者 @theophilegervet は #234 で最初の貢献をしました @juliendenize は #239 で最初の貢献をしました 完全な変更ログ: v1.5.0...v1.6.0
パブリック PyPI リリースの v1.5.0 タグを追加
ピクストラル・ミストラル・モデルが !pip install --upgrade mistral_inference # >= 1.4.0 ダウンロード: huggingface_hubからインポートスナップショット_pathlibからインポートスナップショットダウンロード Path mistral_models_path = Path.home().joinpath (('mistral_models', 'Pixtral') mistral_models_path.mkdir ((parents=True, exist_ok=True) snapshot_download ((repo_id="mistralai/Pixtral-12B-2409", allow_patterns=["params.json", "consolidated.safet...
Mistral NVIDIAよりMistral-Nemoを歓迎します。 Mistral-Nemoについて詳しくはこちらから。インストール pip インストール mistral-inference>=1.3.0 ダウンロード エクスポート NEMO_MODEL=$HOME/12B_NEMO_MODEL wget https://models.mistralcdn.com/mistral-nemo-2407/mistral-nemo-instruct-2407.tar mkdir -p $NEMO_MODEL tar -xf mistral-nemo-instruct-v0.1.tar -C $NEMO_MODEL チャット ミストラルチャット $HOME/NEMO_MODEL --instruct --max_tokens 1024 または dir...
歓迎 Codestral-Mamba と Mathstral pip をインストール mistral-inference>=1.2.0 Codestral-Mamba pip をインストール パッケージ mamba-ssm因果-conv1d トランスフォーマー ダウンロード輸出 MAMBA_CODE=$HOME/7B_MAMBA_CODE wget https://models.mistralcdn.com/codestral-mamba-7b-v0-1/codestral-mamba-7B-v0.1.tar mkdir -p $MAMBA_CODE tar -xf codestral-mamba-7B-v0.1.tar -C $MAMBA_CODE チャット mistral-chat $HOME/7_MAMBA_CODE --...
Mistral-inferenceは、すべてのMistralモデル (7B,8x7B,8x22B) の公式の推論ライブラリです。pip でインストール mistral-inference で実行 mistral_inference.model からインポート トランスフォーマー mistral_inference.generate からインポート mistral_common.tokens.tokenizers.mistral からインポート MistralTokenizer から mistral_common.protocol.instruct.messages からインポート UserMessage から mistral_common.p...
mistral-inference==1.1.0は、訓練されたLoRAモデルの実行をサポートしています: https://github.com/mistralai/mistral-finetune 7BベースLoRAを訓練した後、以下のようにmistral-inferenceを実行できます: mistral_inference.modelからトランスフォーマーをインポート mistral_inference.generateからインポート生成 mistral_common.tokens.tokenizers.mistralからインポートMistralTokenizerをインポート mistral_common.protocol.instruct...