llamafile v0.10.4 について
このLamafileのリリースがもたらす最もエキサイティングな機能は Transcribefileの最初のバージョンです! Transcribefileは、transcribe.cppのCLIツール、 @cjpaisの ggmlベースのスピーチ・トゥ・テキストライブラリで、16以上のモデルファミリーをサポートする cosmoccビルドに過ぎません。これに加えて、上流と新しい同期。..
このLamafileのリリースがもたらす最もエキサイティングな機能は Transcribefileの最初のバージョンです! Transcribefileは、transcribe.cppのCLIツール、 @cjpaisの ggmlベースのスピーチ・トゥ・テキストライブラリで、16以上のモデルファミリーをサポートする cosmoccビルドに過ぎません。これに加えて、上流と新しい同期。..
このリリースは主に0.10.2で導入されたリグレッションのバグ修正です (この問題を開いた @niutech に感謝します!🙏) リリース頻度が高まるにつれて、私たちはプロセスをより自動化し、よりオープンにするために取り組んでいます。このPRは新しい llamafile/release.sh スクリプトをもたらし、新しいリリースファイルを作成するために使用されます (次のリリース前までテストします。..
変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点 変更点
変更点概要: vulkan dylibs のサポートが追加されました。Windows のビルドスクリプト -> cuda,rocm,vulcan が .so と .dll のライブラリの両方で追加されました。 llama.cpp サブモジュールが 5e9c63546 に更新されました。 -> llama.cpp が新しいモデル (例えばgemma-4,bonsai,Qwen3.6) と機能 (例えばllama.cpp エージェント用の内部ツール) 詳細: #918 の @aittalam によって README_0.10.0 を修正。..
llamafileのバージョンは0.10.0から新しいビルドシステムを使用し、コードを llama.cppの最新バージョンとより簡単に調整することを目的としています。これは新しいモデルと機能をサポートしていることを意味しますが、同時に、あなたが慣れている機能の一部が欠けている可能性があります (このドキュメントを見てください。"クラシック"が好きなら。..
変更点 #740 の @rsanheim によるトラブルシューティングガイドへのリンクを修正 #733 の @dmcardle による JS で相対的な URL を作成するときに URL パスを保存 #742 の @cjpais による LocalScore + Respect NO_COLOR env var に Plaintext 出力オプションを追加 #743 の @cjpais による 更新 README.md, 修正 llama 8B テーブル統計 による @cjrh による #745 の @cjrh による Phi4 サポートを追加 #744 の Qwen3 サポート による @cjpais による #743 の 新しい貢献者 @rsanheim がフィ。..
Llamafile Llamafile v0.9.2は重要なリリースです。サポートを追加: DeepSeek Distil R1 Models Gemma 3 IBM グランイト ロカルスコー さらに 0.9.2 では、ベンチマークユーティリティとウェブサイトであるロカルスコーが導入されている。LocalScoreはオープンソースのツールで、Large Language Models (LLM) が特定のハードウェアでどの程度速く動作するかをベンチマークし、これらの結果のリポジトリとして機能します。ローカルスコアを作りました
このリリースでは、DeepSeek Distil モデルへのサポートが追加されています。Nvidia GPU で実行するときにセグエラーを修正します。What's Changed Update Makefile: チェックから cosmocc と cosmocc-ci に対応する PHONY を修正 @mofosyne in #683 Windows 11 の WSL 2 コマンドを反映する README を更新 @peteski22 in #685 DeepSeek-R1 モデルへのサポートを追加 @Xydane in #687 Cosmopoli をリバート。..
新しい llamafiler サーバーの 既知の問題をすべて解決し Web gui を改善しましたLlamafile --server --v2として利用できます。 Llamafile --server --v2は、Lamafile --server --v2として利用できます。そのマニュアルは llamafile --server --v2 --help でアクセスできますe64c7e2 llamafileバイナリー a8fd4d2に llamafiler を追加する 多数のスロット管理を改善する 4158265 速やかな処理のために進捗バーを表示する we...
llamafilerには新しいWeb UIがあり、チャットボットとRawCompletingという2つの操作モードをサポートしています。CLIのチャットボットと同じくらい高度です古いウェブUIよりもずっと綺麗です将来のリリースでは llamafiler が llamafile に折りたたまれ、古いサーバーを入れ替える。988c9ec Web ui 241bf21 の原始完了を導入 新しいサーバーの /v1/完了エンドポイントを導入 6d89f8f b を追加。..
Julia文法ハイライトサポートを追加 MTバグによるWindows上の障害を修正 チャットボットのコンテキストウィンドウ管理の精度を向上させる 新しい llamafilerサーバーは現在 GPU をサポートしています。- 999の旗を渡して新しい llamafiler サーバーの /v1/chat/completions エンドポイントは、すぐにキャッシングをサポートします。--slots COUNT と --ctx サイズトークンフラグを使用して設定できます。