2026年7月30日
LMCache のリモートストレージ バックエンドとして Bigtable を使用できます。大型言語モデル (LLM) のキー値 (KV) キャッシュを Bigtable に外部に格納することで、複数の AI サービスインスタンスは、事前に計算された注意テンソーを共有し、再利用することができます。これにより、コンピューティングオーバーヘッドを削減し、繰り返されるプロンプトや共有ドキュメントのタイム・トゥ・ファースト・トークン (TTFT) を大幅に改善します。この機能はプレビューで