コンテンツにスキップ

未翻訳のページは英語で開き、英語と表示されます。

このページは英語の原文の機械翻訳です。内容は英語の原文が優先されます。 Machine-translated from the English page, which is authoritative.

ClickHouse 上のセルフホスト型エージェントメモリ

Loom は自社のインフラストラクチャ上で、Docker または Helm チャートを使った Kubernetes で動作し、エージェントのメモリ、ドキュメント、会話、コードインデックスを ClickHouse のテーブルとして保存します。デプロイ時には、ライブのメモリとナレッジの状態に Postgres を初回起動時に選択できます。データは自分のストアにのみ保存され(設定したホスト型モデルプロバイダーとトレースシンクは、処理する内容を受け取ります)、エージェントが知っていることは SQL でクエリできます。

提供される機能

  • Docker または Kubernetes。 ワンライナーのインストーラーでローカルスタックを起動できます。Helm チャートは、1 つの URL の背後で N 個の同一レプリカを実行します。デプロイ · Kubernetes · N 個のレプリカの実行
  • ClickHouse OSS または ClickHouse Cloud。 ClickHouse の選択 · ClickHouse Cloud と Managed Postgres
  • ベクトル、テキスト、監査を 1 つのストアに。 デフォルトの ClickHouse オーソリティでは、ベクトル検索、全文検索、グラフ検索、フィルター、監査、消去がすべて 1 つのデータベース内の SQL で行えます。 ストレージオーソリティ
  • マルチユーザー。 組織、名前空間、ロール、トークン、シングルサインオンに対応します。 ID と名前空間 · シングルサインオン
  • ローカルモデル。 リリース版のスタックは、同梱のローカルモデルを使って CPU 上で埋め込みを行います。また、埋め込みプロバイダーは、自分で運用する OpenAI 互換のエンドポイントを受け付けます。 モデルと API キー

計測結果

キーあたり 2.4 バージョンのメモリと 3072 次元の埋め込み(1 行あたり 2 つのベクトル)を使った合成負荷では、ClickHouse 上でキーあたり約 13.6 KB でした。そのほとんどは埋め込みの行が占めています。より小さな埋め込みモデルなら使用量は減り、行数の少ないパートは、マージされるまで 1 行あたりのサイズがやや大きくなります。 大規模時のメモリ

はじめに

クイックスタート · 前提条件 · アップグレード · バックアップとリカバリ