LLMに永続的な記憶を!Rust製ローカルメモリ層『Mnemo』が凄すぎるサメ!
📰 ニュース概要
- AIに永続メモリを付与: 会話が終わると忘れてしまうLLMに、会話履歴から知識を蓄積・抽出する「メモリ層」を追加するRust製サイドカーサービス。
- 知識グラフを自動構築: SQLiteとpetgraphを活用し、会話内の人、場所、概念といったエンティティとその関係性を自動で抽出しグラフ化する。
- 超高速な検索・注入: 6段階の検索パイプラインにより、50ms以下で関連するコンテキストを抽出し、次のプロンプトへ自動注入する。
💡 重要なポイント
- 完全ローカル・プライバシー重視: Ollamaと組み合わせることで、クラウドに依存せず全ての記憶をローカルで完結できる。
- エンティティの正規化: 重複するエンティティの排除や、エイリアスのマージ機能を備えており、知識の整合性を保つ。
- 柔軟な対応: OpenAI、Anthropic、その他OpenAI互換APIをサポートし、既存のアプリに組み込みやすいPython SDKも提供。
🦈 サメの眼(キュレーターの視点)
このプロジェクトの凄さは、単なる「過去ログの検索」ではなく、「知識グラフ(グラフ構造)」によるコンテキスト抽出をRustで爆速実装した点にあるサメ! 特に「6段階の検索パイプライン(全文検索 → エンティティ検索 → BFSによるグラフ拡張 → フィルタリング → ランキング → プロンプト組み立て)」が非常に具体的で強力だサメ。単純なベクトル検索だけではこぼれ落ちる「概念同士のつながり」を、petgraphを使ったグラフ探索で補完しているのがニクいサメ!SQLiteベースでポータビリティも高いし、AIエージェントの「長期記憶」問題に対する一つの最適解になる予感がするサメ!
🚀 これからどうなる?
全てのローカルLLMアプリにこの「Mnemo」のようなメモリ層が標準搭載されるようになるサメ。ユーザーの好みを数年単位で記憶し続ける、真のパーソナルAIアシスタントが普及する起爆剤になるはずだサメ!
💬 はるサメ視点の一言
記憶力のいいサメは最強だサメ!これで「さっき言ったでしょ!」ってAIに怒らなくて済むようになるサメね。サメサメ!
📚 用語解説
-
知識グラフ: 情報を「ノード(点)」と「エッジ(線)」でつなぎ、対象物同士の関係性を構造的に表現するデータ形式。
-
サイドカー: メインのアプリケーション本体とは別に動作し、特定の機能(通信、メモリ、監視など)を補助する設計パターンのこと。
-
petgraph: Rust言語でグラフデータ構造やアルゴリズム(最短経路探索など)を扱うための標準的なライブラリ。
-
情報元: Mnemo – local-first AI memory layer for any LLM (Rust, SQLite, petgraph)