LLM Integration

Local AI のセクションでは AI が何をするかを説明しました。このセクションでは、その内部の仕組みを解説します。Quira の AI 機能は llama.cpp（クロスプラットフォーム）と MLX（Apple Silicon）で動作します。モデルは初回起動時にダウンロードされ、ローカルに保存されます。

NL Query の内部動作

自然言語クエリを送信すると、Quira は Context Graph 上で RAG（Retrieval-Augmented Generation）パイプラインを使用します：

1. クエリ埋め込み — 質問が 384 次元の埋め込みベクトルに変換されます。
2. 検索 — sqlite-vec が最もセマンティックに類似したノードを検索します。FTS5 がキーワードマッチで補完します。
3. コンテキスト組み立て — 取得されたノードの要約、エンティティ、メタデータが LLM のコンテキストウィンドウに組み立てられます。
4. 引用付き生成 — LLM が取得されたコンテキストに基づいた回答を、必須のソース引用付きで生成します。

AI 機能のレイテンシ