結論リード
Langfuseとは、LLMアプリやAIエージェントの実行を記録し、原因分析、プロンプト管理、品質評価を一つの場所で進めるオープンソースのAIエンジニアリング基盤です。「回答がおかしい」「遅い」「費用が増えた」という問題を、勘ではなくトレースと評価データから改善したい企業に向いています。
要点1〜3
1. LLM呼び出しだけでなく、検索、外部API、エージェント処理をトレースし、セッション単位で確認できます。
2. プロンプトの版管理、評価、データセット、実験を組み合わせ、変更前後の品質を比較できます。
3. Cloudは早く始めやすく、セルフホストは配置先を選べますが、後者では更新、監視、バックアップまで自社責任です。
対象
LLMアプリ、RAG、AIエージェントをPoCから本番へ移すDX推進、情報システム、開発、事業責任者。
今日やること
対象アプリを一つ選び、「品質」「応答時間」「1実行あたりの費用」の基準値を決め、機密情報を除いた検証環境からトレースを始めましょう。
この記事の目次
Langfuseは、生成AIアプリを「作って終わり」にせず、本番で観測し、評価し、改善するための基盤です。大規模言語モデル(LLM)の出力は、同じ入力でも変化する場合があります。モデルだけでなく、プロンプト、検索結果、会話履歴、外部ツールも結果に影響します。
そのため、一般的なエラーログだけでは、回答品質が落ちた理由を特定できないことがあります。Langfuseは一連の処理をトレースとして結び付け、どこで何が起きたかを追えるようにします。
ただし、導入しただけでAIの品質が上がるわけではありません。何を記録するか、何を合格とするか、誰が改善するかを決めて初めて価値が出ます。本記事では、2026年8月24日時点の公式情報を基に、機能、料金、使い方、企業導入の注意点を解説します。
Langfuseとは
Langfuseとは、LLMアプリケーションの開発、監視、評価、デバッグを支援する、オープンソースのAIエンジニアリング基盤です。公式ドキュメントでは、チームが共同でLLMアプリをデバッグ、分析、反復改善するためのプラットフォームと説明されています。
中心にあるのは、LLM Observability(LLMオブザーバビリティ)です。これは、アプリの内部で起きた処理を記録し、出力だけでは見えない原因を調べられる状態にする考え方です。単に稼働しているかを見る監視よりも、なぜその結果になったかを追うことに重点があります。
Langfuseはモデルそのものではありません。OpenAIなどのモデルAPIや、LangChain、LlamaIndex、独自アプリと接続して使う運用層です。LLMの前提から整理したい場合は、LLMの仕組みと企業活用の基本も参照してください。
なぜLLMアプリには専用の観測が必要なのか
通常のWebアプリでは、HTTPエラー、CPU使用率、データベースの遅延などが主要な監視対象です。LLMアプリでは、それらに加えて次の変数が結果を左右します。
- どのモデルと設定を使ったか
- システムプロンプトとユーザー入力は何だったか
- RAGがどの文書を検索したか
- AIエージェントがどのツールを、どの順序で呼んだか
- 入出力トークンと推定費用はいくらか
- 利用者や評価者が回答をどう評価したか
- 一連の会話で、どの時点から回答が崩れたか
たとえば、社内検索AIが誤回答したとしても、原因はモデルとは限りません。古い文書を検索した、関連文書を取得できなかった、プロンプトが根拠の引用を求めていなかった、という可能性があります。
Langfuseでは、一連の処理をトレースとして記録します。その中にモデル呼び出し、検索、埋め込み、API、エージェントの行動などを含められます。結果と途中経過を同じ文脈で見られる点が、通常のログとの大きな違いです。
Langfuseの主要機能
公式ドキュメントと公式GitHubでは、Observability、Prompt Management、Evaluation、Datasets、LLM Playground、APIなどが中核機能として示されています。ここでは、企業運用での役割に分けて説明します。
Observabilityで実行全体を追跡する
Observabilityでは、アプリ内の処理をトレースとして収集し、階層や時系列で確認します。公式ドキュメントによると、LLM呼び出しだけでなく、検索、埋め込み、API呼び出しなども記録対象にできます。
複数回のやり取りはセッションとしてまとめられます。利用者単位の追跡や、エージェント処理のグラフ表示にも対応します。単発の回答だけでなく、会話の流れや分岐を含めて調べられます。
実務では、次のような調査に使えます。
- エラーが発生した処理と入力を特定する
- 応答が遅い工程を見つける
- モデル別、機能別の利用量や費用傾向を把握する
- 低評価の回答に共通する検索結果やプロンプトを調べる
- エージェントが不要なツールを繰り返した経路を確認する
重要なのは、すべてを無制限に保存することではありません。目的に必要な属性を選び、個人情報や秘密情報を記録しない設計が必要です。
Prompt Managementで変更を管理する
Prompt Managementは、プロンプトを一元管理し、版を分けて改善する機能です。アプリのソースコードから文言を切り離せば、変更履歴や利用中の版を追いやすくなります。
プロンプトはAIアプリの挙動を左右する設定です。しかし、担当者が本番の指示文を直接上書きすると、いつ、誰が、なぜ変更したか分からなくなります。Langfuseでは版管理を前提にし、テストした版を段階的に採用する流れを作れます。
良いプロンプトは、長いプロンプトとは限りません。目的、入力、出力形式、禁止事項、根拠の扱いを明確にし、実際の入力群で評価する必要があります。設計の基礎はプロンプトエンジニアリング完全ガイドで詳しく解説しています。
Evaluationで品質を数値化する
Evaluationは、LLMアプリの出力を一定の基準で評価する機能です。公式GitHubでは、LLM-as-a-Judge、コードによる評価、ユーザーフィードバック、手動ラベル、独自評価パイプラインが挙げられています。
LLM-as-a-Judgeは、別のLLMに採点基準を渡し、回答を評価させる方法です。大量の結果を同じ観点で一次評価しやすい一方、評価モデルにも偏りや揺れがあります。重要な用途では、人による確認や決定的なルールと組み合わせます。
評価指標は、用途ごとに変える必要があります。
| 用途 | 評価指標の例 |
|---|---|
| 社内検索 | 根拠一致率、引用の正確さ、回答不能時の抑制 |
| 問い合わせ回答案 | 解決率、事実性、トーン、担当者の修正量 |
| 情報抽出 | 必須項目の再現率、形式エラー率、誤抽出率 |
| AIエージェント | タスク完了率、不要な操作数、失敗時の停止率 |
| 文章生成 | 要件充足率、禁止表現、編集時間、再生成率 |
平均点だけを見ると、重大な失敗が埋もれます。個人情報の出力、権限外データの参照、誤った外部操作などは、発生率が低くても別の失格条件として扱うべきです。
DatasetsとExperimentsで変更前後を比較する
Datasetsは、評価に使う入力、期待値、メタデータなどをまとめる機能です。本番で失敗した入力や、業務上重要な代表例を蓄積すれば、変更時の回帰テストに使えます。
Experimentsでは、同じデータセットに対してプロンプト、モデル、検索設定などを変えて実行し、結果を比較します。「新しいモデルだから良い」と決めず、自社の入力で品質、速度、費用を見るための仕組みです。
評価データは、成功例だけでは不十分です。曖昧な質問、対象外の依頼、古い情報、長文、入力欠損、悪意ある指示なども含めます。本番の失敗を継続的にデータセットへ戻すと、改善が属人的な記憶ではなく資産になります。
Playground、API、各種統合
LLM Playgroundでは、プロンプトやモデル設定を試し、結果を比較できます。トレースで悪い回答を見つけ、Playgroundで修正案を試すという短い改善ループを作れます。
また、Python、JavaScript/TypeScript向けSDKやAPIが用意されています。公式情報では、OpenAI SDK、LangChain、LlamaIndex、LiteLLM、Vercel AI SDK、Mastra、OpenTelemetryなどとの連携が案内されています。
OpenTelemetryは、分散システムのトレースやメトリクスを扱う標準的な枠組みです。既存アプリがOpenTelemetryのspanを出している場合、観測基盤全体との整合を取りやすくなります。Langfuseの公式ドキュメントも、OpenTelemetryを互換性向上とロックイン低減の要素として示しています。
\ Claude Codeの導入、何から始めればいいかわかります /
法人様のAI導入に関するご相談はこちらLangfuseでできること
機能一覧だけでは、導入効果を判断しにくいものです。ここでは、業務上の課題に置き換えて整理します。
誤回答の原因をモデル以外まで追える
最終出力だけを保存していると、問題の原因を推測するしかありません。トレースがあれば、検索結果、ツール実行、プロンプト、モデル応答を順に確認できます。
RAGでは、検索品質と生成品質を分けて考えることが重要です。正しい文書を取得できなければ、優れたモデルでも正確に答えられません。企業向けRAGの仕組みと構築手順も合わせて確認してください。
遅延と費用を処理単位で改善できる
AIアプリの応答時間は、モデルだけで決まりません。検索、再ランキング、複数回のモデル呼び出し、外部API、ツールの再試行が積み重なります。
トレースを工程別に見れば、遅い箇所や呼び出し回数の増加を発見しやすくなります。高速なモデルへの変更、不要な再試行の削減、キャッシュ、プロンプト短縮など、具体的な改善へつなげられます。
費用も月額合計だけでなく、機能、顧客、処理種別、成功・失敗で分解することが重要です。失敗した処理に費用を使い続けていないかを見ると、単純なモデル単価比較より有効な場合があります。
品質改善をチームの定常業務にできる
本番運用では、開発者だけで回答品質を判断できません。業務担当者が低評価の回答へラベルを付け、開発者がトレースを調べ、修正版をデータセットで検証する流れが必要です。
Langfuseは、この共同作業の土台になります。一方、会議で「最近精度が悪い」と話すだけでは、改善対象も成果も曖昧なままです。評価指標、担当者、改善期限を運用ルールとして定める必要があります。
Langfuse Cloudとセルフホストの違い
Langfuseには、運営元が管理するLangfuse Cloudと、自社環境へ配置するセルフホストがあります。どちらが安全かを名称だけで決めるのではなく、データ、運用能力、可用性、契約要件から選びます。
| 項目 | Langfuse Cloud | セルフホスト |
|---|---|---|
| 開始まで | アカウントとプロジェクトを作りやすい | 基盤構築と設定が必要 |
| 基盤運用 | サービス側が担当 | 自社が更新、監視、復旧を担当 |
| 配置先 | 提供される環境、リージョン | 自社方針に沿って選択可能 |
| 拡張性 | プランとサービス仕様に依存 | 構成に応じて設計可能 |
| 初期負担 | 比較的小さい | インフラと運用設計が必要 |
| 向く状況 | PoC、早期導入、少人数運用 | 配置・統制要件、自社運用能力がある |
公式セルフホスト文書では、低規模や検証向けにDocker Composeが案内されています。ただし、この構成は高可用性、スケーリング、バックアップ機能を欠くため、低規模向けと明記されています。本番規模ではKubernetes(Helm)や、AWS、Azure、GCP向けTerraform構成が推奨されています。
「Dockerで起動できた」と「本番運用できる」は別です。データベース、オブジェクトストレージ、暗号化、秘密情報、監視、容量、バックアップ、復旧試験、更新手順まで設計します。
ソースコードのライセンスにも注意が必要です。2026年8月24日時点の公式LICENSEでは、ee/など指定ディレクトリ以外はMIT Expatですが、指定部分は別ライセンスです。セルフホスト文書も、一部の追加機能にはライセンスキーが必要と説明しています。商用利用や再配布では、利用する機能と最新のライセンスを法務担当者と確認してください。
\ 業務自動化のお悩み、プロが30分で整理します /
法人様のAI導入に関するご相談はこちらLangfuseの料金
2026年8月24日時点の公式料金ページでは、Langfuse CloudにHobby、Core、Proなどが掲載されています。代表的な3プランは次の通りです。
| プラン | 月額 | 含まれる使用量 | データアクセス | ユーザー |
|---|---|---|---|---|
| Hobby | 無料 | 月50,000 units | 30日 | 2人 |
| Core | 29米ドル | 月100,000 units | 90日 | 無制限 |
| Pro | 199米ドル | 月100,000 units | 3年 | 無制限 |
CoreとProでは、掲載上、追加100,000 unitsあたり8米ドルで、量に応じた低減があると説明されています。料金、unitsの算定、上限、機能、税、為替は変更される可能性があります。契約前に必ずLangfuse公式料金ページで最新条件を確認してください。
料金表に出ないコスト
Langfuseの月額だけで、AIアプリの運用費は決まりません。次の費用も含めて総保有コストを試算します。
- OpenAIなど接続するモデルのAPI料金
- クラウド、データベース、ストレージ、通信の費用
- セルフホストの監視、更新、バックアップ、障害対応
- トレース項目の設計と実装
- 評価データの作成、採点、見直し
- 個人情報のマスキングとアクセス制御
- ダッシュボード確認、改善、問い合わせ対応の人件費
無料プランは、概念実証に適しています。ただし、本番で必要な保持期間、利用者数、監査、サポート、使用量を先に見積もらないと、移行時に設計をやり直すことがあります。
AI活用の設計やツール選定にお悩みですか?
NexaのAI顧問サービスでは、業務選定からPoC、評価指標、運用設計まで伴走します。
Langfuseの使い方
Langfuseは、コードへSDKを追加するところから始められます。しかし、企業導入では目的とデータの設計を先に行うほうが安全です。以下の順序で、小さく検証してください。
1. 対象業務とKPIを決める
最初の対象を一つに絞ります。「AIの品質を上げる」ではなく、次のように測定可能な目標へ変えます。
- 社内検索の根拠一致率を測る
- 問い合わせ回答案の担当者修正率を下げる
- 95パーセンタイルの応答時間を把握する
- 1件の完了タスクあたりのモデル費用を算出する
- エージェントの不要なツール実行を検出する
品質、速度、費用の最低3軸を置くと、一つの指標だけを改善して別の指標を悪化させる事態を避けやすくなります。
2. Cloudかセルフホストかを選ぶ
PoCを早く始めるならCloudが候補です。配置先、閉域、独自の保持方針などが必須ならセルフホストを検討します。
判断前に、情報区分、送信可能なデータ、保持期間、利用者、認証、監査ログ、復旧目標を整理します。セルフホストを選ぶ場合は、構築担当者だけでなく、継続運用の担当者と予算も決めます。
3. プロジェクトとAPI認証情報を用意する
Cloudではアカウントとプロジェクトを作成します。セルフホストでは、公式手順に沿って環境を構築します。その後、プロジェクト設定でAPI認証情報を作成します。
認証情報をソースコードやGitへ直接書かないでください。環境変数や秘密情報管理サービスを使い、開発、検証、本番で分離します。漏えい時に無効化、再発行できる手順も用意します。
4. SDK、統合、OpenTelemetryで計装する
公式の開始ガイドでは、Python、JavaScript/TypeScript SDK、OpenAI SDK統合、LangChain、Vercel AI SDK、OpenTelemetryなどを選べます。既存技術に合う方法を使います。
OpenAI Python SDKを利用している場合、公式ガイドはLangfuseのラッパーをドロップイン置換として案内しています。概念上は、パッケージを導入し、Langfuseの認証情報と接続先を環境変数で設定し、ラップされたクライアントから呼び出します。
具体的なコードはSDKの更新で変わるため、実装時は公式のTracing開始ガイドを参照してください。OpenAI API自体の認証、料金、安全な設計はOpenAI APIの企業向けガイドで確認できます。
5. 最初のトレースを確認する
検証用の入力を送り、Langfuse画面でトレースを確認します。次の項目が意図通りかを見ます。
- トレース名と処理種別
- モデル、プロンプト、入力、出力
- 開始、終了、応答時間
- トークンや費用に関する情報
- 検索、外部API、ツール実行の親子関係
- セッションIDとユーザーIDの付け方
- エラーと再試行
この段階では、実在顧客のデータではなく、匿名化したテストデータを使います。画面に見える情報だけでなく、保存先へ送信される項目全体をレビューしてください。
6. 評価データセットを作る
代表的な正常入力だけでなく、失敗しやすい入力も集めます。各入力について、期待する要素、許容できない結果、採点方法を決めます。
たとえば、社内規程の回答なら、正しい結論だけでは不十分です。最新版の根拠を引用したか、権限外情報を表示していないか、根拠がなければ回答を控えたかも評価します。
最初は20〜50件程度の重要例から始め、実運用で見つかった失敗を追加します。件数を増やすことより、事業上のリスクを代表していることが重要です。
7. 小規模運用から本番へ移す
本番化の前に、次の運用を決めます。
- 低評価や障害を誰が毎週確認するか
- プロンプト変更を誰が承認するか
- 新しい版をどのデータセットで評価するか
- 品質悪化時にどう切り戻すか
- トレースの保持と削除をどう行うか
- 利用量と費用のしきい値をどう通知するか
本番では、すべてのトレースを永久保存する必要はありません。保持期間、サンプリング、重要処理の全件記録を使い分け、調査可能性と費用、プライバシーを両立させます。
\ AI活用の「次の一手」を一緒に考えませんか /
法人様のAI導入に関するご相談はこちら企業がLangfuseを導入する際の注意点
入力と出力に機密情報を残さない
トレースには、プロンプト、利用者の入力、モデル出力、検索結果、ツール引数が含まれ得ます。つまり、デバッグに便利な情報ほど、漏えい時の影響も大きくなります。
保存前のマスキング、収集項目の最小化、暗号化、保持期間、削除手順を決めます。氏名、メールアドレス、契約情報、認証情報、社外秘文書を無条件で送らない設計にしてください。
「セルフホストだから安全」ではありません。アクセス権の誤設定、バックアップ、管理者端末、脆弱性対応など、自社が守る範囲が増えます。Cloudもセルフホストも、実際のデータフローを図にして審査する必要があります。
権限を環境と役割で分ける
開発者全員が本番トレースを閲覧できる設計は避けます。開発、検証、本番のプロジェクトを分け、業務上必要な利用者だけに権限を付けます。
API認証情報も環境ごとに分離します。読み取り、書き込み、管理の権限が分けられる場合は、最小権限を適用します。退職、異動、委託終了時の削除手順も、導入時に作っておきます。
評価指標を事業成果につなげる
技術指標だけでは、投資効果を説明できません。トークン数や遅延に加え、担当者の修正時間、一次解決率、処理完了率、顧客満足、事故件数などを追います。
一方、評価点が高くても、業務時間が減らなければ導入効果は限定的です。モデルの点数と事業KPIを結び付け、改善の優先順位を決めます。
本番障害を前提にする
Langfuseへの送信失敗が、本来のAI機能まで停止させない設計を検討します。観測処理を非同期化する、タイムアウトを置く、キューを使う、再送上限を決めるなどの方法があります。
同時に、トレース欠損を放置してはいけません。収集率、遅延、エラー、保存容量を監視し、観測基盤そのものの健全性も確認します。
バージョン更新と互換性を管理する
Langfuse本体、SDK、統合先、データベースは更新されます。本番へ直接適用せず、検証環境で移行、互換性、性能、保持データを確認します。
セルフホストでは、更新しないリスクも自社が負います。脆弱性情報とリリースノートを定期確認し、バックアップと切り戻しを含む更新手順を用意してください。
Langfuseに関するよくある質問
Q. Langfuseは無料で使えますか
Langfuse CloudにはHobbyの無料プランがあります。2026年8月24日時点では、月50,000 units、30日間のデータアクセス、2ユーザーが掲載されています。セルフホストも可能ですが、サーバー、データベース、監視、更新、人件費は別途必要です。最新条件は公式料金ページで確認してください。
Q. LangfuseはOpenAI専用ですか
OpenAI専用ではありません。公式ドキュメントとGitHubは、Python、JavaScript/TypeScript SDK、LangChain、LlamaIndex、LiteLLM、Vercel AI SDK、OpenTelemetryなどの統合を案内しています。実装方法は使用する言語、モデル、フレームワークに応じて選びます。
Q. セルフホストすれば無料ですか
ソフトウェアを利用できても、運用費がゼロになるわけではありません。インフラ、保存容量、バックアップ、監視、更新、障害対応、セキュリティ対策の費用がかかります。一部の追加機能にはライセンスキーが必要と公式文書に記載されているため、必要機能も確認してください。
Q. Langfuseを入れると回答精度は上がりますか
自動的には上がりません。Langfuseは、失敗を見つけ、原因を調べ、変更を評価するための基盤です。評価データセット、合格基準、改善担当者、変更手順がそろって初めて、継続的な品質向上につながります。
まとめ
Langfuseは、LLMアプリのトレース、プロンプト管理、評価、データセット、実験を一体化するオープンソースのAIエンジニアリング基盤です。モデル呼び出しだけでなく、検索や外部API、エージェント処理まで結び付けて確認できるため、複雑なAIアプリの改善に向いています。
Cloudは早く始めやすく、セルフホストは配置先を選べます。ただし、どちらもデータ分類、アクセス権、保持期間、評価基準、改善責任者が必要です。料金表だけで選ばず、モデルAPI、基盤、評価、運用人件費を含む総保有コストで比較してください。
最初の一歩は、大規模な全社導入ではありません。一つのアプリで品質、速度、費用の基準値を測り、匿名化した検証データをトレースします。その結果から、Langfuseが自社の改善サイクルに合うかを判断しましょう。
生成AIを本番運用へ進めたい企業の方へ
NexaのAI顧問サービスでは、対象業務の選定、評価設計、セキュリティ、運用体制づくりまで支援します。
参考資料
- Langfuse公式ドキュメント:Overview(2026年8月24日確認)
- Langfuse公式ドキュメント:Get Started with Tracing(2026年8月24日確認)
- Langfuse公式:Pricing(2026年8月24日確認)
- Langfuse公式:Self-host Langfuse(2026年8月24日確認)
- Langfuse公式GitHub(2026年8月24日確認)
- Langfuse LICENSE(2026年8月24日確認)


