langfuse /langfuse

🪢 Open source agent evals & observability: Trace, evaluate, and improve LLM applications with one open platform.

★ 37,244⑂ 4,193👁 111⑃ 12,849● 3,248▤ 737◈ 3,695
TypeScriptNOASSERTIONCreated 2023-05-18langfuse.com
37,244
stars
+66+347
4,193
forks
111
watchers
12,849
prs
3,248
issues
737
releases
3,695
discussions

README

🇨🇳 🤝 🪢
          · 
         
            Langfuse Cloud
          · 
         
            自托管
          · 
         
            演示
         
      
   

   
      文档 ·
      报告问题 ·
      功能请求 ·
      更新日志 ·
      路线图
   
   



   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   



  
  
  
  


Langfuse 是一个 开源 AI 工程平台,专注于 AI 代理评估与可观测性。它是一个开放平台,覆盖你公司发起的每一次 AI 调用和团队构建的每一个代理:跟踪用量和成本,追踪并评估 代理,并利用生产数据打造更好的 AI。你可以使用 Langfuse Cloud,也可以在几分钟内 自托管;Langfuse 已在大规模场景中经过 实战考验。

观看项目的快速演示:



 ✨ 核心特性



- AI 可观测性:为你的应用添加埋点,并开始将追踪数据发送到 Langfuse,从而追踪 LLM 调用及应用中的其他相关逻辑(如检索、嵌入或代理操作)。检查并调试复杂日志及用户会话。基于 OpenTelemetry 构建。试试互动 演示 看看效果。

- 提示管理 帮助你集中管理、版本控制并协作迭代提示。得益于服务器和客户端的高效缓存,你可以在不增加应用延迟的情况下迭代提示。LLM 试玩平台 可用于测试提示和模型配置;当你在追踪中发现不理想的结果时,可以直接跳转到试玩平台进行迭代。

- 技能管理(beta)为代理技能提供版本控制和标签:每个技能包含一个带有任务指令的 SKILL.md 以及可选的辅助文件。无需修改应用代码即可推广或回滚版本,并将技能版本与其产生的追踪关联起来。

- 评估 是 AI 代理开发流程的关键环节,Langfuse 能够满足你的多样需求。它支持 LLM-as-a-judge、代码评估器、用户反馈收集、手动标注,以及通过 API/SDK 实现的自定义评估流程。使用 数据集与实验 构建测试集和基准,用于部署前测试和持续改进。

- AI 网关(beta)为你的组织提供一个统一的端点来调用各模型提供商。集中保管提供商凭证,为每个用户或服务账号发放网关密钥,集中审批模型,按用户、密钥和模型追踪 AI 支出,并将每次调用记录为 Langfuse 追踪。

- 指标与仪表板:通过 自定义仪表板、指标 API 和告警,从任意维度追踪延迟、成本和质量。

- 综合 API:Langfuse 常被用来驱动定制化的 AI 工程工作流,并通过 API 使用 Langfuse 提供的构建模块。我们提供 OpenAPI 规范、Python 和 JS/TS 的类型化 SDK、Langfuse CLI,以及面向编码代理的 Langfuse Agent Skill。

 📦 部署 Langfuse



 Langfuse Cloud

由 Langfuse 团队管理的部署,提供慷慨的免费额度,无需信用卡。

注册 Langfuse Cloud →

 自托管 Langfuse

在你自己的基础设施上运行 Langfuse:

- Docker Compose:在 5 分钟内于你自己的机器或单台虚拟机上运行 Langfuse。该指南还介绍了如何配置 Docker 日志轮转,避免容器日志占满磁盘。

  bash
   获取最新的 Langfuse 仓库副本
  git clone --depth=1 https://github.com/langfuse/langfuse.git
  cd langfuse

   运行 Langfuse 的 docker compose
  docker compose up
  

- Kubernetes(Helm):使用 Helm 在 Kubernetes 集群上运行 Langfuse。这是推荐的生产环境部署方式。
- Terraform 模板:AWS、Azure、GCP
- 社区维护:Render、Railway

请参阅 自托管文档 了解更多关于架构和配置选项的信息。

 [!TIP]
 正在自托管 Langfuse? 订阅 自托管更新列表,通过邮件获取开源 Langfuse 的重要功能和新版本发布信息——仅限自托管更新,没有营销内容。

 🔌 集成



Langfuse 基于 OpenTelemetry 构建,因此任何使用 OpenTelemetry 埋点的应用、框架或 Collector 都可以将追踪数据发送到 Langfuse。

 主要集成

| 集成                                                                            | 支持语言/平台                   | 描述                                                                                                                                 |
| ------------------------------------------------------------------------------- | ------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------ |
| OpenTelemetry         | 任意语言                        | 从你的应用或 OpenTelemetry Collector 将 OTLP 追踪发送到 Langfuse 的 OpenTelemetry 端点。                                             |
| Langfuse AI 网关(beta)          | 任意 OpenAI 或 Anthropic 客户端 | 通过一个端点路由模型调用,无需修改 SDK 或代码即可追踪每次调用、集中保管提供商密钥并追踪成本。                                        |
| SDK                     | Python, JS/TS                   | 使用 SDK 进行手动埋点,实现完全的灵活性。                                    

Top issues

Discussions

Latest release

v4.76.0 v4.76.0 2026-11-05
What's Changed

 Features
 feat(sessions): Add chronological session list view by @bezbac in https://github.com/langfuse/langfuse/pull/19650
 feat(telemetry): report AI gateway key count from self-hosted instances by @wochinge in https://github.com/langfuse/langfuse/pull/19680
 feat(topics): add Topics summaries, assignments and rules to the public API, MCP and in-app agent by @LysanderKie in https://github.com/langfuse/langfuse/pull/19308
 feat(audit-logs): record read-access events for tRPC trace, session and score reads by @Steffen911 in https://github.com/langfuse/langfuse/pull/19625

Snapshot: 2026-11-10T09:35:25Z · Data license Apache-2.0 · JSON