LangSmith 概述

LangSmith 是 LangChain 生态系统中专门用于 LLM（大语言模型）应用调试、监控、评估和管理的平台。

1. 追踪(tracing)：记录每次 LLM 调用的详细信息。
2. 监控(monitoring)：实时查看应用性能。
3. 调试(debug)：排查问题和优化性能。
4. 评估(evaluate)：系统化测试 LLM 应用

注册账号

在 官网(https://smith.langchain.com/) 注册账号并登录。

1. 进入设置页添加 API KEY。

2. 将 API KEY 配置到 .env 文件中

# ============ LangSmith 配置 ============
# 是否启用Langsmith监控功能
LANGSMITH_TRACING=true
# Langsmith监控WebUI地址
LANGSMITH_ENDPOINT=https://api.smith.LangChain.com
# 创建的API_KEY
LANGSMITH_API_KEY=<YOUR_API_KEY>
# 自定义项目名称，可以在Langsmith WebUI监控页面根据名称查看对应的运行记录
LANGSMITH_PROJECT="pr-clear-harmony-32"

操作面板

这是目前我能看到的操作面板，里面有很多菜单。

Tracing（追踪）

1. 功能：这是 LangSmith 最核心的功能。它会完整记录你大模型应用的每一次调用链路（Trace）。
2. 作用：当你的 Agent（智能体）或 RAG 系统运行变慢或报错时，点击进入对应的项目，你可以看到每一步具体的 Prompt 是什么、模型返回了什么、消耗了多少 Token，以及每一个链条节点的耗时，非常方便排查 Bug 和优化性能。

Monitoring（监控）

1. 功能：提供生产环境的高级数据可视化看板。
2. 作用：帮你从宏观角度监控应用在一段时间内的运行状况。你可以看到 Token 消耗趋势、QPS（每秒请求数）、错误率、平均延迟（Latency）以及成本预估。适合应用上线后观察系统的稳定性和开销。

Datasets & Experiments（数据集与实验）

1. 功能：用于管理测试数据集并运行对比实验。
2. 作用：你可以把用户的真实输入、特定的边界情况（Edge Cases）存为数据集。当你修改了 Prompt 或更换了底层大模型时，可以在这里运行自动化对比测试，直观看到新旧版本在同一批测试集上的表现差异。

Evaluators（评估器）

1. 功能：配置和自动化评估任务。
2. 作用：大模型的输出往往难以用传统的断言（Assert）来测试。这里允许你配置基于规则（如关键词匹配）或基于模型（LLM-as-a-judge）的评估指标（如：答案相关性、是否包含幻觉等），对追踪到的数据或实验结果进行自动打分。

Annotation Queues（标注队列）

1. 功能：人工反馈与数据清洗工具。
2. 作用：在应用开发或初上线阶段，你可以把一部分痕迹（Traces）发送到标注队列中，让团队中的核心成员、业务专家或人工客服进行手动打分、纠正回答或贴标签，这些高质量的人工标注数据后续可直接用于微调模型或充当测试集。

Prompts（提示词管理）

1. 功能：类似“提示词版的 GitHub”。
2. 作用：把 Prompt 从代码中解耦出来，统一在云端管理。你可以在这里对 Prompt 进行版本控制（如 v1 、 v2 ），直接在代码中通过 API 动态拉取最新的提示词。它还支持团队协作和 Prompt 的分享。

Playground（演练场）

1. 功能：一个网页端的模型交互界面。
2. 作用：无需写任何代码，直接在这里选择不同的模型（如 OpenAI、Anthropic 或是本地模型），快速微调并测试你的 Prompt 效果，还可以一键将调整好的 Prompt 保存到上方的 Prompts 仓库中。

Studio（工作室）

1. 功能：通常与 LangGraph 深度集成，提供可视化的图形交互界面。
2. 作用：如果你的应用是基于图结构（Graph-based）的复杂复杂 Agent 架构，Studio 可以让你可视化地看到状态机（State）在各个节点之间的流转，甚至支持在某个节点“暂停”，手动修改数据后再继续向下执行，是调试复杂智能体交互的利器。

Context Hub（上下文中心）

1. 功能：管理全局上下文或通用组件配置。
2. 作用：用于存放可在多个项目或 Prompt 中复用的公共上下文模板、全局变量或系统预设提示。

Deployments（部署）

1. 功能：一键将你的 LangChain 应用或 LangGraph Agent 部署为线上可用的 API 服务（通常依托于LangGraph Cloud）。
2. 作用：提供开箱即用的生产端点，帮你处理高并发、队列管理和状态持久化，让你专注于编写业务逻辑。

Sandboxes（沙盒）

1. 功能：提供轻量级的在线运行和测试环境。
2. 作用：在不污染生产环境的前提下，供开发人员安全地试运行、测试新部署的 Agent 或执行自动化脚本。

跑个 Demo 玩一下

main.py

from dotenv import load_dotenv
from langchain.chat_models import init_chat_model

load_dotenv(verbose=True)

model = init_chat_model(
    model = "ollama:deepseek-coder:latest"
)
print(model.invoke("介绍一下 Vue2", {
    "run_name": "TestConfigOptions",
    "tags": ["TestTag"],
    "metadata": {
        "user_id": "user_001",
        "session_id": "sess_001"
    }
}).content)