产品介绍
Pezzo 是什么?
Pezzo 是面向大语言模型应用团队的开源云原生 LLMOps 平台。它把提示词管理、版本管理、即时交付、协作、可观测性、故障排查、缓存和运行监控集中到一个开发环境中。项目提供 Node.js 和 Python 客户端,并列出 LangChain 对提示词管理、可观测性和缓存的支持。
开发者可以通过 Docker Compose 在本地运行完整技术栈,也可以直接从源码参与开发。文档中的开发环境要求 Node.js 18 或更高版本及 Docker,并使用仓库提供的 Compose 配置启动基础设施服务。
如何使用 Pezzo
- 使用 npm 安装仓库依赖。
- 根据示例创建所需环境变量文件。
- 通过 Docker Compose 启动基础设施依赖。
- 在开发环境中运行 Pezzo 服务端和控制台。
- 通过受支持客户端连接应用,管理提示词并检查模型活动。
核心功能
- 提示词管理: 在统一运行系统中维护提示词及其变更。
- 版本与交付: 支持受控的提示词版本和 AI 变更交付。
- 可观测性: 记录活动,帮助团队监控 LLM 应用行为。
- 故障排查: 协助分析提示词和模型运行中的问题。
- 缓存: 通过列出的 Node.js、Python 和 LangChain 客户端提供缓存能力。
- 自托管开发: 提供 Docker Compose 配置以便在本地运行技术栈。
使用场景
- LLM 应用运维: 工程团队可在一个平台中管理提示词并监控生产行为。
- 提示词协作: 多位成员可组织并交付提示词变更,减少版本散落。
- 模型故障排查: AI 工作流异常时,开发者可检查运行数据。
- 自托管 LLMOps: 团队可在自有环境部署开源技术栈。
常见问题
Pezzo 是开源的吗?
是。仓库将 Pezzo 描述为开源 LLMOps 平台,并以 Apache 2.0 许可证发布。
列出了哪些应用客户端?
仓库列出 Node.js、Python 和 LangChain 客户端,用于提示词管理、可观测性与缓存。


