产品介绍
Guardrails AI 是什么？
Guardrails AI 是用于跨模型和部署环境构建、治理和扩展生产级生成式 AI 的可靠性平台。它覆盖 AI 生命周期的三个阶段：为训练和优化创建真实感合成数据，生成暴露风险边界情况的评估数据集，以及部署阻止不安全或不合规输出的运行时控制。
平台旨在让应用到达用户前即可量化失败模式，并在部署后执行政策。运行时 guardrails 会检查模型或智能体是否存在政策违规、幻觉和敏感数据泄漏，再根据配置规则阻止或处理问题输出。
如何使用 Guardrails AI
- 定义应用的可靠性、安全、隐私和政策要求。
- 在真实训练数据不足时生成合成用户、场景或样本。
- 构建聚焦边界情况和风险结果的动态评估数据集。
- 使用这些评估运行模型或智能体，并量化失败模式。
- 为禁止内容、幻觉和数据泄漏配置运行时 guardrails。
- 将控制与生产应用一同部署，并持续监控违规。
核心功能
- 合成数据： 为微调、蒸馏和提示优化生成真实感数据集。
- 动态评估： 针对边界情况和风险行为，而不只依赖静态测试。
- 失败测量： 在客户遇到问题前量化智能体的故障点。
- 运行时 guardrails： 检查并阻止违反配置政策的输出。
- 幻觉控制： 在回复到达用户前检测可靠性问题。
- 数据泄漏防护： 识别暴露受保护或敏感信息的输出。
- 模型与部署灵活性： 跨语言模型和环境应用可靠性流程。
使用场景
- 智能体红队测试： 生成对抗性或异常用户场景，发现薄弱行为。
- 发布前评估： 部署前测量安全和质量回归。
- 政策执行： 阻止违反组织或监管规则的输出。
- 隐私保护： 检测生成回复中的敏感信息。
- 训练数据扩展： 为微调或蒸馏创建多样样本。
- 提示优化： 使用可重复评估数据集比较提示词。
价格
首页提供立即试用和销售联系入口，但本次审核内容没有展示标准套餐价格。当前商业与用量条款需要向 Guardrails AI 确认。
常见问题
Guardrails AI 只在部署后运行吗？
不是。它还为训练和发布前测试生成合成数据与评估数据集。
运行时 guardrails 能检测什么？
首页列出政策违规、幻觉和数据泄漏。
可以配合不同模型使用吗？
可以。平台描述为适用于任何语言模型和部署环境。
