
LLM Guard 提供应用输入输出的可配置扫描组件,可在生成前后检查文本是否应进入人工复核。

| 功能 | 实际用法 |
|---|---|
| 输入扫描 | 用已授权的样本检测已定义的敏感类型 |
| 结果检查 | 验证输出是否符合应用设置 |
| 记录与复审 | 保留必要的报告并按组织规定处理 |
| 产品 | 适用情形 |
|---|---|
| LLM Guard | 需要在代码应用中加入内容扫描 |
| Guardrails AI | 希望验证结构和产品业务条件 |
| NeMo Guardrails | 需要组合模型运行流程的规则 |
官方 Python 包为 MIT 许可,自建资源、依赖与第三方服务按实际使用计算。
核对公开表单里格式不正确的项目,把确实需要评估的内容另交人工。
依据实际配置与所选组件。
按照官方库依赖、许可证和配置说明部署。