智察卫

解决方案

智察卫面向生产环境:把 AI 输出的“风险”变成可审计、可关停、可确定的运行时控制能力。 我们不做口号式治理;我们做能落到系统里的控制面(control plane)。

方案 1|AI 输出风险控制(Guard)

在模型输出进入用户/业务前,执行统一的运行时决策:允许 / 阻断 / 冷却 / 不处理(no-op)。 每一次决策都产生稳定的 reason_code 与审计记录,支持回放与聚合统计。

allow / block / cooldown / no-op reason_code 稳定枚举 审计 ID 可回放

方案 2|证据与审计(Evidence)

解决“出了事说不清”的问题:把关键请求、决策、耗时、上游状态写成证据链, 支持按 tenant / 用户 / 风险类型查询,形成可交付的审计材料。

可追责证据链 聚合统计 事件导出/告警

方案 3|运行时可关停(Kill Switch)

真正的治理必须“敢关”:支持 tenant 级关闭、shadow-only(只记录不拦截),以及故障降级策略。 关停本身是合法状态,并且可审计。

tenant 级开关 shadow-only fail-open / fail-closed

方案 4|生产可观测与运维闭环

以运维视角定义治理:关键接口的证据日志、异常检测、告警与 runbook。 不依赖“人盯着”;让系统自己产生信号、可复现、可回滚。

证据日志 异常检测 Runbook
适用场景: 面向企业内部 Copilot、客服自动化、内容生成、知识问答、RAG 交付、以及任何“输出错误会产生责任”的 AI 系统。 核心目标是:在不牺牲创新速度的前提下,让系统可控、可审计、可关停。

落地路径(极简)

  • 在输出链路加一层运行时治理:统一入口、统一决策、统一审计。
  • 先 Shadow:只记录不拦截,跑出真实数据与风险分布。
  • 再 Enforce:对“明确高风险”建立确定性拦截,避免误伤。
  • 最后把治理变成合同级接口:reason_code、版本、SLA、责任边界。
了解智察卫团队

你将获得什么

  • 可审计:每一次决策可回放,有证据。
  • 可解释:稳定 reason_code,机器可读。
  • 可关停:随时切换 off / shadow-only。
  • 可确定:行为版本冻结,不“悄悄变化”。