V2 独立版已交付

内容安全护栏

HeteroFlow 是本站的异构算力与大模型调度产品。内容安全护栏。内容安全护栏(Guardrails)对大模型对话端点的请求与响应文本做词表审查:词表、作用域、处置动作与适用数据等级组成规则集,命中后按三档动作处置并留观测记录;默认关闭,未启用时对调用链零介入。

内容安全护栏

> 内容安全护栏(Guardrails)对大模型对话端点的请求与响应文本做词表审查:词表、作用域、处置动作与适用数据等级组成规则集,命中后按三档动作处置并留观测记录;默认关闭,未启用时对调用链零介入。

数据安全等级(前置体系)

护栏的适用等级挂在平台的数据分级体系上。平台把数据分三级,密钥与模型(及承载渠道)都带等级,调用时自动比对:

等级名称典型定位
1公开数据可对外披露的问答、通用检索
2内部数据企业内部文档、经营数据
3敏感数据客户隐私、核心代码——只允许落在本地化部署渠道

拦截规则一句话:密钥等级高于模型(渠道)上限才拒,低于或等于放行,越级统一 403 data_level_denied。分级检查在模型级与渠道级两道闸执行(渠道级把等级不足的渠道剔出候选,剔除光了明确归因到数据分级),先于配额检查、贯穿全部推理端点;等级跟密钥走——同一人可持不同等级的多把密钥用于不同敏感度的应用。敏感级密钥的申请与调整走密钥管理的审批链。

动作三档

动作请求侧响应侧
拦截(block)400 sensitive_words_detected,请求不转发、不计费不占日限内容放行到违规点后以错误帧收尾断流
掩码(replace)归一为仅审计(不改写请求体,保证请求原文与计费口径稳定)命中词掩码为 ###,其余内容原样返回
仅审计(audit_only,默认)放行,仅留观测记录字节恒等零改动

调用方视角的三条边界:拦截不消耗额度(与配额与限流的拒绝语义一致);掩码只发生在响应侧,请求原文永不被改写;流式响应已发出的部分物理上无法撤回,拦截上限是「到违规点为止」。

管理侧要点

  • 规则模型:名称唯一、词表每行一词、作用域(请求 / 响应 / 双侧)、动作三档、适用等级(勾选 1/2/3,空 = 全级)、行内启停;
  • 测试预览:规则编辑面板内置本地预览——输入一句话即时看到命中词高亮、将执行的动作、掩码后的文本,可切换请求/响应侧与密钥等级;上线前建议再用真实密钥打一笔验证;
  • 外挂检测服务:除本地词表外,可接自建或云端审核服务(HTTP JSON 契约)。四条行为契约:不阻塞主链(检测与上游调用并行,延迟取二者最大);检测失败降级放行(绝不因审查服务故障打断业务);外挂只接受拦截 / 仅审计两种建议;敏感级(DL3)文本永不发往外部检测服务(硬红线)。

三条硬红线(不可配置)

1. 敏感级密钥的响应侧动作恒封顶为仅审计——不给越权者提供「用护栏差异探测内容」的面;

2. 敏感级文本永不外发给外部检测服务;

3. 缓存命中回放同样过护栏——响应缓存不是无规则特区(规则收紧后,旧缓存条目同样拦得住,见响应缓存)。

观测与留痕

每次命中 / 降级落策略观测事件;调用日志详情带护栏观测键,配合 Request-Id 可精确定位任一次审查判定(见审计与日志)。敏感内容审计报表输出拦截计数分布(不含内容本身,隐私设计)。