PRODUCT OVERVIEW / OMNICORTEX从模型接入
到调用治理,
让 AI 有序协作。
建立统一的企业 AI 入口。将分散的模型连接、应用凭证、安全策略与调用记录组织起来,在同一平台管理接入与运行。
ONE GATEWAY. CONNECTED CAPABILITIES.概念示意
业务应用研发助手知识应用
↓↓↓
OmniCortex企业 AI 统一入口 ↓↓
☁ 云端模型◇ 私有模型
安全围栏 ⇢ 可选外部检测服务独立的数据连接边界
01 / BRING CLARITY TO COMPLEXITY
应用越来越多,
管理依然清晰。
把分散的连接与规则,
组织成可以理解、管理和验证的路径。
01模型连接各自维护→入口与配置,集中组织。
通过统一入口管理模型、通道与业务别名。具体参数、流式与工具调用能力,仍需逐项验证。
02应用凭证分散→每次访问,都有范围。
以虚拟密钥识别应用,用访问规则定义可调用的模型。控制台角色权限与应用调用授权分别管理。
03敏感内容进入请求→适用策略,进入路径。
对适用调用执行检测,再按规则处置。检测引擎、执行阶段与可用动作都有明确的支持范围。
04异常线索彼此割裂→一次请求,关联排查。
用请求标识关联模型调用与安全事件。从调用结果出发,区分上游异常、访问拒绝与策略处置。
CONNECTED BY DESIGN
各司其职,在同一条路径上。
选择一种调用结果,
看看哪些环节发生了变化。
- 01业务应用应用已识别
- 02访问规则允许访问
- 03安全围栏检测通过
- 04模型通道发起模型调用
✓ 继续调用满足访问规则,进入模型通道。
应用凭证允许访问目标模型,适用检测未命中规则,请求进入配置的模型通道。
概念示意 · 用于说明关系与结果,不代表底层执行顺序或所有协议的支持范围。
02 / THE CAPABILITY ATLAS
四项能力,一个产品全景。
从业务问题出发,
了解处理方式与验证关注。
01 / UNIFIED GATEWAY多元模型,稳定的业务入口。
从模型目录到通道配置,将应用使用的名称与上游服务组织起来,为接入、调整与异常处理提供共同入口。
深入了解统一模型网关 ↗ ◇01业务模型别名02模型通道03云端 / 自托管模型
01模型与通道管理+
- 业务挑战
- 不同应用分别维护模型连接,配置分散。
- 应对机制
- 集中组织模型目录、供应商通道和调用凭证,明确模型的接入关系。
- 验证关注
- 接通一个目标模型,核对实际通道与返回结果。
02协议接入与业务别名+
- 业务挑战
- 应用直接依赖供应商模型名称,调整时牵动接入配置。
- 应对机制
- 通过受支持的协议和业务别名组织调用目标,让应用使用稳定的模型名称。
- 验证关注
- 切换前验证参数、工具调用和响应能力是否匹配。
03重试与候选降级+
- 业务挑战
- 上游超时或失败时,应用需要明确的处理路径。
- 应对机制
- 按配置执行重试和候选模型降级,为可重试的异常提供后续尝试。
- 验证关注
- 模拟上游失败;开始输出后的流式请求不能承诺换模型续写。
02 / ACCESS GOVERNANCE把访问权限,落实到每个应用。
用应用凭证与模型访问规则管理调用,用控制台角色管理操作权限。让调用授权和管理职责各有依据。
深入了解企业访问治理 ↗ ⌘01应用虚拟密钥02模型访问规则03允许访问的模型
01应用虚拟密钥+
- 业务挑战
- 直接分发上游凭证,难以区分调用来源。
- 应对机制
- 为应用下发虚拟密钥,以调用凭证识别应用并关联使用记录。
- 验证关注
- 使用不同应用凭证发起请求,核对调用归属。
02模型访问策略+
- 业务挑战
- 不同应用需要不同的模型范围和使用规则。
- 应对机制
- 用可复用访问策略组织模型范围与调用规则,按实际配置应用到凭证。
- 验证关注
- 验证允许与拒绝的模型;策略更新后核对既有凭证的实际行为。
03凭证生命周期+
- 业务挑战
- 临时接入和应用变更后,凭证状态容易失去管理。
- 应对机制
- 集中管理虚拟密钥的有效期、启停与轮换,让授权随应用使用阶段调整。
- 验证关注
- 验证停用、过期和轮换;组织归属不代表数据行级隔离。
03 / SECURITY GUARDRAILS识别风险,让处置有明确依据。
检测引擎提供能力,规则定义检测项,策略包与防线组织处理方式,再通过绑定确定适用调用。
深入了解安全围栏 ↗ ⬡01检测引擎与规则02策略包与防线03适用绑定与处置
01检测引擎与规则+
- 业务挑战
- 不同内容风险需要不同的识别方式。
- 应对机制
- 根据业务需要选择规则匹配、凭证扫描、自部署或云端检测能力。
- 验证关注
- 核对引擎支持的类别、语言、阶段,以及是否连接外部服务。
02策略包与防线+
- 业务挑战
- 同一检测项在不同场景中,可能需要不同处理方式。
- 应对机制
- 将检测规则组织为策略包,在防线中配置适用的检测与处置步骤。
- 验证关注
- 分别验证阻断、脱敏和仅检测;动作以引擎支持范围为准。
03适用绑定与处置+
- 业务挑战
- 配置了规则,还需要明确哪些调用会执行检测。
- 应对机制
- 通过适用主体绑定防线,让符合条件的调用进入配置的检测路径。
- 验证关注
- 区分未检测、检测通过、规则命中与引擎异常,验证各自处理结果。
04 / CALL OBSERVABILITY从一次请求,找到下一步排查线索。
通过请求标识关联模型调用、通道尝试与安全事件,让接入验证和日常排查围绕同一条线索展开。
深入了解调用可观测性 ↗ ◎01请求标识02调用与尝试轨迹03安全事件关联
01调用记录+
- 业务挑战
- 只有应用端报错,难以确认请求的实际结果。
- 应对机制
- 按请求查询模型、通道与调用状态,建立单次调用的排查入口。
- 验证关注
- 用请求标识查找记录;字段与保存范围以实际部署为准。
02模型与尝试轨迹+
- 业务挑战
- 一次调用可能包含重试或候选模型尝试。
- 应对机制
- 结合调用记录中的模型、通道和尝试信息,核对实际执行路径。
- 验证关注
- 用正常请求和上游失败样例,对比调用结果与尝试记录。
03安全事件关联+
- 业务挑战
- 策略处置与模型异常可能表现为相似的应用端结果。
- 应对机制
- 通过请求标识关联检测阶段、命中规则与处置动作等事件信息。
- 验证关注
- 核对规则命中和调用结果,不依赖恢复敏感原文完成排查。
03 / PUT IT INTO CONTEXT为一个研发助手,
建立清晰的调用路径。
从应用凭证到安全事件,让一次接入的配置和结果彼此关联。
- 分配应用凭证配置允许访问的模型范围。
- 绑定适用防线选择凭证检测规则与处置策略。
- 验证调用结果分别检查正常、访问受限与规则命中。
- 关联排查线索通过请求标识核对调用与事件。
阅读模型调试指南 ↗ 研发助手 / 演示应用固定合成案例
- 01研发助手应用已识别
- 02访问规则允许访问
- 03安全围栏检测通过
- 04模型通道发起模型调用
✓ 继续调用满足访问规则,进入模型通道。
应用凭证允许访问目标模型,适用检测未命中规则,请求进入配置的模型通道。
概念示意 · 用于说明关系与结果,不代表底层执行顺序或所有协议的支持范围。
示例请求标识:demo-request-001。此处不发送模型或检测请求。
04 / KNOW YOUR BOUNDARIES
部署在自己的环境,
掌握每一条连接。
阅读系统架构 ↗YOUR ENVIRONMENT / 企业环境业务应用 ↓
OmniCortex接入 · 治理 · 安全 · 观测自托管模型按需接入自部署检测服务按需接入
管理模型、访问规则与防线,关联调用记录和安全事件。
按需连接⇢
EXTERNAL SERVICES / 外部服务⬡云端检测服务
启用时,待检测内容会发送至对应外部服务。
网关自部署与数据是否出网是两个问题。实际数据路径由模型、检测引擎与网络配置共同决定。
05 / EVALUATE WITH CONFIDENCE带着明确的问题,
开始验证。
从目标模型到数据路径,
把适配性落实到自己的环境中。
07 项验证关注 YOUR NEXT STEP从一个应用,一个模型开始。
接通第一次调用,再逐步验证访问规则、安全防线与异常处理。