一套运行时。一套策略模型。一条审计链。
你自有智能体发起的每一次工具调用、API 请求和数据库查询都会经过 Mitrity 运行时 — 在执行之前,实时对照该智能体声明的使命进行校验。运行在 SaaS 平台内部的智能体,也通过只读连接器纳入同一份记录。下面是完整的平台,一根支柱一根支柱地看。
决定哪些智能体可以运行——并留存证据。
审批、合规态势,以及智能体所用一切的清单——全部来自治理每个操作的同一份记录。
每个智能体,先审批再运行
有两类决定始终由人做出:一个智能体能否运行,以及一个有风险的操作能否继续。审查会把智能体声明要做的事与它实际做过的事并列呈现,而一个设置决定未获批的智能体能否行动。
- 生命周期状态从“已提议”到“已批准”“已阻止”或“已退役”——每次变更都记入审计链
- 根据智能体过去 90 天的实际行为预填评估,每个答案都附带证据
- 职责分离的经证明审查、定期复审,并在发现问题或策略偏移时发起变更审查
- 审批闸门可在运行时拒绝任何未经批准的智能体的每一个操作
审计师不只能读、还能验证的证据
控制库涵盖欧盟人工智能法案、NIST AI RMF、ISO/IEC 42001 与 27001、GDPR、SOC 2、OWASP LLM Top 10 以及 MITRE ATLAS。你在每个框架下的合规态势,依据 Mitrity 所持有的记录逐项控制计算,并列明每一处差距。报告、证据包及其背后的审计链都带有哈希与签名,可以表明内容是否被改动过。
- 逐项控制呈现每个控制库下的合规态势——已覆盖、部分覆盖、未覆盖或未评估,绝不只给一个百分比
- 带负责人的 AI 风险登记册,在声明值旁并列计算出的剩余风险;以及由相关人员确认的 AI 政策声明
- 带完整性哈希的 SOC 2、GDPR、ISO 27001、AI 评估与合规框架报告——另有证据包和会过期的分享链接
- 防篡改审计链:每个事件都以哈希成链,由签名检查点封存,可离线验证
列不出来的东西,就治理不了
AI 物料清单(AI Bill of Materials)是环境中每个智能体、工具、模型、凭证与连接器的实时台账 — 不是季度电子表格,而是随你的队伍同步更新的图谱。
- 自动发现智能体、工具、凭证与连接器
- 始终最新 — 每个受治理事件都会刷新清单
- 一眼看出影子智能体、闲置工具与长期凭证
- 模型也在其中:智能体加载的仓库会被扫描,调用的托管模型会对照你的策略检查
守护每个操作——并检验防线是否守得住。
在工具与模型提供商之前设立运行时防护,对你自己的智能体做对抗测试,并扫描它们加载的模型。
所有模型与工具的受治理大门
从内部工具到它们调用的模型提供商,在智能体对话的一切对象前面,设一个受治理的统一入口。权限不再散落在各处配置里,而是在同一个地方授予每项能力 — 也在同一个地方收回。
- 按智能体、按工具的访问控制:允许的操作、范围与时间窗口
- 目的地白名单 — 智能体只能触达你批准过的端点
- 按工具、按智能体的速率限制,连获准的操作也无法被滥用
- 对 Anthropic、OpenAI、Azure OpenAI / AI Foundry、Google Vertex AI、Amazon Bedrock(OpenAI 兼容 API)或任何 OpenAI 兼容主机的模型调用,以同样方式治理
- 按策略设置模型白名单、token 上限、预算与速率限制——在调用到达提供商之前执行
弄清别人能诱使你的智能体做什么
按计划对你的 LLM 路由和自有智能体端点发起对抗活动。每次尝试都与其他操作一样经过治理,完整交互始终留在你的环境中。
- 针对 LLM 路由和自有智能体端点的活动——默认处于演练模式,并设有尝试次数、时长、token 与花费上限
- 每次尝试都受治理并被审计;完整的提示与响应从不离开你的环境,只传出哈希与经脱敏的摘录
- 结果即事实的确定性判定器——每条发现都标明做出判定的判定器的置信度
- 发现映射到 OWASP LLM Top 10、MITRE ATLAS、NIST AI RMF、欧盟人工智能法案与 ISO/IEC 42001,并按智能体给出护栏保障评分
在智能体加载之前,先读懂模型
PyTorch 检查点就是一个 pickle 流,而加载 pickle 会运行其中指定的任何内容。Mitrity 在不执行任何内容的前提下读取智能体加载的仓库,并报告其中有什么——附带可作证的字节偏移。
- 对 pickle 流与 PyTorch 归档只做反汇编、从不执行——记录它们触及的每个全局对象及其字节偏移
- safetensors 与 GGUF 头部完整性,以及模型卡、配置和聊天模板中的隐藏指令
- 标记远程代码入口(auto_map、自定义 pipeline、随附的 Python)以及未固定的修订版本
- 在网关观测到的托管模型,会对照你的策略规则和精选的已知不安全模型清单进行检查
在攻击者与智能体之间设下三道防线
提示词注入是智能体时代的 confused deputy 攻击。Mitrity 在输入落地之前就进行筛查 — 防御不依赖于以前是否见过同一招。
- 第一层:对照已知注入特征做模式匹配
- 第二层:统计分析,标记结构可疑的输入
- 第三层:ML 分类器,对付新型与混淆过的尝试
- 捕获指令覆盖、系统提示词注入与编码规避
智能体只是借用密钥,从不拥有。
把永久 API 密钥贴进智能体配置,等于把万能钥匙压在门垫下。Broker 改为签发即时租约 — 行为一旦偏移,立刻收回。
- 即时签发凭证,租约短期有效
- 检测到行为偏移的那一刻自动吊销
- 凭证从不离开你的环境 — 上报的只有租约元数据
- 没有常驻密钥,被攻陷的智能体也无物可偷
当智能体雇用智能体,脉络就至关重要
被攻陷的低权限机器人,不该能把高权限同伴变成武器。Mitrity 追踪每一条智能体间的委派链,并强制权限在下游只能收窄。
- 在多智能体工作流中完整追踪委派链
- 循环委派检测、深度限制与扇出阈值
- 权限按交集传播 — 受托者永远不会超过委托者
- 对 AI 到 AI 的权限提升做内联拦截,而不是事后复盘
敏感数据留在它该在的地方
智能体接触着你技术栈中最敏感的数据。Mitrity 在传输途中完成分类,在数据离开之前脱敏或拦截,并阻止流向你从未批准的目的地的外泄。
- 在途分类:PII、凭证、财务与健康数据
- 拦截流向未授权目的地的数据外泄
- 累积检测,掐断跨会话的细水长流式窃取
- 提示在离开你的集群之前脱敏,模型响应在到达智能体之前脱敏
每位客户的防御,都会磨利你的防御
传统威胁情报是 IP 和文件哈希。智能体攻击长得不一样 — 所以 Mitrity 在整个客户群中共享行为攻击特征,而任何租户的数据都不会越出自己的边界。
- 来自社区的威胁指标,匿名贡献
- 跨租户模式检测,隐私保障严格
- 指标全网通用;命中永远只限本租户
- 对新型攻击的防御,随每一位客户不断变强
触达存在于 SaaS 内部的代理
有些代理从不经过网关——它们运行在 Microsoft 365、Salesforce、GitHub 和 Snowflake 内部。Mitrity 为这些代理带来 AI Security Posture Management(AI-SPM,AI 安全态势管理):使用你提供的只读凭据连接到每个平台,并在带外进行治理——发现它们、观测它们做了什么、评估其安全态势,并让它们接受与其余队列相同的审查。厂商的云中不安装任何组件。
- GitHub Copilot——发现编码代理、导入组织审计活动、读取安全态势
- Microsoft 365 Copilot 与 Copilot Studio——租户 Copilot、已发布代理以及每个 Copilot Studio 代理,均以只读方式做态势检查
- Salesforce Agentforce——Agentforce 代理、设置审计遥测与组织态势代理项
- Snowflake Cortex Agents——发现 Cortex Agents、导入 AI 可观测性活动、读取账户安全态势
- 只读 AI-SPM:发现 · 观测 · 态势——Pro 与 Enterprise;无需安装
意图感知治理 — 每根支柱脚下的那一层。
不只看智能体做了什么 — 更看它是否符合使命。每个操作都由与智能体同处一地运行的 ML,按偏移、风险与异常打分。
贴合团队工作方式的执行。
监控 → 告警 → 强制
按智能体、按自己的节奏逐级升档。先观察,再告警,最后放手让 Mitrity 拦截 — fail-open 还是 fail-closed 的默认值由你选。
在 Slack 里审批
可疑操作会暂挂等待人工处理,配上交互式批准/拒绝按钮与完整上下文。超时可配置 — 智能体绝不会被永远卡住。
原生 SIEM 转发
每个治理事件都可流向 Splunk(HEC)、syslog CEF 或任意 Webhook。SOC 保留自己的统一视图 — Mitrity 只是往里注入更好的信号。