AI百科网 AI教程

#Agent 安全

共 2 篇

JSON schema 不是 AI 治理层

同一个支付请求,两种语言写出相反结论:一个放行,一个拦截。这篇讲清校验和治理差在哪一层,验证器必须补上哪三件事,附三道自查题。

起步必读 · 2026年11月2日

agent 的猜想会自我强化,得给提交单独设卡

agent 整理身份数据时,一个错误猜想会引导后续检索并制造假确认。这篇论文提出把「供推理的证据」和「可授权写入的证据」分成两档,用两阶段监督器把关持久化提交,并诚实声明这仍是未经实现验证的概念架构。

避坑进阶 · 2026年10月29日
同一层主题 全部标签 →