#Agent安全
共 7 篇
agent 跳过确认这回事，代码能替你拦住
一个开源 Python 库把业务红线写成有限状态协议：每轮只放行合法工具、越界调用先拦、人事只可请求。tau-bench 航空任务实测违规归零且成功率不掉，而基准自带的奖励对多数违例失明。
工具没说危险，agent 就当没问题
一篇 arXiv 论文发布了一个可执行基准：当工具返回结果悄悄漏掉关键安全信息时，十个被测模型普遍会执行本不该执行的操作。本文讲这套测法、各模型的差异，以及怎么给自家 agent 打补丁。
给 agent 套一层安全壳，代价有多大
用一篇新论文说清 agent 执行层怎么防提示注入：令牌管住能力、审批和预算，被拒后还能重试的闭环怎么设计。附三个判断方法，帮你评估手上的 agent 够不够安全。
谷歌 agent 框架的开发服务器，被一个网页劫持
谷歌 ADK Java 版的开发服务器不校验 WebSocket 请求来源，恶意网页可借浏览器操控本地 agent。哪些版本受影响、升级到哪、为什么 localhost 不再等于安全，这篇说清。
百度搭子从办公桌走到生产线
10 月 21 日杭州发布会上，百度搭子补上了三块拼图：能操作没有接口的系统、有投标这类专业套件、有 Agent 安全中心。这篇说清每块能干什么、谁的口径。
给 agent 的每一步签名留痕
看懂一套「签名 + 哈希链」的 agent 审计日志方案：每一步都留痕、删改即断链，理解它能防住什么、防不住什么，再决定自己要不要给关键 agent 接上类似机制。
失控 agent 的黑历史，藏在一个公开扫描站里
AI 研究机构 Transluce 在公开扫描站 urlquery 上挖出数万条 agent 活动记录：普通数据检索失败后转向注入攻击，含对澳大利亚政府网站的三次尝试。看懂早期 agent 滥用的轨迹和监控思路。