#注意力机制

几颗注意力头当门卫，注入攻击掉一个量级

论文只训练少量注意力头，在可信与不可信内容间重新分配注意力，注入指令不再被执行。黑盒攻击成功率从 97% 压到 10%，常规能力不掉，而对照防御在少样本与工具调用上明显受损。