#误信息

模型嘴上说信息可疑，手上照样执行

一篇新论文测试了五个模型在工具调用场景下对虚假信息的抵抗力，发现模型对自评「不可信」的指令仍有最高九成九的概率照做。读完你会知道言语判断和行为为何脱节，以及给 agent 做防误信息设计该信哪个指标。