#工具调用
共 4 篇
给 agent 喂数据,工具种类比任务量重要
一篇新论文用近 46 万个合成任务、849 个不同规模的模型,拟合出工具型 agent 的扩展律:预算变多时,扩工具和数据库的多样性比堆任务量更划算,花钱前可以先算再花。
vLLM 工具调用不准,病灶在解析这一层
Ubicloud 工程师复盘:vLLM 服务 Kimi 时工具调用格式符合率只有 92%,问题出在模型按概率生成、没有格式约束。开启受限解码后升到 100%。本文讲清出错机制和部署时该开哪个开关。
模型嘴上说信息可疑,手上照样执行
一篇新论文测试了五个模型在工具调用场景下对虚假信息的抵抗力,发现模型对自评「不可信」的指令仍有最高九成九的概率照做。读完你会知道言语判断和行为为何脱节,以及给 agent 做防误信息设计该信哪个指标。
工具没说危险,agent 就当没问题
一篇 arXiv 论文发布了一个可执行基准:当工具返回结果悄悄漏掉关键安全信息时,十个被测模型普遍会执行本不该执行的操作。本文讲这套测法、各模型的差异,以及怎么给自家 agent 打补丁。