Self-Guided Function Calling in Large Language Models via Stepwise Experience Recall

文章总结与翻译

一、文章主要内容

本文聚焦大型语言模型（LLMs）在多步骤工具调用中的挑战，提出了一种名为逐步经验召回（Stepwise ExperiencE Recall, SEER） 的自引导方法，旨在提升LLMs与外部系统交互时的工具选择、参数生成和工具链规划能力。

1. 研究背景

现有LLMs虽在大规模语料预训练中展现出卓越能力，但受神经网络架构限制，无法直接与现实世界交互。函数调用（工具使用）是解决该问题的关键机制，然而在多步骤工具使用场景中，现有方法存在明显缺陷：

• 依赖人工设计特定任务演示或从固定库中检索，需大量专家精力，且随工具多样性和任务难度增加，提示工程愈发复杂低效；
• 粗粒度检索策略无法捕捉工具使用模式与用户目标间的细微关联，忽视工具链对齐的重要性；
• 静态离线数据集限制了模型在实际场景中的适应性。

2. 核心方法：SEER

SEER包含三大核心组件，形成动态高效的演示选择机制：

• 轨迹经验提取：将交互轨迹转化为结构化经验表示，包含轨迹嵌入、用户初始查询嵌入、推断的用户意图（从预定义意图集中选择，由LLM自主分类）、工具调用序列（建模为有向路径）；
• 逐步经验召回：采用多维度评分策略检索相关轨迹，评分包含轨迹相似度（交互历史整体嵌入的余弦相似度）、工具链覆盖率（当前任务与候选轨迹