分析测试发现,小模型易超时,大模型在处理特定查询时倾向于使用记忆而非工具返回的数据。
📝 详细摘要
作为测试结果的补充,推文指出小模型在 Tool Calling 中容易陷入循环导致超时。更关键的发现是,许多大模型(35B/122B/397B)在处理如“查人口并计算”的任务时,倾向于使用模型记忆中的近似值,而非信任工具返回的准确数据,揭示了模型对工具的信任度问题。
📊 文章信息
AI 评分:82
来源:AI Will(@FinanceYF5)
作者:AI Will
分类:人工智能
语言:中文
阅读时间:1 分钟
字数:112
标签: Local LLM, Tool Calling, Hallucination, Model Evaluation