LLM Agents Factory: Retrieval of Domain-Specific LLM Agents
论文把按请求动态设计 Agent 的高成本和不稳定性转化为检索问题:预先建立超过 20K 个角色化 Agent profile,先用语义搜索选择领域 Agent,再可蒸馏为紧凑模型直接生成 Agent。MMLU、BIG-bench 和 BIG-bench Hard 的单 Agent 实验显示,检索式构造优于非 Agent 基线,并以明显更低推理成本接近 120B backbone 的 AutoGen 生成质量。
INSIGHT对社区搜索中的复杂意图,可以把查询理解、召回、事实核验等能力封装成可检索的 Agent profile,而不是让一个大模型每次从零规划。工程上应维护 profile 的版本、适用域和工具契约,并用小模型负责路由与蒸馏,大模型只覆盖低频、高不确定性的搜索任务。