Evaluation-driven Scaling for Scientific Discovery
本文提出 SimpleTES 框架,系统研究如何通过评估驱动的 scaling 来增强 LLM 在科学发现中的迭代优化能力。框架结合并行探索、反馈驱动精炼和局部选择三种策略,在 6 个领域 21 个问题上取得显著提升,包括量子电路设计开销降低 24.5%、突破已有数学记录等。训练数据还可使模型提升效率并泛化到新问题。
INSIGHT该工作将 Agentic 循环中的评估环节提升为一等公民,揭示了 trial-and-error 发现循环的 scaling 规律。对搜索推荐系统的启示在于:自动化超参搜索、特征工程等迭代优化任务可采用类似的评估驱动框架,让 Agent 在反馈循环中持续改进。并行探索 + 局部选择的组合策略值得在搜索 Agent 的多轮检索中借鉴。