今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注：语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 80 篇，入选 10 篇，分数 3.50 – 4.40
MorphServe面向突发和动态负载，把模型压缩与KV缓存管理做成运行时、token级的协同机制：高负载时替换低影响层为量化层，并把释放的显存转给KV缓存。Vicuna和Llama真实负载实验显示，平均SLO违约减少92.45%，P95 TTFT较全精度服务提升2.2–3.9倍，精度下降较规划式量化少41.3%。
Redakto是面向LLM调用前的数据隐私基建，支持PII删除与伪名化，并通过Web应用、REST API和MCP hooks接入下游处理。作者在法律和医疗文本上同时评估隐私与任务效用，结果显示不同脱敏策略的效用分数与原文相当；项目开源、计算需求适中，可部署在本地硬件。
INSIGHT社区UGC搜索若把帖子、评论或用户画像送入LLM，脱敏层应成为推理链路的前置网关，而不是上线后的补丁。可以按字段敏感度采用删除、稳定伪名和不可逆哈希三种策略，并在nDCG、CTR之外监控脱敏前后query理解一致性与实体召回损失。
Fractional Decay KV-Cache提出双通道缓存淘汰：累计注意力保留历史重要token，带时间衰减的相关性通道快速响应话题变化，并用ownership loss控制自适应学习率。五类多轮对话、每类600个对话的实验中，复合后段对齐提升6.7%，话题切换场景提升127%，适应速度为H2O的3.6倍。
INSIGHT相比只按注意力热度保留上下文，该方法把“历史价值”和“当前意图”分开建模，适合长上下文query改写、对话式搜索和多轮检索。工程上可先将双通道分数用于reranker上下文裁剪，重点观察话题切换query的相关性与缓存命中收益。
Tencent腾讯云文档将混合搜索中的词法检索与向量检索统一到RRF融合排序：由于两类分数不可直接比较，系统按倒数排名分配融合权重。文档明确腾讯云ES 8.16已支持RRF算法并使用rank_fusion接口，Elastic 9及以上也提供对应能力，适合作为上线级检索基础设施参考。
INSIGHT对社区短文本搜索，RRF提供了无需重新标定BM25与embedding分数的稳健基线，特别适合召回模型频繁替换的阶段。建议先按query类型和候选源分别记录Recall@K、融合后nDCG@10及P95延迟，再用少量权重调优代替全链路重训。
SuTRA针对形态丰富语言的tokenizer碎片化问题，保持akshara不可拆分，并惩罚跨词根边界的合并，同时发布Hindi、Marathi和Gujarati形态切分数据集。相较BPE，Boundary F1最高提升14.7%，Hindi语义可恢复性提升34%，机器翻译chrF2平均提升8.08分。
INSIGHTtokenizer会直接影响短query的长度、语义完整性和推理成本，尤其是口语、方言和混合语言UGC。可借鉴其“结构边界约束+专用评测集”做中文网络词、拼音、emoji和实体的词表实验，再用召回率、平均token数和P99延迟共同决定是否替换线上词表。
NE-BERT是面向9种东北印度低资源语言的多语编码模型，使用约830万句语料、加权采样和SentencePiece Unigram tokenizer训练，并公开模型、测试集和语料。它相较IndicBERT-V2和MuRIL分别取得15.97倍和7.64倍更低的平均困惑度，相较mBERT的tokenization fertility提升1.50倍。
INSIGHT对多语言社区搜索，训练语料配比和词表设计是可迁移的基建杠杆，不应只依赖通用大模型。可以把低资源语言或方言的query按语言识别后路由到专用encoder，并以分语言nDCG、token长度、召回覆盖和显存成本做联合验收。
论文评测OCR、LLM和VLM组成的端到端结构化信息抽取流水线，关注真实高风险场景中的模型与输入质量，而非只看单模型榜单。35种配置中仅4种F1超过0.5，约75%配置低于0.25；VLM整体优于OCR+LLM，但OCR输出是否保留结构会独立影响结果，大模型规模与效果并非线性关系。
INSIGHT它提醒搜索基建团队：文档解析和结构保真可能比换更大的LLM更先决定检索质量。对于UGC帖子、评论和图片文本，应把OCR布局、字段切分、结构化校验纳入离线回放，并用端到端F1与召回损失评估整条管线，而非只比较embedding或生成模型。
Compiler-Guided Adaptive Proof Search把编译器反馈纳入多模型搜索控制：双模型产生多样起点，停滞时重采样，并用编译器约束下的成对比较持续细化当前最佳状态。在miniCTX-v2的7个真实Lean 4项目上，pass@32平均通过率较基线提升12.8个百分点，同时改善效果与搜索效率的权衡。
INSIGHT虽然任务不是搜索推荐，但“可执行反馈驱动的探索—利用调度”可迁移到检索系统自动调参和评测流水线。可以让离线回放、schema校验或线上约束充当编译器反馈，保留最佳配置状态，避免新一轮模型或权重更新把已验证的相关性收益退化掉。
NVIDIANVIDIA展示Cosmos 3 Edge从世界模型到端侧策略的后训练与部署流程：4B模型含2B Nemotron推理器，可在Jetson Thor本地运行。DROID策略在Jetson AGX Thor T5000上约1.53秒生成32步动作块，闭环RoboLab成功率22.9%，训练使用7.6万条轨迹、约350小时数据。
INSIGHT对社区搜索的可迁移点是“模型规模、运行时状态和服务位置”要一起设计：小模型、开放checkpoint和本地推理能消除数据外传与网络往返。若把LLM用于query理解或重排，可沿用其端侧验收思路，同时测模型内存、端到端P95、批量吞吐和质量下限。
C3LM面向单步逆合成的一对多预测，引入Top-K prompting，并以ChemCensor和新颖性奖励约束微调。作者构建约4560万条经验证反应的CREED-CCV-2+USPTO-XL数据集，在OOD URSA-expert-2026上取得当前最佳表现；分析还发现LLM与传统模型探索的是互补反应空间。
INSIGHT它的基础设施启示是把“多候选生成、约束打分和互补模型集成”作为通用服务模式，而不是只部署一个top-1模型。对搜索可对应为多路召回生成候选、规则或轻量模型做约束过滤，再交给精排模型，重点监控长尾覆盖与重复率。