Tag: cross-encoder-re-ranking
-
【AI 核心深度 M7-038】解释 cross-encoder 重排的原理与代价（Explain the Principles, Architectural Expressiveness, and Computational Cost of Cross-Encoder Re-Ranking）深度数理推导与工程落地解析
把查询与文档拼接后一起编码，充分交互 → 精度高；但无法预计算 → 每个候选一次前向（慢）。
-
【AI 核心深度 M7-039】解释 ColBERT 的延迟交互（Late Interaction）（Explain the Principles and Mechanisms of ColBERT Late Interaction (Contextualized Late Interaction over BERT)）深度数理推导与工程落地解析
文档侧预计算 token 级向量，查询时用 MaxSim（每个查询 token 取与文档 token 的最大相似度再求和）→ 兼顾效率与精度。
-
【AI 核心深度 M7-040】解释重排模型的训练数据构造（Explain Training Data Construction, Negative Mining, and Distillation Protocols for Re-Ranking Models）深度数理推导与工程落地解析
用’（查询，正文档，负文档）’三元组或’（查询，文档，相关性等级）’训练；关键是难负样本与’蒸馏标注’。
-
【AI 核心深度 M7-041】解释多阶段排序架构的设计原则（Explain the Architectural Design Principles of Multi-Stage Ranking Pipelines）深度数理推导与工程落地解析
候选数逐级减少、模型逐级变强；每级的目标是’保证下一级的候选够好’（上游保召回、下游保精度）。
-
【AI 核心深度 M7-042】解释重排中的多样性与去重（Explain Diversity Promotion and Deduplication Strategies in Search and Re-Ranking）深度数理推导与工程落地解析
重排需在’相关性’之外考虑’多样性’（避免同质结果）与’去重’（近重复文档）；用 MMR 或 DPP。
-
【AI 核心深度 M7-043】解释重排的延迟优化手段（Explain Latency and Throughput Optimization Techniques for Deep Re-Ranking Models）深度数理推导与工程落地解析
减小候选数、用小模型、蒸馏、批处理、ONNX/量化、级联、缓存、GPU、异步预取。
-
【AI 核心深度 M7-044】解释 LLM 重排（Listwise Reranking）的做法与代价（Explain the Methodologies, Advantages, and Operational Costs of LLM-Based Listwise Re-Ranking）深度数理推导与工程落地解析
用 LLM 对候选列表做 listwise 排序（或打分）；效果强（能理解复杂相关性）但成本高、延迟大。