Tag: ml-system-design-framework
-
【AI 核心深度 M8-002】设计一个商品搜索相关性系统,说明各层设计(Design an End-to-End E-Commerce Search Relevance and Ranking System)深度数理推导与工程落地解析
查询理解 → 多路召回 → 粗排/精排/重排 → 结果呈现;每层有延迟预算、评估指标与失败处理。
-
【AI 核心深度 M8-003】设计一个推荐系统,说明数据与模型选型(Design an End-to-End Recommender System: Data Architecture, Candidate Generation, and Ranking Models)深度数理推导与工程落地解析
多路召回(i2i/u2i/热门)→ 粗排 → 多目标精排(MMoE)→ 重排(多样性/业务);数据含行为日志与画像。
-
【AI 核心深度 M8-004】设计一个 LLM 应用系统(RAG 问答),说明关键决策(Design an Enterprise Retrieval-Augmented Generation (RAG) System and Critical Engineering Trade-Offs)深度数理推导与工程落地解析
索引(切分/嵌入/建库)→ 检索(改写/召回/重排)→ 生成(上下文/引用/校验)→ 监控(忠实度/成本)。
-
【AI 核心深度 M8-005】设计一个欺诈检测系统,说明数据与延迟权衡(Design a Real-Time Fraud Detection System: Extreme Class Imbalance, Concept Drift, and Latency SLAs)深度数理推导与工程落地解析
强类别不平衡 + 概念漂移 + 对抗性;用规则+模型分层、极低延迟、以及快速迭代闭环。
-
【AI 核心深度 M8-006】设计一个多模态检索/搜索系统(图文混合)(Design an End-to-End Multimodal Search and Retrieval System (Text-Image Hybrid Search))深度数理推导与工程落地解析
双塔(CLIP 式)做跨模态召回 → 交叉编码器/VLM 精排 → 多路融合(文本/图像/元数据)→ 评估分层。
-
【AI 核心深度 M8-007】设计一个 LLM Agent 服务系统(Design a Scalable, Low-Latency LLM Agent Serving Infrastructure)深度数理推导与工程落地解析
规划 + 工具调用 + 记忆 + 护栏;关键是成本/延迟控制、失败恢复、以及安全(提示注入)。
-
【AI 核心深度 M8-008】设计一个在线学习(Online Learning)系统(Design a Real-Time Online Learning and Continuous Streaming Training System)深度数理推导与工程落地解析
模型随数据流实时更新;关键是延迟、稳定性(防震荡)、以及’探索-利用’与’反馈循环’处理。
-
【AI 核心深度 M8-009】设计一个内容审核(安全)系统(Design an Automated Content Moderation and Trust & Safety Architecture)深度数理推导与工程落地解析
分层:规则/哈希匹配 → 分类模型 → 多模态模型 → 人工审核;关键是召回(漏放风险)与误伤率的权衡。
-
【AI 核心深度 M8-010】设计一个 A/B 实验平台(Design an Enterprise-Scale A/B Testing and Online Experimentation Platform)深度数理推导与工程落地解析
流量分配(分层/互斥)→ 指标计算(实时/离线/CUPED)→ 分析与决策(多重比较/序贯)→ 实验管理。
-
【AI 核心深度 M8-001】给出 ML 系统设计的通用框架(Provide a Universal End-to-End Framework for Machine Learning System Design)深度数理推导与工程落地解析
五步:明确目标与指标 → 数据 → 特征与模型 → 服务与部署 → 监控与迭代;每步都要谈权衡与失败模式。