Tag: architecture
-
Statistical Inference & Hypothesis Testing: Distribution Families, MLE, CLT, p-Values, Confidence Intervals & Power Analysis
> **Core Executive Summary**: Statistical inference is the discipline of turning noisy data into calibrated decisions under uncertainty, and hypothesis testing
-
Foundations & Deep RL: MDP, Bellman Equations, DQN, Policy Gradient, PPO & SAC
> **Core Executive Summary**: Reinforcement Learning (RL) studies how an agent learns an optimal policy $pi(a|s)$ via trial-and-error interaction with a dynami
-
Search & Advertising System Design: Query Understanding, Inverted Index, RTB & pCTR Prediction
> **Core Executive Summary**: Search and advertising are two sides of the same funnel: understand the user’s intent, retrieve a candidate pool at massive scale,
-
DS 因果推断实战：PSM 倾向得分匹配、DiD 双重差分与 Synthetic Control
> **核心摘要**：因果推断（Causal Inference）是数据科学家（DS）与产品分析师（PA）拉开核心竞争力的分水岭。在工业级业务中，由于商业伦理、溢出效应或全量上线等限制，往往无法进行标准随机对照试验（A/B Test）。本指南系统剖析 Rubin 潜在结果模型、Pearl 因果图 DAG、PSM 倾向得
-
RS 核心知识地图：顶会必读 30 篇论文解构与深度强化学习 Deep RL
> **核心摘要**：算法研究科学家（Research Scientist, RS）岗位的技术面试深度远超普通工程开发。面试官深究每一篇 SOTA 论文背后的第一性原理、损失函数的解析推导、泛化界的数学保证以及模型的失效边界。本速查全景拆解 RS 岗位核心知识地图：SOTA 论文解构四步法、顶会必读 30 篇里程碑论文
-
Prompt 工程与安全护栏：Structured Outputs、Outlines 语法硬约束与 Llama Guard 防护
> **核心摘要**：在企业级 AI 应用开发中，Prompt 工程不仅包含 Few-Shot 与 CoT 提示词撰写，更依赖于**Structured Outputs 结构化输出硬约束（如 Outlines / Instructor 保证 JSON 解析 100% 成功）与 Llama Guard 输入输出安全防护*
-
MLOps 与在线测试全景：Data Drift 监控、PSI 指标、A/B 测试与 CUPED 方差降低
> **核心摘要**：模型部署上线绝非终点，真实世界数据分布随着时间不断演化。**MLOps & LLMOps** 建立了模型监控、自动化重训练与科学在线实验闭环。通过 **PSI (Population Stability Index)** 实时预警数据漂移 (Data Drift)，利用 **CUPED** 算法降
-
归一化与正则化全景：BatchNorm、LayerNorm、RMSNorm、L0/L1/L2 权重衰减与 Inverted Dropout 极客指南
> **核心摘要**：在深度神经网络的训练过程中，**归一化 (Normalization)** 与 **正则化 (Regularization)** 是平滑 Loss 优化曲面、消除内部协变量偏移 (Internal Covariate Shift, ICS) 以及防御过拟合 (Overfitting) 的两大核心工
-
高效微调 (PEFT) 架构全景：LoRA、QLoRA、DoRA、Prefix/Prompt Tuning、Adapters 与 MoRA/ReLoRA 深度剖析
> **核心摘要**：随着大语言模型 (LLM) 参数量迈向千亿级，全参数微调 (Full Fine-Tuning) 的显存与计算开销变得不可承受。**高效参数微调 (Parameter-Efficient Fine-Tuning, PEFT)** 技术通过仅冻结预训练基座权重 $W_0$，仅训练极少量的增量参数（通常
-
机器学习评估指标与数据工程全景：分类/回归/排序(NDCG)、概率校准、不平衡采样与文本预处理极客指南
> **核心摘要**：评估指标与数据预处理是连接模型输出与真实业务价值的数理基石。本指南全量整合 “ 中 9 大模块，涵盖分类评估（混淆矩阵、F-beta、Macro/Micro-F1、Hamming Loss）、搜索推荐排序评估（MRR、MAP、DCG/NDCG）、回归评估（MSE、RMSE、MAPE、$R^2$、