DeepInfer 深度解读:支撑 DeepSeek 大规模生产服务的高性能推理框架
深入解读 DeepSeek 开源的高性能推理框架 DeepInfer:系统架构、DSpark 投机解码、SWA bounded replay、异步调度、KV Cache 体系与上手实践。 ...
深入解读 DeepSeek 开源的高性能推理框架 DeepInfer:系统架构、DSpark 投机解码、SWA bounded replay、异步调度、KV Cache 体系与上手实践。 ...
对照 DeepSeek Harness、OpenAI Codex、Pi 官方实现:Agent Loop、插件生命周期、项目记忆、Skill 按需加载、Compact、grep 与 RAG、SubAgent,以及可复用方法论。 ...
用商家经营分析 Agent 串起评测体系搭建:离线门禁、在线监控、Case 四层归因与 LLM-as-a-Judge 日级落地,区别于评估指标入门。 ...
「速通 AI」系列第十篇:Langfuse 可观测性、安全防护、错误处理模式、成本优化。 ...
深度学习工程训练技巧速查手册:梯度裁剪、梯度累积、混合精度训练 AMP、梯度检查点、分布式训练,涵盖原理、公式、代码实现与选择指南。 ...
深度学习正则化技术速查手册:L1 正则、L2 正则、Dropout、标签平滑、数据增强、早停,涵盖原理、公式、代码实现与选择指南。 ...
「速通 AI」系列第九篇:RAGAS 框架、Agent 评估五维度、幻觉检测、LLM-as-Judge。 ...
深度学习损失函数速查手册:回归损失、分类损失、排序与度量学习损失、概率分布损失、正则化损失,涵盖公式、形状、梯度特性与选择指南。 ...
深度学习学习率调度器速查手册:StepLR、CosineAnnealingLR、ReduceLROnPlateau、Warmup、OneCycleLR,涵盖原理、公式、代码实现与选择指南。 ...
深度学习优化器速查手册:梯度下降、动量法、自适应学习率(Adam 家族)、二阶方法、学习率调度,涵盖算法原理、公式推导、代码实现与选择指南。 ...