速通 AI(一):编程与人工智能数学基础
「速通 AI」系列第一篇:建立 Python 编程能力和数学理论基础。 ...
「速通 AI」系列第一篇:建立 Python 编程能力和数学理论基础。 ...
聚焦大语言模型推理优化与部署:模型量化(GPTQ/AWQ/SmoothQuant)、KV Cache 优化(GQA/PagedAttention)、投机解码、连续批处理、推理框架对比与边缘部署。 ...
聚焦大语言模型工程实践:预训练数据工程、SFT/RLHF/DPO 微调对齐、分布式训练(数据并行/张量并行/流水线并行/ZeRO)、混合精度训练、梯度累积、显存优化与训练稳定性监控。 ...
系统性梳理现代大语言模型背后的核心训练机制:从因果注意力到 Transformer 架构,从损失函数的数学本质到优化器,再到正则化与泛化,构建完整知识图谱。 ...