课程定位
MS&E 319 研究生成模型在计算约束下的算法问题。课程讨论目标、架构、数据 pipeline、推理过程和服务系统如何被算力/延迟/内存/数据塑造,并以 LLM 为主要案例;学生做一次 presentation,再完成 survey 或研究项目。
主要内容
- 计算约束:推理深度、算力、延迟、内存、数据
- 目标与架构:scaling、稀疏、混合专家
- 数据 pipeline:质量、配比、合成数据
- 推理:采样、speculative decoding、test-time compute
- Serving:批处理、缓存、调度
- 算法问题:约束下的新问题
- presentation + survey/project
课程大纲 / 课件
Autumn 2026 lecture outline;slides 在课程页逐讲链接。
先修
ML/LLM 基础;算法与系统意识。
考核与工作量
一次 presentation + survey 或 research project。具体以当季官网为准。
适合谁
想做推理效率、生成模型算法、ML 系统的人;研究生。
学习建议
配合 CS 349E 学工程实现,配合 CS 336 学模型训练。
相关课程
官方课程描述(英文原文)
As generative models become central to computing, their progress increasingly depends on algorithms that trade reasoning depth, computational cost, latency, memory, and data. This course studies those tradeoffs with a primary focus on modern language models. We examine how objectives, architectures, data pipelines, inference procedures, and serving systems are shaped by computational constraints, and how these constraints open new algorithmic questions. Students give one presentation and complete either a survey or a research project. May be repeated for credit.