课程定位
CS 229 是 Stanford 最经典、影响最广的机器学习课程之一,理论深度明显高于 CS 230。它不只教“怎么用模型”,更关心模型背后的假设、损失函数、优化过程和泛化行为,是后续做研究或读博的地基。
主要内容
- 监督学习:线性/逻辑回归、广义线性模型、SVM、核方法、树模型与集成
- 学习理论:偏差-方差、正则化、特征选择、泛化与模型选择
- 无监督学习:k-means、GMM、EM、PCA、ICA、密度估计
- 深度学习基础:神经网络、反向传播、训练技巧
- 强化学习:MDP、值迭代、策略搜索、自适应控制
- 课程项目:通常是一个开放式的 ML 研究/应用项目
课程大纲 / 课件
逐讲主题以 Fall 2018 公开 syllabus 整理;官方讲义以 main_notes.pdf 为准,B站为第三方搬运。
先修
能写 Python/NumPy 程序(CS 106A/B 级);概率(CS 109/MATH 151/STATS 116);多变量微积分与线性代数(MATH 51/CS 205)。
考核与工作量
通常为 4–5 次 problem sets + 期中 + final project;每周约 10–15 小时。具体比例以当季官网为准。
适合谁
想真正理解 ML 数学原理、之后做研究或读博的人;已经会用 sklearn 但想补推导和理论的工程师;准备面试但不想只背题的人。
学习建议
problem set 的推导一定要自己写一遍,尤其是 GLM、SVM 对偶和 EM。配合 CS 229M 或 STATS 315A 可以补齐理论侧。
相关课程
官方课程描述(英文原文)
Topics: statistical pattern recognition, linear and non-linear regression, non-parametric methods, exponential family, GLMs, support vector machines, kernel methods, deep learning, model/feature selection, learning theory, ML advice, clustering, density estimation, EM, dimensionality reduction, ICA, PCA, reinforcement learning and adaptive control, Markov decision processes, approximate dynamic programming, and policy search. Prerequisites: knowledge of basic computer science principles and skills at a level sufficient to write a reasonably non-trivial computer program in Python/NumPy to the equivalency of CS106A, CS106B, or CS106X, familiarity with probability theory to the equivalency of CS 109, MATH151, or STATS 116, and familiarity with multivariable calculus and linear algebra to the equivalency of MATH51 or CS205.