课程定位
CS 228 是经典的 PGM 课程,覆盖 Bayesian/Markov network、HMM、精确与近似推断、参数/结构学习。它提供的“用图结构编码不确定性”的思维方式,对 NLP、计算生物、因果推断和机器人都有长期价值。
主要内容
- 表示:贝叶斯网络、马尔可夫网络、因子图
- 精确推断:变量消元、信念传播、junction tree
- 近似推断:变分推断、MCMC、重要性采样
- 参数学习:MLE、EM、隐变量模型
- 结构学习:评分搜索、约束方法
- 时序模型:HMM、动态贝叶斯网络
- 应用:语音、生物、医疗诊断、视觉、机器人规划
课程大纲 / 课件
以 Winter 2023-24 公开 syllabus 整理;当前学期以课程站为准。
先修
基础概率论;算法设计与分析。
考核与工作量
作业 + 期中 + 项目;偏数学与实现结合。具体以当季官网为准。
适合谁
想做概率建模、因果、贝叶斯深度学习的人;NLP/计算生物/机器人中需要处理不确定性的研究者。
学习建议
和 CS 229 互补:229 偏预测,228 偏“结构化不确定性”。变量消元和 VI 建议手推一遍。
相关课程
官方课程描述(英文原文)
Probabilistic graphical modeling languages for representing complex domains, algorithms for reasoning using these representations, and learning these representations from data. Topics include: Bayesian and Markov networks, extensions to temporal modeling such as hidden Markov models and dynamic Bayesian networks, exact and approximate probabilistic inference algorithms, and methods for learning models from data. Also included are sample applications to various domains including speech recognition, biological modeling and discovery, medical diagnosis, message encoding, vision, and robot motion planning. Prerequisites: basic probability theory and algorithm design and analysis.