CS 221M: Mechanistic Interpretability

这篇适合谁读

这篇适合希望补 AI、LLM、系统、视觉或生成模型基础的人阅读。它把课程定位、学习价值和适合产出的笔记方向整理成公开路线，便于按目标选择课程。

全面介绍可解释性——理解模型如何处理信息以及为什么产生特定输出。涵盖探针（probing）、引导（steering）、因果抽象和稀疏自编码器，特别关注因果方法和大语言模型。

基本信息

课程简介

理解模型如何处理信息以及为什么产生特定输出的 ML 子领域。涵盖探针（probing）、引导（steering）、因果抽象和稀疏自编码器。包含来自学术界和工业界领先可解释性实验室的客座讲座。

与个人发展的关联

• 可解释性是 AI 安全和对齐的核心问题
• 理解 LLM 内部机制对于开发更安全、可控的 AI 系统至关重要
• AI 安全领域的前沿课程
• 与 CS 336 的 Alignment 部分互补

状态

已收录课程基本信息，待后续深入学习。