Notes

Technical derivations and structured course notes in physics, mathematics, and computer science.

RL Mathematics

CS285 强化学习的数学基础：从 MDP 与 Bellman 方程到策略梯度、Model-Based 与离线 RL。

从零手写一个小 LLM：RMSNorm、RoPE/YaRN、GQA、FFN 到完整架构拼装。

分析力学笔记：变分法、最小作用量原理、位形流形与相对论时空。

常微分方程与动力系统：自治系统、Poincaré 映射与初值问题理论。

概率论随笔：测度、σ-代数、随机变量、期望与独立性。

理论计算机科学导论：表示、编码与 Boolean 电路。

Language Modeling from Scratch：GPU kernel、roofline 与性能实验。

CS61C 课程笔记：数的表示、C 工具链、内存布局与栈帧。

信息与优化：熵、交叉熵、KL 散度及其在损失函数中的意义。

数理方法：希尔伯特空间、完备性、正交基与狄拉克函数。