记录思考,验证想法。
模型与架构 · 编程实践 · 数学直觉
共 12 篇学习笔记 · 第 2 / 2 页 · 整理于 2026-11-16
NOTE 07 / 数学
数值稳定:为什么 softmax 要减最大值
指数函数很快溢出。所有输入同时减去同一个常数,不改变归一化后的概率,却能让最大的指数变成 1。
阅读全文与代码 ↗NOTE 08 / 数学梯度下降:学习率如何影响收敛
对 f(x)=x²,梯度是 2x。迭代 x←x−η2x 等价于每步乘以 1−2η。当乘子的绝对值小于 1 时,误差逐步缩小。
阅读全文与代码 ↗NOTE 09 / 数学贝叶斯更新:证据如何改变判断
后验概率同时取决于先验与证据似然。即便检测敏感度很高,低基率事件仍可能有较多误报。这里使用抽象事件进行数值练习。
阅读全文与代码 ↗NOTE 10 / 编程幂等性:重复请求只执行一次
网络重试可能使同一业务请求多次到达。请求标识用于识别重放,结果缓存用于返回已有结果。下面的单进程例子只解释语义。
阅读全文与代码 ↗NOTE 11 / 编程防抖:在输入停顿后触发搜索
每次输入都取消上一次计时,只保留最后一次调用。这适合搜索建议等场景,但不能替代服务端限流或解决响应乱序。
阅读全文与代码 ↗NOTE 12 / 编程状态机:约束异步任务的合法变化
用显式状态和转换表表达任务生命周期,可以避免成功后又变回运行中的矛盾状态。异常路径也应成为模型的一部分。
阅读全文与代码 ↗