简要笔记 Adam:= Netsterov动量+RMSprop Netsterov: 估算动量过后的x位置$\… 继续阅读 常见知识点简要笔记
标签:笔记
XLNet论文笔记
使用auto-regression进行编码:LSTM 。 优化目标:$p(\boldsymbol{x}) = … 继续阅读 XLNet论文笔记
变分推断方法笔记
Variational Inference变分推断,在LDA与VAE中都使用到了,这里是视频https://w… 继续阅读 变分推断方法笔记
估算交互信息Mutual Information
现有估算方法的局限性 交互信息以及熵的相关知识,请翻阅之前我写的博客。正常的做法是将连续数据离散分箱,之后用蒙… 继续阅读 估算交互信息Mutual Information