hero

正在加载一言...

Renovamen

いつか、私がヒトじゃなくなっても

2021-08-31

Attention / Conv 大锅烩

Self-Attentions and Convolutions

长期记录和实现看过的各种论文里的自注意力和卷积机制,咕咕咕,实现地址在: Github

2021-07-28

自然梯度下降

Natural Gradient Decent

自然梯度下降(Natural Gradient Decent)把参数看成一种概率分布,然后使用 KL 散度而不是欧氏距离来作为距离的度量,从而更好地描述更新后的分布和原分布有多大的不同。

2021-07-27

Fisher 信息矩阵

Fisher Information Matrix

Fisher 信息矩阵的数学意义和直观上的理解。

2021-06-12

支持向量机

Support Vector Machine (SVM)

SVM(Support Vector Machine,支持向量机)是一种二类分类模型,目标是在特征空间上找到间隔最大化的超平面。

2021-04-26

PC 算法

贝叶斯网络与其结构学习算法

把大三的时候在实验室摸鱼看贝叶斯网络和 PC 算法时写的笔记整理到这里来,免得哪天我换电脑时把笔记搞没了。

2021-01-28

凌乱的 PyTorch 笔记

PyTorch 能有什么坏心思呢

记录一些 PyTorch 的细节。

2021-01-01

新年快乐

Happy New Year 2021

太长不看版:顺位第一的新年愿望是能成为一个温暖的人类,如果这个愿望今年无法实现,那就先当一个正常一些的人类吧。

2020-10-07

关于博客的碎碎念

部署、优化以及乱七八糟的事

“虽然研究进度堪忧,但鱼还是要摸的”,在这样的理念的驱动下,菜鸡最终折腾出了一个目前看上去还算可以的方案。

2020-09-04

Bayesian MAML

MAML 的贝叶斯解释

为了引入不确定性和多找一个发论文的话题,MAML 还可以用贝叶斯视角来理解。

2020-08-24

Regularization-based Continual Learning

EWC / Online EWC / IS / MAS ...

基于正则(regularization-based)的持续学习:用一个表示参数重要程度的正则项来控制参数在未来的任务中的更新幅度。