franztao

Talk is cheap, show me the code.

Spectral_Clustering

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage Background} 本章节主要是描述的一种聚类算法,谱聚类(Spectral Clustering)。对机器学习有点了解的同学对聚类算法肯定是很熟悉的,那么谱聚类和之前普通的聚...

Restricted_Boltzmann_Machine

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage Background} 本小节主要介绍的是受限玻尔兹曼机(Restricted Boltzmann Machine, RBM)。这个名字听着逼格确实挺高的,以后和别人吹牛的词汇++...

Gaussian_Network

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage 这小节,我们主要讲解的是高斯网络的结构背景,模型的基本概念。根据有向图和无向图,我们可以将高斯网络分成高斯贝叶斯网络和高斯马尔可夫网络。 Background} 概率图模型(Prob...

Conditional_Random_Field

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage Introduction} 本讲主要介绍的是条件随机场(Conditional Random Field),这个东西在机器学习中,曾经有过较大的用处,在图像处理和标注问题中大放光彩。...

Conditional_Random_Field_01_Background

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage Introduction} 本讲主要介绍的是条件随机场(Conditional Random Field),这个东西在机器学习中,曾经有过较大的用处,在图像处理和标注问题中大放光彩。...

Pacticle_Filter

2022年10月

%\pagestyle{empty} \tableofcontents \newpage %\pagestyle{fancy} \setcounter{page}{1} %new page \clearpage 背景介绍} Dynamic Model是在概率图模型中加入了时序的因素,所以样本之间不再是独立同分布(i.i.d)的,而是有依赖关系的。而Dynamic Model的一个主要特点是...

Kalman_Filter_02_Model_Construction_and_Solution

2022年10月

Filtering问题公式话的表达即为$P(z_t x_1,x_2,\cdots,x_t)$,是一种On-Line Learning的思路,随着越来越多的数据不断的被观测到,隐藏状态得到不断的更新。也就是在观察变量序列${x_1,x_2,\cdots,x_t}$下,求得隐变量状态$z_t$的分布。模型表达为如下所示: \[\beg...

Kalman_Filter_01_Introduction

2022年10月

我们知道在概率图模型中,加入了time的因素,就得到了Dynamic Model,实际上也就说我们通常所说的State Space Model。 \textbf{如果状态是离散的},就是我们上一节提到了Hidden Markov Model (HMM);\textbf{如果状态是连续的},如果状态之间的关系是线性的,就是Linear Dynamic System (Kalman Filte...

Hidden_Markov_Model_05_Conclusion

2022年10月

Hidden Markov Model实际上是一个Dynamic Model。我们以Guassian Mixture Model (GMM)为例。对于一个观测状态,在隐变量状态给定的情况下,是符合一个Gaussian Distribution,也就是$D(O i_1)\sim \mathcal{N}(\mu,\Sigma)$。如果,加入了time的因...

Hidden_Markov_Model_04_Decoding

2022年10月

Decoding问题可被我们描述为: \[\begin{equation} \hat{I} = \arg\max_{I} P(I|O,\lambda) \end{equation}\] 也就是在给定观察序列的情况下,寻找最大概率可能出现的隐概率状态序列。也有人说Decoding问题是预测问题,但是实际上这样说是并不合适的。预测问题应该是,$P(o_{...