run哥带你手撕高斯混合聚类(GMM)
下午上课写一下 orz
手写高斯混合聚类算法 - 我的锅 - 博客园 (cnblogs.com)
热身一下
极大似然估计(Maximum Likelihood Estimate,MLE)
摘自:(175条消息) EM算法——直观理解与详细推导_Twilight Sparkle.的博客-CSDN博客
统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上)等于给定参数θ后变量X的概率:
L(θ|x)=P(X=x|θ)注:L(θ|x)也可以写为L(θ:x)
极大似然估计也称为最大似然估计。
比如现在有一个袋子,里面装有白球和红球,你在里面随机抓了10个球,发现9个都是红球,那么你可以猜测从这个袋子抓出红球的概率为0.9,而抓出白球的概率为0.1。也就是说,我们根据样本来推测“为什么抓出来的样本会是这样”最可能的原因。
这种根据样本推断最可能的模型未知参数的方法叫做极大似然估计。
回到上面那个抛硬币的例子:如果两次抛硬币都是正面朝上。我们已经计算了当时,似然函数等于0.25;当时,似然函数等于0.36。计算时,似然函数将会等于1,此时是最大的。
那么“两次抛硬币都正面朝上”的实验推出的极大似然估计就是“硬币正面朝上的概率为1”。
算法流程
算法实现
reference
(160条消息) 【机器学习笔记】通俗易懂解释高斯混合聚类原理_lotusng的博客-CSDN博客_高斯混合聚类
https://towardsdatascience.com/gaussian-mixture-models-explained-6986aaf5a95