b1ue0cean's blog

welcome to my world -- sharing CTF & ML skills

0%

这次时间都花在一道题上 当时做到凌晨四点 卡在最后一步 撑不住辣

Read more »

下午上课写一下 orz

手写高斯混合聚类算法 - 我的锅 - 博客园 (cnblogs.com)

热身一下

极大似然估计(Maximum Likelihood Estimate,MLE)

摘自:(175条消息) EM算法——直观理解与详细推导_Twilight Sparkle.的博客-CSDN博客

统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数L(θ|x)(在数值上)等于给定参数θ后变量X的概率:

L(θ|x)=P(X=x|θ)

注:L(θ|x)也可以写为L(θ:x)

极大似然估计也称为最大似然估计。

比如现在有一个袋子,里面装有白球和红球,你在里面随机抓了10个球,发现9个都是红球,那么你可以猜测从这个袋子抓出红球的概率为0.9,而抓出白球的概率为0.1。也就是说,我们根据样本来推测“为什么抓出来的样本会是这样”最可能的原因。

这种根据样本推断最可能的模型未知参数的方法叫做极大似然估计。

回到上面那个抛硬币的例子:如果两次抛硬币都是正面朝上。我们已经计算了当时,似然函数等于0.25;当时,似然函数等于0.36。计算时,似然函数将会等于1,此时是最大的。

那么“两次抛硬币都正面朝上”的实验推出的极大似然估计就是“硬币正面朝上的概率为1”。

算法流程

img

算法实现

reference

(160条消息) 【机器学习笔记】通俗易懂解释高斯混合聚类原理_lotusng的博客-CSDN博客_高斯混合聚类

https://towardsdatascience.com/gaussian-mixture-models-explained-6986aaf5a95

https://python-course.eu/machine-learning/expectation-maximization-and-gaussian-mixture-models-gmm.php

(175条消息) EM算法——直观理解与详细推导_Twilight Sparkle.的博客-CSDN博客