python怎么模擬EM算法

本篇內(nèi)容介紹了“python怎么模擬EM算法”的有關(guān)知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領(lǐng)大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠?qū)W有所成！

模擬課本第一個例子，即用EM算法估計三個硬幣模型的參數(shù)。

• 問題引入：有三個硬幣：A、B、C?，F(xiàn)在先投擲A，根據(jù)A的結(jié)果進行選擇，A為正面選B，A為反面選C。然后用選出的硬幣進行投擲。結(jié)果[1, 1, 0, 1, 0, 0, 1, 0, 1, 1]。問題：先只能觀測到拋硬幣結(jié)果，不能觀測過程的前提下，如何估計三個硬幣正面出現(xiàn)的概率，即三個硬幣模型的參數(shù)。

• EM算法解決代碼：

import numpy as np
import math


class EM:
    def __init__(self, prob):
        self.pro_A, self.pro_B, self.pro_C = prob

    # e_step
    def pmf(self, i):
        pro_1 = self.pro_A * math.pow(self.pro_B, data[i]) * math.pow(
            (1 - self.pro_B), 1 - data[i])
        pro_2 = (1 - self.pro_A) * math.pow(self.pro_C, data[i]) * math.pow(
            (1 - self.pro_C), 1 - data[i])
        return pro_1 / (pro_1 + pro_2)

    # m_step
    def fit(self, data):
        count = len(data)
        print('init prob:{}, {}, {}'.format(self.pro_A, self.pro_B,
                                            self.pro_C))
        for d in range(count):
            # _ = yield  # 關(guān)于yield強烈推薦這篇： https://developer.ibm.com/zh/articles/os-cn-python-yield/
            _pmf = [self.pmf(k) for k in range(count)]
            pro_A = 1 / count * sum(_pmf)
            pro_B = sum([_pmf[k] * data[k] for k in range(count)]) / sum(
                [_pmf[k] for k in range(count)])
            pro_C = sum([(1 - _pmf[k]) * data[k]
                         for k in range(count)]) / sum([(1 - _pmf[k])
                                                        for k in range(count)])
            print('{}/{}  pro_a:{:.3f}, pro_b:{:.3f}, pro_c:{:.3f}'.format(
                d + 1, count, pro_A, pro_B, pro_C))
            self.pro_A = pro_A
            self.pro_B = pro_B
            self.pro_C = pro_C


data = [1, 1, 0, 1, 0, 0, 1, 0, 1, 1]

# 由于EM算法與初始值有關(guān)，這里有兩組不同的初始值，以便體會
# 第一組
# em = EM(prob=[0.5, 0.5, 0.5])
# f = em.fit(data)
# 如果用yield
# 需要下邊代碼
# next(f)  # 執(zhí)行到上面的yield卡主，即只完成了初始化
# next(f)  # 繼續(xù)執(zhí)行，到下一次yield之前。也就是完成了一次迭代

# 第二組
em = EM(prob=[0.4, 0.6, 0.7])
f2 = em.fit(data)

結(jié)果：

• 沒有用yield時：

init prob:0.4, 0.6, 0.7
1/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
2/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
3/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
4/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
5/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
6/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
7/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
8/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
9/10  pro_a:0.406, pro_b:0.537, pro_c:0.643
10/10  pro_a:0.406, pro_b:0.537, pro_c:0.643

• 用yield的時候一條一條輸出上面的語句

“python怎么模擬EM算法”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注億速云網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實用文章！