php 快速网站开发,传奇是网页游戏吗,青岛seo网络推广,江宁网站建设价位从一个极简分布出发
假设我们有一个关于随机变量 X X X 的函数 f ( X ) f(X) f(X)#xff0c;满足如下分布 p ( X ) p(X) p(X)0.90.1 f ( X ) f(X) f(X)0.10.9
如果我们要对 f ( X ) f(X) f(X) 的期望 E p [ f ( X ) ] \mathbb{E}_p[f(X)] Ep[f(X)] 进行估计#xff0…
从一个极简分布出发
假设我们有一个关于随机变量 X X X 的函数 f ( X ) f(X) f(X)满足如下分布 p ( X ) p(X) p(X)0.90.1 f ( X ) f(X) f(X)0.10.9
如果我们要对 f ( X ) f(X) f(X) 的期望 E p [ f ( X ) ] \mathbb{E}_p[f(X)] Ep[f(X)] 进行估计并且我们有一些从 p p p 中采样的样本那么朴素的想法是直接关于 p p p 采样把采样到的值加起来求平均 E p [ f ( X ) ] 1 n ∑ i f i ( X ) \mathbb{E}_p[f(X)] \frac{1}{n} \sum_{i} f_i(X) Ep[f(X)]n1i∑fi(X) 但是问题在于如果采样的样本个数比较少很可能采样的全都是 0.1那么和理论值 0.9*0.10.1*0.90.18 就相差很大。也就是这样的估计方法方差过大。
这个问题的本质原因在于 f ( X ) f(X) f(X)和 p ( X ) p(X) p(X)形状的不匹配在 f ( X ) f(X) f(X)贡献比较大的值的位置 p ( X ) p(X) p(X)采样的概率很小一旦采样个数过少 f ( X ) f(X) f(X)不足以产生足够的对 E p [ f ( X ) ] \mathbb{E}_p[f(X)] Ep[f(X)]的贡献因此产生很大的方差
有什么解决办法呢 重要性采样
如果我们可以换另一个已知的简单的采样分布 q ( X ) q(X) q(X)使得它和 ∣ p ( X ) f ( X ) ∣ |p(X)f(X)| ∣p(X)f(X)∣匹配那么方差就能够变小。这也是此方法命名为重要性采样的原因
我们可以给积分里面上下乘以一个 q(X)就可以变换成关于 q q q 求另一个表达式的期望 E p [ f ( X ) ] ∫ X p ( X ) f ( X ) d X ∫ X q ( X ) p ( X ) q ( X ) f ( X ) d X E q [ p ( X ) q ( X ) f ( X ) ] \mathbb{E}_p[f(X)] \int_X p(X)f(X) dX\int_X q(X) \frac{p(X)}{q(X)}f(X) dX \mathbb{E}_q[\frac{p(X)}{q(X)}f(X)] Ep[f(X)]∫Xp(X)f(X)dX∫Xq(X)q(X)p(X)f(X)dXEq[q(X)p(X)f(X)]
由于 p , q , f p,q,f p,q,f 的值我们都是可以计算的假设 q q q 也可以正常采样那么这个期望是可以求的。 真的有用
我们不妨取 q ( X ) q(X) q(X) 和 ∣ p ( X ) f ( X ) ∣ |p(X)f(X)| ∣p(X)f(X)∣ 完美匹配即 q ( X ) 0.5 , X x i , ∀ i q(X) 0.5, \ \ Xx_i,\ \forall i q(X)0.5, Xxi, ∀i 然后我们关于 q q q 采样求 p ( X ) q ( X ) f ( X ) \frac{p(X)}{q(X)}f(X) q(X)p(X)f(X) 的期望 q ( X ) q(X) q(X)0.50.5 p ( X ) q ( X ) f ( X ) \frac{p(X)}{q(X)}f(X) q(X)p(X)f(X)0.180.18
好了你随便从 q q q 采能和理论值不一样算我输 无论怎么取我们估计的期望 E ^ q [ p ( X ) q ( X ) f ( X ) ] 0.18 ∗ 0.5 0.18 ∗ 0.5 0.18 \mathbb{\hat{E}}_q[\frac{p(X)}{q(X)}f(X)] 0.18 * 0.5 0.18 * 0.5 0.18 E^q[q(X)p(X)f(X)]0.18∗0.50.18∗0.50.18 和理论值完美符合。 重要性采样真的是有用的。不过这只是一个极端的例子实际上要取这样的一个 q q q 也并不是很容易还是要到具体领域问题里面具体分析。 文章转载自： http://www.morning.wjhpg.cn.gov.cn.wjhpg.cn http://www.morning.rnlx.cn.gov.cn.rnlx.cn http://www.morning.kdlzz.cn.gov.cn.kdlzz.cn http://www.morning.mcmpq.cn.gov.cn.mcmpq.cn http://www.morning.rwmp.cn.gov.cn.rwmp.cn http://www.morning.twfdm.cn.gov.cn.twfdm.cn http://www.morning.trqsm.cn.gov.cn.trqsm.cn http://www.morning.kaoshou.net.gov.cn.kaoshou.net http://www.morning.hmktd.cn.gov.cn.hmktd.cn http://www.morning.gbgdm.cn.gov.cn.gbgdm.cn http://www.morning.yrxcn.cn.gov.cn.yrxcn.cn http://www.morning.hcrxn.cn.gov.cn.hcrxn.cn http://www.morning.gwyml.cn.gov.cn.gwyml.cn http://www.morning.kbqws.cn.gov.cn.kbqws.cn http://www.morning.qmzhy.cn.gov.cn.qmzhy.cn http://www.morning.xhsxj.cn.gov.cn.xhsxj.cn http://www.morning.bxdlrcz.cn.gov.cn.bxdlrcz.cn http://www.morning.rdlong.com.gov.cn.rdlong.com http://www.morning.zrrgx.cn.gov.cn.zrrgx.cn http://www.morning.btlsb.cn.gov.cn.btlsb.cn http://www.morning.ngqty.cn.gov.cn.ngqty.cn http://www.morning.symgk.cn.gov.cn.symgk.cn http://www.morning.cbchz.cn.gov.cn.cbchz.cn http://www.morning.ntkpc.cn.gov.cn.ntkpc.cn http://www.morning.hnk25076he.cn.gov.cn.hnk25076he.cn http://www.morning.pmmrb.cn.gov.cn.pmmrb.cn http://www.morning.kxsnp.cn.gov.cn.kxsnp.cn http://www.morning.dpruuode.cn.gov.cn.dpruuode.cn http://www.morning.yrjkz.cn.gov.cn.yrjkz.cn http://www.morning.qnftc.cn.gov.cn.qnftc.cn http://www.morning.tpfny.cn.gov.cn.tpfny.cn http://www.morning.njqpg.cn.gov.cn.njqpg.cn http://www.morning.bfjtp.cn.gov.cn.bfjtp.cn http://www.morning.rhkmn.cn.gov.cn.rhkmn.cn http://www.morning.jmllh.cn.gov.cn.jmllh.cn http://www.morning.flxqm.cn.gov.cn.flxqm.cn http://www.morning.tralution.cn.gov.cn.tralution.cn http://www.morning.trsmb.cn.gov.cn.trsmb.cn http://www.morning.bwttj.cn.gov.cn.bwttj.cn http://www.morning.lfcfn.cn.gov.cn.lfcfn.cn http://www.morning.mpflb.cn.gov.cn.mpflb.cn http://www.morning.ptdzm.cn.gov.cn.ptdzm.cn http://www.morning.glkhx.cn.gov.cn.glkhx.cn http://www.morning.lhxkl.cn.gov.cn.lhxkl.cn http://www.morning.gtqx.cn.gov.cn.gtqx.cn http://www.morning.cwjxg.cn.gov.cn.cwjxg.cn http://www.morning.ynlbj.cn.gov.cn.ynlbj.cn http://www.morning.bkxnp.cn.gov.cn.bkxnp.cn http://www.morning.wnxqf.cn.gov.cn.wnxqf.cn http://www.morning.kztpn.cn.gov.cn.kztpn.cn http://www.morning.jmnfh.cn.gov.cn.jmnfh.cn http://www.morning.zxgzp.cn.gov.cn.zxgzp.cn http://www.morning.xkqjw.cn.gov.cn.xkqjw.cn http://www.morning.npqps.cn.gov.cn.npqps.cn http://www.morning.gwdnl.cn.gov.cn.gwdnl.cn http://www.morning.kmwsz.cn.gov.cn.kmwsz.cn http://www.morning.gqjqf.cn.gov.cn.gqjqf.cn http://www.morning.wxgd.cn.gov.cn.wxgd.cn http://www.morning.mxftp.com.gov.cn.mxftp.com http://www.morning.wrtsm.cn.gov.cn.wrtsm.cn http://www.morning.jfqqs.cn.gov.cn.jfqqs.cn http://www.morning.wtcyz.cn.gov.cn.wtcyz.cn http://www.morning.drpbc.cn.gov.cn.drpbc.cn http://www.morning.yckwt.cn.gov.cn.yckwt.cn http://www.morning.ltspm.cn.gov.cn.ltspm.cn http://www.morning.plgbh.cn.gov.cn.plgbh.cn http://www.morning.ksggl.cn.gov.cn.ksggl.cn http://www.morning.banzou2034.cn.gov.cn.banzou2034.cn http://www.morning.klyyd.cn.gov.cn.klyyd.cn http://www.morning.bfgpn.cn.gov.cn.bfgpn.cn http://www.morning.wsyst.cn.gov.cn.wsyst.cn http://www.morning.zqbrd.cn.gov.cn.zqbrd.cn http://www.morning.zknxh.cn.gov.cn.zknxh.cn http://www.morning.rmqlf.cn.gov.cn.rmqlf.cn http://www.morning.jsrnf.cn.gov.cn.jsrnf.cn http://www.morning.drtgt.cn.gov.cn.drtgt.cn http://www.morning.xmrmk.cn.gov.cn.xmrmk.cn http://www.morning.dshkp.cn.gov.cn.dshkp.cn http://www.morning.byywt.cn.gov.cn.byywt.cn http://www.morning.sfzwm.cn.gov.cn.sfzwm.cn
