做网站类的网站,广州市天河区建设和水务局网站,微信公众号推文怎么做,公司简介网站模板系列上文#xff1a;机器学习终极指南#xff1a;特征工程#xff08;02/2#xff09; — 第 -2 部分 一、说明 在终极机器学习指南的第三部分中#xff0c;我们将了解统计建模的基础知识以及如何在 Python 中实现它们#xff0c;Python 是一种广泛用于数据分析和科学计… 系列上文机器学习终极指南特征工程02/2 — 第 -2 部分 一、说明 在终极机器学习指南的第三部分中我们将了解统计建模的基础知识以及如何在 Python 中实现它们Python 是一种广泛用于数据分析和科学计算的强大编程语言。我们将介绍概率分布、假设检验、回归分析和分类等基本概念以及数据准备、模型选择和评估等动手技术。 图例.1 — 统计和统计建模 在许多领域包括数据科学、机器学习和金融统计建模是理解和分析数据的基本工具。我们可以通过开发捕获变量之间关系的数学模型来做出预测、测试假设并深入了解复杂现象。 本指南将为您提供解决实际数据问题和做出数据驱动型决策所需的知识和工具。那么让我们开始使用Python探索令人兴奋的统计建模世界。
二、内容提要
概率论描述统计学推论统计广义线性模型贝叶斯统计与推理马尔可夫链蒙特卡洛 MCMC结论
三、概率论概念 概率论是研究随机事件的数学分支。它提供了一个框架用于理解事件发生的可能性以及我们如何根据这些概率进行预测。 图例.2 - 概率论 我们从概率论中的样本空间开始它是实验所有可能结果的集合。之后我们将事件定义为样本空间的子集并为它们分配概率。事件的概率是介于 0 和 1 之间的数字0 表示不可能1 表示确定。考虑一个公平的六面骰子的滚动。在这种情况下随机变量是从掷骰子中获得的数字。该随机变量的概率分布由均匀分布给出其中随机变量的每个值都有相等的发生机会。
3.1 期望值和方差 期望值和方差的概念在概率论中是必不可少的。随机变量的期望值是多次重复实验所需的平均值。方差是随机变量偏离其期望值的量。 考虑计算正态分布、均值为 0、标准差为 1 的随机变量的期望值和方差。要从正态分布生成随机数我们可以使用 NumPy 库
import numpy as np# Generate 10000 random numbers from a normal distribution
rand_nums np.random.normal(loc0, scale1, size10000)# Calculate the expected value and variance
expected_value np.mean(rand_nums)
variance np.var(rand_nums)print(fExpected value: {expected_value:.2f})
print(fVariance: {variance:.2f}) 在概率论中条件概率和贝叶斯定理也是重要的概念。给定一个事件发生的另一个事件的概率称为条件概率。贝叶斯定理是一个公式用于描述如何根据新信息更新事件的概率。 例如考虑一项医学测试当疾病存在时检测疾病的准确率为 95%但假阳性率为 5%。如果该疾病在人群中的患病率为1%那么检测呈阳性的人实际上患有该疾病的概率是多少
# Define the probabilities
p_disease 0.01
p_no_disease 1 - p_disease
p_positive_given_disease 0.95
p_positive_given_no_disease 0.05# Calculate the probability of testing positive
p_positive (p_positive_given_disease * p_disease) (p_positive_given_no_disease * p_no_disease)# Calculate the probability of having the disease given a positive test
p_disease_given_positive (p_positive_given_disease * p_disease) / p_positiveprint(fProbability of having the disease given a positive test: {p_disease_given_positive:.2f})
3.2 概率分布 概率分布是描述随机事件中不同结果的概率的数学函数。概率分布有多种类型每种类型都有自己的一组特征和应用。一些最常见的概率分布及其属性如下 图例.3 — 概率分布 a. 正态分布 它是具有钟形曲线的连续分布也称为高斯分布。它通常用于统计中描述现实世界的现象例如智商分数、身高和体重。分布的均值 μ 和标准差 σ 是两个参数。
import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import norm# Create a normal distribution with mean 0 and standard deviation 1
mu, sigma 0, 1
x np.linspace(mu - 3*sigma, mu 3*sigma, 100)
plt.plot(x, norm.pdf(x, mu, sigma))
plt.show() b. 二项分布它是一个离散分布描述了在给定数量的试验中给定数量的成功的可能性。它有两个参数n试验次数和p成功概率每次试验成功的概率。
from scipy.stats import binom# Create a binomial distribution with n10 and p0.5
n, p 10, 0.5
x np.arange(binom.ppf(0.01, n, p), binom.ppf(0.99, n, p))
plt.plot(x, binom.pmf(x, n, p), bo, ms8)
plt.show()
c. 泊松分布它是一个离散分布描述在给定的时间或空间间隔内发生一定数量事件的可能性。它只有一个参数 λ每个间隔的平均事件数。
from scipy.stats import poisson# Create a Poisson distribution with lambda2
mu 2
x np.arange(poisson.ppf(0.01, mu), poisson.ppf(0.99, mu))
plt.plot(x, poisson.pmf(x, mu), bo, ms8)
plt.show()
d. 指数分布它是一个连续分布描述了泊松过程中事件之间的时间其中事件随机且独立地发生。它只有一个参数λ泊松过程的速率。
from scipy.stats import expon# Create an exponential distribution with lambda0.5
rate 0.5
x np.linspace(0, 10, 100)
plt.plot(x, expon.pdf(x, scale1/rate))
plt.show()
e. 伽马分布 它是一个连续分布描述了泊松过程中 k 个事件之间的时间其中每个事件的速率为 λ。它有两个参数k 和 λ。
from scipy.stats import gamma# Create a gamma distribution with k2 and lambda0.5
k, theta 2, 1/0.5
x np.linspace(gamma.ppf(0.01, k), gamma.ppf(0.99, k), 100)
plt.plot(x, gamma.pdf(x, k, scaletheta))
plt.show() 概率论是一个棘手的话题但它对于理解和分析随机事件及其结果是必要的。通过使用Python和数学我们可以更好地理解这些概念并将其应用于现实世界的问题。
四、描述统计学 描述性统计可用于通过创建数据样本摘要来描述数据集的特征。人口普查可能包括描述性信息例如特定城市的男性和女性比例。 图例.4 — 描述性统计
4.1 集中趋势和变异性的度量 这些是用于描述数据集特征的统计概念。 中心趋势最能代表整个数据集的值是中心趋势。它可以使用多种方法进行计算包括平均值、中位数和众数。
意味 着它的计算方法是将数据点总数除以数据点总数。它是最常用的集中趋势度量。平均值可以使用以下公式计算平均值 所有值的总和 / 值的数量 我们可以使用 NumPy 库计算 Python 中数据集的平均值如下所示
import numpy as np
data np.array([2, 4, 6, 8, 10])
mean np.mean(data)
print(Mean:, mean)
中位数 它是数据集的中间值。它是将排序数据集中上 50% 的数据与下部 50% 的数据分开的值。如果数据集中有偶数个值则中位数是两个中间值的平均值。我们可以使用 NumPy 库计算 Python 中数据集的中位数如下所示
import numpy as np
data np.array([2, 4, 6, 8, 10])
median np.median(data)
print(Median:, median)
模式 它是数据集中出现频率最高的值。数据集中可以有一个或多个模式。我们可以使用 SciPy 库计算 Python 中数据集的模式如下所示
import scipy.stats as stats
data [2, 4, 6, 8, 10, 10]
mode stats.mode(data)
print(Mode:, mode)
变异性数据点围绕集中趋势的扩散或分散是通过可变性来衡量的。变异性通常使用范围、方差和标准差来衡量。
范围它是数据集的最大值和最小值之间的差异。我们可以使用 NumPy 库计算 Python 中数据集的范围如下所示
import numpy as np
data np.array([2, 4, 6, 8, 10])
range np.max(data) - np.min(data)
print(Range:, range)
方差 它是与平均值的平方偏差之和。它确定数据与平均值的偏差程度。方差使用以下公式计算方差 sumxi — mean2 / n — 1 我们可以使用 NumPy 库计算 Python 中数据集的方差如下所示
import numpy as np
data np.array([2, 4, 6, 8, 10])
variance np.var(data, ddof1)
print(Variance:, variance)
标准差它是方差的平方根。它用于计算数据集中数据的分布。可以使用以下公式计算标准偏差 sqrt 标准差方差 数据集的标准差可以在 Python 中使用 NumPy 库计算如下所示
import numpy as np
data np.array([2, 4, 6, 8, 10])
std_dev np.std(data, ddof1)
print(Standard Deviation:, std_dev)
For Histograms and Visualisation plots, and Correlation and covariance Checkout — EDA — Part1 and for Skewness and kurtosis Checkout — Feature Engineering Part -2
4.2 推论统计 推论统计是一种利用样本数据得出有关较大总体的结论的统计数据。通过分析总体数据样本推论统计可以对该总体进行预测并得出结论。 为了做出这些推论推论统计采用基于概率论的假设检验和置信区间等技术。 Fig.5- Inferential Statistics
Hypothesis Testing
假设检验是一种统计方法用于确定数据是否支持有关总体参数的假设。它包括确定零假设表示两组之间不存在差异的假设和备择假设表示两组之间存在差异的主张。
假设检验涉及的基本步骤是
陈述原假设和备择假设选择显著性水平 alpha收集数据并计算检验统计量确定 p 值根据 p 值和显著性水平得出结论
下面是假设检验的示例
假设一家公司声称他们的新产品将使销售额增加至少 10%。为了检验这一说法我们可以将原假设设置为
H0由于新产品μ ≤0没有增加销售额
替代假设为
Ha由于新产品μ 0的销售额增加
之后我们可以收集新产品发布前后的销售数据并计算检验统计量例如t统计量。然后我们可以使用此检验统计量计算 p 值该统计量表示假设原假设为真获得与观察到的检验统计量一样极端的概率。
如果 p 值小于所选显著性水平 alpha则否定原假设并找到备择假设的证据。如果 p 值大于 alpha则我们无法否定原假设并得出结论备择假设的证据不足。
在 Python 中我们可以使用 scipy.stats 模块来执行假设检验。下面是一个 t 检验的示例
import numpy as np
from scipy.stats import ttest_ind# Generate some sample data
group1 np.random.normal(10, 2, size50)
group2 np.random.normal(12, 2, size50)# Perform a two-sample t-test
t, p ttest_ind(group1, group2)print(t-statistic:, t)
print(p-value:, p)
2. 置信区间
推论统计使用置信区间来估计总体参数例如基于数据样本的平均值或比例。置信区间是具有一定确定性的值范围其中包含参数的真实值。
假设我们要估计学校中所有学生的平均身高。我们可以测量随机抽样学生的身高并使用样本均值来估计总体均值。但是我们不知道这个估计有多精确。通过构建置信区间我们可以提供一个值范围这些值可能包含具有一定置信度的真实总体均值。
图片------------------------------------------------------- 图例.6 — 置信区间 要创建置信区间我们必须首先选择一个置信水平通常为 90%、95% 或 99%。置信水平表示如果采样过程重复多次区间包含真实总体参数的次数比例。例如95% 置信区间意味着如果我们取 100 个样本并为每个样本构建一个置信区间其中大约 95 个区间将包含真实的总体参数。 置信区间的公式由样本数量和样本数据的分布确定。例如如果样本数量很大且数据呈正态分布我们可以使用以下公式来计算总体均值的 95% 置信区间
置信区间 x̄ ± 1.96 * s / √n 其中 CI 是置信区间x̄ 是样本均值s 是样本标准差n 是样本数量1.96 是 95% 置信水平的 z 得分。 在 Python 中我们可以使用 scipy.stats 模块来计算置信区间。例如要从数据样本中计算总体均值的 95% 置信区间我们可以使用以下代码
import numpy as np
from scipy.stats import t# Generate some sample data
data np.random.normal(0, 1, size100)# Calculate the sample mean and standard deviation
xbar np.mean(data)
s np.std(data, ddof1)# Calculate the t-value for a 95% confidence level with n-1 degrees of freedom
tval t.ppf(0.975, len(data)-1)# Calculate the confidence interval
ci (xbar - tval*s/np.sqrt(len(data)), xbar tval*s/np.sqrt(len(data)))print(ci)
3. 功率分析 功效分析是一种统计方法用于确定研究所需的样本量以检测显著效应如果存在。研究的功效是检测到显着效应的可能性假设存在。功效分析对于确定研究所需的样本量非常有用以避免II类错误假阴性并确保研究结果可靠有效。 图片.7 — 功率分析 进行功效分析时必须考虑几个因素包括所需的显著性水平 alpha、效应大小和样本数量。两个变量之间的差异大小或关系称为效应大小通常表示为差异的标准化度量例如科恩的d。功效分析还考虑样本数量因为较大的样本数量通常会导致更高的功效。 下面是使用statsmodels该库在 Python 中进行功耗分析的示例
import statsmodels.stats.power as smp# Set parameters for power analysis
effect_size 0.5
alpha 0.05
power 0.8# Conduct power analysis
nobs smp.tt_ind_solve_power(effect_sizeeffect_size, alphaalpha, powerpower)print(Sample size: , round(nobs)) 在此示例中我们将效应大小设置为 0.5这被视为中等效应大小将 alpha 水平设置为 0.05这是常用的显著性水平将功率水平设置为 0.8这是常用的功效水平。然后使用 tt ind 求解幂函数计算具有指定参数的双样本 t 检验所需的样本数量。代码返回所需的样本大小四舍五入到最接近的整数。
五、广义线性模型 GLM 是一种统计模型它扩展了线性回归模型以处理非正态和非连续响应变量。GLM 背后的基本思想是使用链接函数和概率分布函数来模拟响应变量和预测变量之间的关系。 图例.8 — 回归的 GLM 模型示例
GLM 的三个关键组成部分是
随机分量 这描述了响应变量的概率分布。GLM 中最常用的概率分布是正态分布、二项分布和泊松分布。系统组件 这描述了响应变量和预测变量之间的关系。它是通过预测变量和链接函数的线性组合建模的。链接功能 这是一个将响应变量的均值与系统分量中的线性预测变量相关联的函数。它是根据响应变量的性质和所使用的分布来选择的。
GLM 及其相关概率分布的一些示例包括
线性回归正态分布逻辑回归 二项分布泊松回归 泊松分布
拟合 GLM 的过程包括指定随机分量、选择适当的链接函数以及使用最大似然估计估计参数。 GLM 分布之间的差异 Python有几个用于拟合GLM的软件包包括statsmodels和scikit-learn。下面是使用统计模型拟合逻辑回归模型的示例
import statsmodels.api as sm# Load data
data sm.datasets.get_rdataset(Titanic, vcd).data# Fit logistic regression model
model sm.formula.glm(survived ~ age sex, datadata, familysm.families.Binomial()).fit()# Print model summary
print(model.summary()) 响应变量是二元的存活或未存活因此使用二项分布。链接函数是逻辑函数它是二项分布的默认值。model.summary 函数的输出提供有关每个预测变量的估计系数、标准误差和显著性检验的信息。 让我解释一个使用 GLM 的回归问题让我们看看泊松回归 泊松回归是用于对计数数据进行建模的广义线性模型 GLM 类型。当响应变量是计数时它特别有用例如事件在给定时间段内发生的次数。泊松回归假定响应变量的泊松分布并将响应变量的期望值建模为预测变量的线性函数。 泊松分布是一种概率分布它描述了给定平均发生率的给定时间间隔内事件发生的次数。它由称为 lambda 的单个参数定义该参数表示每单位时间的平均事件数。泊松概率质量函数给出了在给定时间间隔内观测 k 个事件的概率 Pk lambda^k * e^-lambda / k 在泊松回归中假设响应变量 y 服从具有 lambda 平均值的泊松分布其中 lambda 建模为预测变量的线性函数 Ey lambda expb0 b1x1 b2x2 ... bpxp 其中 b0 是截距b1、b2、...、bp 是回归系数x1、x2、...、xp 是预测变量。 泊松回归的一个重要假设是响应变量的方差等于其平均值。这称为等离散假设。如果数据违反此假设则负二项式回归模型可能更合适。
import statsmodels.api as sm
import pandas as pd# Load data
data pd.read_csv(data.csv)# Fit Poisson regression model
model sm.GLM(data[y], data[[x1, x2, x3]], familysm.families.Poisson()).fit()# Print model summary
print(model.summary())
六、贝叶斯统计和我推断 贝叶斯统计是一个统计分支处理更新信念或概率以响应新证据。它允许将先验知识或信念纳入统计推断和决策。 贝叶斯统计采用贝叶斯定理这是一个描述两个事件条件概率之间关系的数学公式。根据贝叶斯定理给定一些观测数据D的假设H的概率与给定假设的数据乘以假设的先验概率的可能性成正比。 图例.9 — 贝叶斯统计 贝叶斯统计采用贝叶斯定理这是一个描述两个事件条件概率之间关系的数学公式。根据贝叶斯定理给定一些观测数据D的假设H的概率与给定假设的数据乘以假设的先验概率的可能性成正比。 PH|D PD|H * PH / PD
这里
PH|D 是给定数据 D 的假设 H 的后验概率PD|H 是给定假设 H 的数据 D 的可能性PH 是假设 H 的先验概率PD 是数据 D 的边际概率
import pandas as pd
import statsmodels.api as sm# Load the iris dataset
iris pd.read_csv(https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data,names[sepal_length, sepal_width, petal_length, petal_width, species])# Fit a mixed-effects linear regression model
random {sepal_width: 1 petal_width, petal_length: 1 petal_width*sepal_length}
model sm.MixedLM.from_formula(sepal_length ~ petal_length C(species), datairis, re_formula1, vc_formularandom,groupsspecies)# Print the summary of the model
result model.fit()
result.summary() 与传统的频率统计相比贝叶斯统计有几个优点包括能够整合先验知识直接估计假设的概率并在新数据可用时更新信念。贝叶斯统计有许多应用包括医学研究、社会科学、金融和工程。一个例子是用于药物开发的贝叶斯推理它使用临床试验的先验知识和数据来估计新药有效的可能性。 贝叶斯推理是一种统计方法用于根据新证据或数据更新假设或模型的概率。它以数学家托马斯·贝叶斯的名字命名涉及贝叶斯定理的应用该定理涉及事件的条件概率。 先验概率分布表示贝叶斯推理中关于假设或模型的先验知识或信念。使用贝叶斯定理根据观测数据将该先验分布转换为后验分布。给定观测数据后验分布表示假设或模型的更新概率。
七、马尔可夫链蒙特卡洛 MCMC 马尔可夫链蒙特卡罗 MCMC 方法是一种用于从复杂概率分布中采样的算法。它们广泛用于贝叶斯推理中以估计模型参数后验分布。在这个答案中我们将介绍MCMC方法并提供一个示例Python代码实现。 为了从难以直接采样的复杂分布中生成样本序列使用了MCMC方法。MCMC方法背后的基本思想是构建一个马尔可夫链其平稳分布是我们想要从中采样的目标分布。我们可以通过模拟这个马尔可夫链足够长的时间从目标分布中生成一系列样本。 图10 - 马尔可夫链蒙特卡洛MCMC 马尔可夫链是随机变量 X1、X2、...、Xn 的序列其中每个 Xi 都来自仅取决于先前状态 X{i-1} 的概率分布。从一个状态过渡到另一个状态的概率由转换核 Kx{i-1} xi 给出。如果以下详细平衡条件成立则称马尔可夫链是可逆的 马尔可夫链 其中 pix 是马尔可夫链的平稳分布。这意味着从 x{i-1} 过渡到 xi 的概率与从 xi 过渡到 x{i-1} 的概率相同。 大都会-黑斯廷斯算法是一种流行的 MCMC 算法用于从复分布中采样。该算法的工作原理是基于当前状态 x 提出一个新状态 y并根据接受概率接受或拒绝提议的状态 大都会-黑斯廷斯算法 其中 pix 是我们想要采样的目标分布qx|y 是从 y 过渡到 x 的建议分布qy|x 是从 x 过渡到 y 的建议分布。 如果建议的状态 y 被接受则 x 将更新为 y。如果建议的状态被拒绝则 x 保持不变。接受概率保证满足详细平衡条件得到的马尔可夫链以 pix 作为其平稳分布 下面是一个 Metropolis-Hastings 算法的 Python 实现示例用于从正态分布中采样
import numpy as np
import matplotlib.pyplot as plt# Define the target distribution
def target(x):return np.exp(-0.5*(x-2)**2) np.exp(-0.5*(x2)**2)# Define the proposal distribution
def proposal(x, sigma1):return np.random.normal(x, sigma)# Initialize the Markov chain
x 0
samples []# Run the algorithm
for i in range(10000):# Propose a new statey proposal(x)# Compute the acceptance probabilityalpha min(1, target(y)/target(x))# Accept or reject the proposed stateif np.random.rand() alpha:x y# Add the sample to the list of samplessamples.append(x)# Plot the samples
plt.hist(samples, bins50, densityTrue, labelEstimated distribution)
plt.legend()
plt.show() 绘制样本的直方图后下一步是估计感兴趣参数的后验分布。有不同的方法可以执行此估计例如核密度估计、高斯混合模型或者简单地将参数分布例如高斯分布拟合到样本中。 下面是如何使用核密度估计估计后验分布的示例
from scipy.stats import gaussian_kde# Estimate the posterior distribution using kernel density estimation
kde gaussian_kde(samples)# Define the range of the x-axis for the plot
x_min min(samples)
x_max max(samples)
x_range np.linspace(x_min, x_max, 1000)# Plot the posterior distribution
plt.plot(x_range, kde(x_range), labelPosterior distribution)
plt.legend()
plt.show() 估计后验分布后我们可以使用它来计算感兴趣的不同统计量例如平均值、标准差或分位数。例如要计算参数的 95% 可信区间我们可以使用 numpy 中的函数如下所示percentile
# Compute the 95% credible interval
lower_bound np.percentile(samples, 2.5)
upper_bound np.percentile(samples, 97.5)
print(f95% credible interval: [{lower_bound}, {upper_bound}]) 还有不同的诊断可用于评估 MCMC 算法的性能并检查收敛性。一些常见的诊断包括迹线图、自相关图和格尔曼-鲁宾统计量。这些诊断超出了本答案的范围但您可以在文献中找到有关它们的更多信息。
八、结论 最终统计学是一个重要的研究领域它为理解和分析数据提供了一个框架。统计推断的基础是概率论它涉及根据样本对总体进行推断。
推论统计用于进行预测和测试假设而描述性统计用于汇总和描述数据。广义线性模型 GLM 广泛用于经济学、生物学和流行病学等领域因为它们为对各种数据类型进行建模提供了灵活的框架。贝叶斯统计和推理为传统的频率主义方法提供了一种强大的替代方案允许进行更细致和现实的不确定性建模。马尔可夫链蒙特卡罗MCMC等方法为模拟复杂概率分布提供了强大的工具可用于估计
西姆兰吉特·辛格 文章转载自： http://www.morning.sfhjx.cn.gov.cn.sfhjx.cn http://www.morning.rhfbl.cn.gov.cn.rhfbl.cn http://www.morning.lsnhs.cn.gov.cn.lsnhs.cn http://www.morning.mcmpq.cn.gov.cn.mcmpq.cn http://www.morning.vjwkb.cn.gov.cn.vjwkb.cn http://www.morning.gqnll.cn.gov.cn.gqnll.cn http://www.morning.gqjqf.cn.gov.cn.gqjqf.cn http://www.morning.yqmmh.cn.gov.cn.yqmmh.cn http://www.morning.kxbdm.cn.gov.cn.kxbdm.cn http://www.morning.hhboyus.cn.gov.cn.hhboyus.cn http://www.morning.lkhgq.cn.gov.cn.lkhgq.cn http://www.morning.dbrdg.cn.gov.cn.dbrdg.cn http://www.morning.qhqgk.cn.gov.cn.qhqgk.cn http://www.morning.zybdj.cn.gov.cn.zybdj.cn http://www.morning.yzsdp.cn.gov.cn.yzsdp.cn http://www.morning.slysg.cn.gov.cn.slysg.cn http://www.morning.qnjcx.cn.gov.cn.qnjcx.cn http://www.morning.dgsx.cn.gov.cn.dgsx.cn http://www.morning.ljwyc.cn.gov.cn.ljwyc.cn http://www.morning.xrsqb.cn.gov.cn.xrsqb.cn http://www.morning.lizpw.com.gov.cn.lizpw.com http://www.morning.jqmmf.cn.gov.cn.jqmmf.cn http://www.morning.kjyfq.cn.gov.cn.kjyfq.cn http://www.morning.lmmyl.cn.gov.cn.lmmyl.cn http://www.morning.ftzll.cn.gov.cn.ftzll.cn http://www.morning.xkbdx.cn.gov.cn.xkbdx.cn http://www.morning.jmspy.cn.gov.cn.jmspy.cn http://www.morning.jqcrf.cn.gov.cn.jqcrf.cn http://www.morning.rccbt.cn.gov.cn.rccbt.cn http://www.morning.wtnwf.cn.gov.cn.wtnwf.cn http://www.morning.thntp.cn.gov.cn.thntp.cn http://www.morning.qttft.cn.gov.cn.qttft.cn http://www.morning.trbxt.cn.gov.cn.trbxt.cn http://www.morning.gnkbf.cn.gov.cn.gnkbf.cn http://www.morning.xnrgb.cn.gov.cn.xnrgb.cn http://www.morning.wjhpg.cn.gov.cn.wjhpg.cn http://www.morning.cbqqz.cn.gov.cn.cbqqz.cn http://www.morning.symgk.cn.gov.cn.symgk.cn http://www.morning.gwqkk.cn.gov.cn.gwqkk.cn http://www.morning.gmysq.cn.gov.cn.gmysq.cn http://www.morning.ndrzq.cn.gov.cn.ndrzq.cn http://www.morning.ghxtk.cn.gov.cn.ghxtk.cn http://www.morning.mhnr.cn.gov.cn.mhnr.cn http://www.morning.fdmfn.cn.gov.cn.fdmfn.cn http://www.morning.dmtbs.cn.gov.cn.dmtbs.cn http://www.morning.wwznd.cn.gov.cn.wwznd.cn http://www.morning.gjlst.cn.gov.cn.gjlst.cn http://www.morning.dspqc.cn.gov.cn.dspqc.cn http://www.morning.rbhcx.cn.gov.cn.rbhcx.cn http://www.morning.nwzcf.cn.gov.cn.nwzcf.cn http://www.morning.kkdbz.cn.gov.cn.kkdbz.cn http://www.morning.wdskl.cn.gov.cn.wdskl.cn http://www.morning.rwyd.cn.gov.cn.rwyd.cn http://www.morning.txrkq.cn.gov.cn.txrkq.cn http://www.morning.xjkr.cn.gov.cn.xjkr.cn http://www.morning.mtbth.cn.gov.cn.mtbth.cn http://www.morning.fbxdp.cn.gov.cn.fbxdp.cn http://www.morning.jfqpc.cn.gov.cn.jfqpc.cn http://www.morning.ntzbr.cn.gov.cn.ntzbr.cn http://www.morning.lxqkt.cn.gov.cn.lxqkt.cn http://www.morning.xxsrm.cn.gov.cn.xxsrm.cn http://www.morning.qkdcb.cn.gov.cn.qkdcb.cn http://www.morning.qgtbx.cn.gov.cn.qgtbx.cn http://www.morning.jgttx.cn.gov.cn.jgttx.cn http://www.morning.qdlnw.cn.gov.cn.qdlnw.cn http://www.morning.sjbpg.cn.gov.cn.sjbpg.cn http://www.morning.jxscp.cn.gov.cn.jxscp.cn http://www.morning.kpcdc.cn.gov.cn.kpcdc.cn http://www.morning.nstml.cn.gov.cn.nstml.cn http://www.morning.srtw.cn.gov.cn.srtw.cn http://www.morning.dwfxl.cn.gov.cn.dwfxl.cn http://www.morning.xbmwh.cn.gov.cn.xbmwh.cn http://www.morning.fjfjm.cn.gov.cn.fjfjm.cn http://www.morning.gkmwx.cn.gov.cn.gkmwx.cn http://www.morning.jmllh.cn.gov.cn.jmllh.cn http://www.morning.mftzm.cn.gov.cn.mftzm.cn http://www.morning.cfmrb.cn.gov.cn.cfmrb.cn http://www.morning.rpwck.cn.gov.cn.rpwck.cn http://www.morning.nswcw.cn.gov.cn.nswcw.cn http://www.morning.hxljc.cn.gov.cn.hxljc.cn
