怎样在凡科网站做网页,买外贸衣服的网站,营销网站的方法,制作网站代码文章目录 前言 1.1 向量和矩阵 1.1.1 标量、向量、矩阵、张量之间的联系 1.1.2 张量与矩阵的区别 1.1.3 矩阵和向量相乘结果 1.1.4 向量和矩阵的范数归纳 1.1.5 如何判断一个矩阵为正定 1.2 导数和偏导数 1.2.1 导数偏导计算 1.2.2 导数和偏导数有什么区别 1.3 特征值和特征向量…文章目录 前言 1.1 向量和矩阵 1.1.1 标量、向量、矩阵、张量之间的联系 1.1.2 张量与矩阵的区别 1.1.3 矩阵和向量相乘结果 1.1.4 向量和矩阵的范数归纳 1.1.5 如何判断一个矩阵为正定 1.2 导数和偏导数 1.2.1 导数偏导计算 1.2.2 导数和偏导数有什么区别 1.3 特征值和特征向量 1.3.1 特征值分解与特征向量 1.3.2 奇异值与特征值有什么关系 1.4 概率分布与随机变量 1.4.1 机器学习为什么要使用概率分布 1.4.2 变量与随机变量有什么区别 1.4.3 随机变量与概率分布的联系 1.4.4 离散型随机变量和概率质量函数 1.4.5 连续型随机变量和概率密度函数 1.4.6 举例理解条件概率 1.4.7 联合概率与边缘概率联系区别 1.4.8 条件概率的链式法则 1.4.9 独立性和条件独立性 1.5 常见概率分布 1.5.1 Bernoulli 分布 1.5.2 高斯分布 1.5.3 何时采用正态分布 1.5.4 指数分布 1.5.5 Laplace 分布拉普拉斯分布 1.5.6 Dirac 分布和经验分布 1.6 期望、方差、协方差、相关系数 1.6.1 期望 1.6.2 方差 1.6.3 协方差 1.6.4 相关系数 参考文献 前言
深度学习通常又需要哪些数学基础深度学习里的数学到底难在哪里通常初学者都会有这些问题在网络推荐及书本的推荐里经常看到会列出一系列数学科目比如微积分、线性代数、概率论、复变函数、数值计算、优化理论、信息论等等。这些数学知识有相关性但实际上按照这样的知识范围来学习学习成本会很久而且会很枯燥。本章我们通过选举一些数学基础里容易混肴的一些概念作以介绍帮助大家更好的理清这些易混肴概念之间的关系。 1.1 向量和矩阵
1.1.1 标量、向量、矩阵、张量之间的联系
标量scalar
一个标量表示一个单独的数它不同于线性代数中研究的其他大部分对象通常是多个数的数组。我们用斜体表示标量。标量通常被赋予小写的变量名称。
向量vector
一个向量表示一组有序排列的数。通过次序中的索引我们可以确定每个单独的数。通常我们赋予向量粗体的小写变量名称比如xx。向量中的元素可以通过带脚标的斜体表示。向量是第一个元素是第二个元素是以此类推。我们也会注明存储在向量中的元素的类型实数、虚数等。
矩阵matrix
矩阵是具有相同特征和纬度的对象的集合表现为一张二维数据表。其意义是一个对象表示为矩阵的一行一个特征表示为矩阵的一列每个特征都有数值型的取值。通常会赋予矩阵粗体的大写变量名称比如。
张量tensor
在某些情况下我们会讨论坐标超过两维的数组。一般地一个数组中的元素分布在若干维坐标的规则网格中我们将其称之为张量。使用来表示“A”。张量中坐标为的元素记作。
四者之间关系 标量是0阶张量向量是1阶张量。举例 标量就是知道棍子的长度但是你不会知道棍子指向哪儿。 向量就是不但知道棍子的长度还知道棍子指向前面还是后面。 张量就是不但知道棍子的长度也知道棍子指向前面还是后面还能知道这棍子又向上/下和左/右偏转了多少。 1.1.2 张量与矩阵的区别
从代数角度讲矩阵它是向量的推广。向量可以看成一维的“表格”即分量按照顺序排成一排矩阵是二维的“表格”分量按照纵横位置排列那么阶张量就是所谓的维“表格”。张量的严格定义是利用线性映射来描述。从几何角度讲矩阵是一个真正的几何量也就是说它是一个不随参照系的坐标变换而变化的东西。向量也具有这种特性。张量可以用矩阵形式来表达。表示标量的数和表示向量的三维数组也可分别看作的矩阵。
1.1.3 矩阵和向量相乘结果
若使用爱因斯坦求和约定Einstein summation convention矩阵相乘得到矩阵可以用下式表示 其中分别表示矩阵的元素出现两次是一个哑变量Dummy Variables表示对该参数进行遍历求和。而矩阵和向量相乘可以看成是矩阵相乘的一个特殊情况例如矩阵是一个的矩阵。
1.1.4 向量和矩阵的范数归纳
向量的范数norm
定义一个向量为。任意一组向量设为。其不同范数求解如下
向量1的范数向量的各个元素的绝对值之和上述向量的1范数结果就是29。 向量2的范数向量的每个元素的平方和再开平方根上述的2范数结果就是15。 向量的负无穷范数向量的所有元素的绝对值中最小的上述向量的负无穷范数结果就是5。 向量的正无穷范数向量的所有元素的绝对值中最大的上述向量的正无穷范数结果就是10。 向量的p范数 矩阵的范数
定义一个矩阵。任意矩阵定义为其元素为。
矩阵的范数定义为 当向量取不同范数时相应得到了不同的矩阵范数。
矩阵的1范数列范数矩阵的每一列上的元素绝对值先求和再从中取个最大的列和最大上述矩阵的1范数先得到再取最大的最终结果就是9。 矩阵的2范数矩阵的最大特征值开平方根上述矩阵的2范数先得到最终结果是10.0623。 其中为的特征值绝对值的最大值。
矩阵的无穷范数行范数矩阵的每一行上的元素绝对值先求和再从中取个最大的行和最大上述矩阵的行范数先得到,再取最大的最终结果是16。 矩阵的核范数矩阵的奇异值将矩阵svd分解之和这个范数可以用来低秩表示因为最小化核范数相当于最小化矩阵的秩——低秩上述矩阵的最终结果就是10.9287。
矩阵的L0范数矩阵的非0元素的个数通常用它来表示稀疏L0范数越小0越苏越多也就越稀疏上述矩阵的最终结果就是6。
矩阵的L1范数矩阵中的每个元素的绝对值之和它是L0范数的最优凸近似因此它也可以表示稀疏上述矩阵的最终结果就是22。
矩阵的F范数矩阵的各个元素平方之和再开平方根它通常也叫做矩阵的L2范数它的优点在于它是一个凸函数可以求导求解易于计算上述矩阵的最终结果就是10.0995。 矩阵的L21范数矩阵先以每一列为单位求每一列的F范数也可认为是向量的2范数然后再将得到的结果求L1范数也可认为是向量的1范数很容易看出它是介于L1和L2之间的一种范数上述矩阵的最终结果就是17.1559。
矩阵的p范数 1.1.5 如何判断一个矩阵为正定
判断一个矩阵是否为正定通常有以下几个方面顺序主子式全大于0存在可逆矩阵使等于该矩阵正惯性指数等于合同于单位矩阵即规范形为标准形中主对角元素全为正特征值全为正是某基的度量矩阵。
1.2 导数和偏导数
1.2.1 导数偏导计算
导数定义
导数derivative代表了在自变量变化趋于无穷小的时候函数值的变化与自变量的变化的比值。几何意义是这个点的切线。物理意义是该时刻的瞬时变化率。
注意在一元函数中只有一个自变量变动也就是说只存在一个方向的变化率这也就是为什么一元函数没有偏导数的原因。在物理学中有平均速度和瞬时速度之说。平均速度有 其中表示平均速度表示路程表示时间。这个公式可以改写为 其中表示两点之间的距离而表示走过这段距离需要花费的时间。当趋向于0时也就是时间变得很短时平均速度也就变成了在时刻的瞬时速度表示成如下形式 实际上上式表示的是路程关于时间的函数在处的导数。一般的这样定义导数如果平均变化率的极限存在即有 则称此极限为函数在点处的导数。记作或或或。
通俗地说导数就是曲线在某一点切线的斜率。
偏导数
既然谈到偏导数partial derivative那就至少涉及到两个自变量。以两个自变量为例从导数到偏导数也就是曲线来到了曲面。曲线上的一点其切线只有一条。但在曲面上的一点切线有无数条。而偏导数就是指多元函数沿着坐标轴的变化率。
注意直观地说偏导数也就是函数在某一点上沿坐标轴正方向的变化率。
设函数在点处关于自变量的偏导数记作或或或。
偏导数在求解时可以将另一个变量看作常数利用普通的求导方式求解比如关于的偏导数就为这个时候就相当于的系数。
某点处的偏导数的几何意义为曲面与面或面交线在或处切线的斜率。
1.2.2 导数和偏导数有什么区别
导数和偏导数没有本质区别如果极限存在都是当自变量的变化量趋于0时函数值的变化量与自变量变化量比值的极限。
一元函数一个对应一个导数只有一个。二元函数一个对应一个和一个有两个导数一个是对的导数一个是对的导数称之为偏导。求偏导时要注意对一个变量求导则视另一个变量为常数只对该变量求导从而将偏导的求解转化成了一元函数的求导。
1.3 特征值和特征向量
1.3.1 特征值分解与特征向量
特征值分解可以得到特征值eigenvalues与特征向量eigenvectors
特征值表示的是这个特征到底有多重要将一定可以表示成下面的形式 为特征向量对应的特征值。特征值分解是将一个矩阵分解为如下形式 其中是这个矩阵的特征向量组成的矩阵是一个对角矩阵每一个对角线元素就是一个特征值里面的特征值是由大到小排列的这些特征值所对应的特征向量就是描述这个矩阵变化方向从主要的变化到次要的变化排列。也就是说矩阵的信息可以由其特征值和特征向量表示。
1.3.2 奇异值与特征值有什么关系
那么奇异值和特征值是怎么对应起来的呢我们将一个矩阵的转置乘以并对求特征值则有下面的形式 这里就是上面的右奇异向量另外还有 这里的就是奇异值就是上面所说的左奇异值。奇异值跟特征值剋四在矩阵中也是从大到小排列而且的减少特别快在很多情况下前10%甚至1%的奇异值的和就占了全部的奇异值之和的99%以上了。也就是说我们也可以用前远小于个奇异值来近似描述矩阵即部分奇异值分解 右边的三个矩阵相乘的结果将会是一个接近于的矩阵在这儿越接近于则相乘的结果越接近于。
1.4 概率分布与随机变量
1.4.1 机器学习为什么要使用概率分布
事件的概率是衡量该事件发生的可能性的量度。虽然在一次随机试验中某个事件的发生是带有偶然性的但那些可在相同条件下大量重复的随机试验却往往呈现出明显的数量规律。
机器学习除了处理不确定量也需处理随机量。不确定性和随机性可能来自多个方面使用概率论来量化不确定性。
概率论在机器学习中扮演着一个核心角色因为i机器学习算法的设计通常依赖于对数据的概率假设。 例如在机器学习Andrew Ng的课中会有一个朴素贝叶斯假设就是条件独立的一个例子。该学习算法对内容做出假设用来分辨电子邮件是否为垃圾邮件。假设无论邮件是否为垃圾邮件单词x出现在邮件中的概率条件独立于单词y。很明显这个假设不是不失一般性的因为某些单词几乎总是同时出现。然而最终结果是这个简单的假设对结果的影响并不大且无论如何都可以让我们快速判别垃圾邮件。 1.4.2 变量与随机变量有什么区别
随机变量random variable
表示随机现象在一定条件下并不总是出现相同结果的现象称为随机现象中各种结果的实值函数一切可能的样本点。例如某一时间内公共汽车站等车乘客人数电话交换台在一定时间内收到的呼叫次数等都是随机变量的实例。
随机变量与模糊变量的不确定性的本质差别在于后者的测定结果仍具有不确定性即模糊性。
变量与随机变量的区别
当变量的取值的概率不是1时变量就成了随机变量
当随机变量取值的概率为1时随机变量就变成了变量。 比如 当变量值为100的概率为1的话,那么100 就是确定了的,不会再有变化,除非有进一步运算. 当变量的值为100的概率不为1,比如为50的概率是0.5,为100的概率是0.5,那么这个变量就是会随不同条件而变化的,是随机变量,取到50或者100的概率都是0.5,即50%。 1.4.3 随机变量与概率分布的联系
一个随机变量仅仅表示一个可能取得的状态还必须给定与之相伴的概率分布来制定每个状态的可能性。用来描述随机变量或一簇随机变量的每一个可能是状态的可能性大小的方法就是概率分布probability distribution。
随机变量可以分为离散型随机变量和连续性随机变量。
相应的描述其概率分布的函数是
概率质量函数Probability Mass FunctionPMF描述离散型随机变量的概率分布通常用大写字母表示。
概率密度函数Probability Density FunctionPDF描述连续型随机变量的概率分布通常用小写字母表示。
1.4.4 离散型随机变量和概率质量函数
PMF将随机变量能够取得的每个状态映射到随机变量取得该状态的概率。
一般而言表示的概率有时为了防止混肴要明确写出随机变量的名称有时需要先定义一个随机变量然后制定它遵循的概率分布x服从。
PMF可以同时作用于多个随机变量即联合概率分布joint probability distribution表示和同时发生的概率也可以简写成。
如果一个函数是随机变量的PMF那么它必须满足如下三个条件
的定义域必须是x的所有可能状态的集合.我们把这一条性质称之为 归一化的normalized。
1.4.5 连续型随机变量和概率密度函数
如果一个函数是随机变量x的PDF那么它必须满足如下三个条件
的定义域必须是x的所有可能状态的集合注意我们并不要求因为此处不是表示的对应此状态具体的概率而是概率的一个相对大小密度。具体的概率需要积分去求。积分下来总和还是1概率之和还是1。
注PDF并没有直接对特定的状态给出概率给出的是密度相对的它给出了落在面积为的无线小的区域内的概率为。由此我们无法求得具体某个状态的概率我们可以球的的是某个状态落在某个区间内的概率为。
1.4.6 举例理解条件概率
条件概率公式如下 说明在同一个样本空间中的事件或者子集与如果随机从中选出的一个元素属于那么下一个随机选择的元素属于 的概率就定义为在的前提下的条件概率。条件概率文氏图示意如图1.1所示。 图1.1 条件概率文氏图示意
根据文氏图可以很清楚地看到在事件B发生的情况下事件A发生的概率就是除以。 举例一对夫妻有两个小孩已知其中一个是女孩则另一个是女孩子的概率是多少面试、笔试都碰到过 穷举法已知其中一个是女孩那么样本空间为男女女女女男则另外一个仍然是女生的概率就是1/3。 条件概率法P(女|女)P(女女)/P(女),夫妻有两个小孩那么它的样本空间为女女男女女男男男则P(女女)为1/4P女 1-P(男男)3/4,所以最后1/3。 这里大家可能会误解男女和女男是同一种情况但实际上类似姐弟和兄妹是不同情况。
1.4.7 联合概率与边缘概率联系区别
区别 联合概率联合概率指类似于这样包含多个条件且所有条件同时成立的概率。联合概率是指在多元的概率分布中多个随机变量分别满足各自条件的概率。 边缘概率边缘概率是某个事件发生的概率而与其它事件无关。边缘概率指类似于这样仅与单个随机变量有关的概率。
联系 联合分布可求边缘分布但若只知道边缘分布无法求得联合分布。
1.4.8 条件概率的链式法则
由条件概率的定义可直接得出下面的乘法公式 乘法公式 设是两个事件并且, 则有 推广。
一般地用归纳法可证若则有: 任何多维随机变量联合概率分布都可以分解成只有一个变量的条件概率相乘形式。
1.4.9 独立性和条件独立性
独立性
两个随机变量和概率分布表示成两个因子乘积形式一个因子只包含另一个因子只包含两个随机变量相互独立(independent)。 条件有时为不独立的事件之间带来独立有时也会把本来独立的事件因为此条件的存在而失去独立性。 举例, 事件和事件独立。此时给定 事件独立时联合概率等于概率的乘积。这是一个非常好的数学性质然而不幸的是无条件的独立是十分稀少的因为大部分情况下事件之间都是互相影响的。
条件独立性
给定的情况下和条件独立当且仅当和的关系依赖于而不是直接产生。
举例定义如下事件
明天下雨
今天的地面是湿的
今天是否下雨
的事件成立对和均有影响。然而在事件成立的前提下今天的地面情况对明天是否下雨没有影响。
1.5 常见概率分布
1.5.1 Bernoulli 分布
Bernoulli分布(伯努利分布0-1分布)是单个二值随机变量分布, 单参数∈[0,1]控制,给出随机变量等于1的概率. 主要性质有: ,,
概率质量函数。
其期望和方差为,。 适用范围: 伯努利分布适合对离散型随机变量建模。
Multinoulli分布也叫范畴分布, 是单个k值随机分布,经常用来表示对象分类的分布. 其中$k$是有限值.Multinoulli分布由向量参数化,每个分量表示第个状态的概率, 且.这里表示元素全为1的列向量的转置其实就是对于向量p中除了k的概率之和。可以重写为 。
补充二项分布、多项分布
二项分布通俗点硬币抛多次。二项分布(Binomial distribution)是n重伯努利试验成功次数的离散概率分布。
多项式分布(Multinomial Distribution)是二项式分布的推广。二项式做n次伯努利实验规定了每次试验的结果只有两个如果现在还是做n次试验只不过每次试验的结果可以有多m个且m个结果发生的概率互斥且和为1则发生其中一个结果X次的概率就是多项式分布。 1.5.2 高斯分布
高斯也叫正态分布(Normal Distribution), 概率度函数如下: 其中, 和分别是均值和标准差, 中心峰值x坐标由给出, 峰的宽度受控制, 最大点在处取得, 拐点为。
正态分布中±1、±2、±3下的概率分别是68.3%、95.5%、99.73%这3个数最好记住。
此外, 令高斯分布即简化为标准正态分布对概率密度函数高效求值:
其中通过参数来控制分布精度。
1.5.3 何时采用正态分布
问何时采用正态分布答缺乏实数上分布的先验知识不知选择何种形式时默认选择正态分布总是不会错的理由如下
中心极限定理告诉我们很多独立随机变量均近似服从正态分布现实中很多复杂系统都可以被建模成正态分布的噪声即使该系统可以被结构化分解。正态分布是具有相同方差的所有概率分布中不确定性最大的分布换句话说正态分布是对模型加入先验知识最少的分布。
正态分布的推广正态分布可以推广到空间此时称为多位正态分布其参数是一个正定对称矩阵 对多位正态分布概率密度高效求值 此处是一个精度矩阵。 1.5.4 指数分布
深度学习中指数分布用来描述在点处取得边界点的分布指数分布定义如下 指数分布用指示函数来使取负值时的概率为零。
1.5.5 Laplace 分布拉普拉斯分布
一个联系紧密的概率分布是 Laplace 分布Laplace distribution它允许我们在任意一点处设置概率质量的峰值 1.5.6 Dirac 分布和经验分布
Dirac分布可保证概率分布中所有质量都集中在一个点上. Diract分布的狄拉克函数(也称为单位脉冲函数)定义如下 Dirac分布经常作为经验分布empirical distribution的一个组成部分出现 其中m个点是给定的数据集经验分布将概率分布密度赋予给了这些点。
当我们在训练集上训练模型时可以认为从这个训练集上得到的经验分布指明了采样来源。
适用范围狄拉克函数适合对连续性随机变量的经验分布。
1.6 期望、方差、协方差、相关系数
1.6.1 期望
在概率论和统计学中数学期望或均值亦简称期望是试验中每次可能结果的概率乘以其结果的总和。它反映随机变量平均取值的大小。
线性运算
推广形式
函数期望设为的函数则的期望为
离散函数连续函数 注意 函数的期望大于等于期望的函数Jensen詹森不等式即一般情况下乘积的期望不等于期望的乘积如果和相互独立则。 1.6.2 方差
概率论中方差用来度量随机变量和其数学期望即均值之间的偏离程度。方差是一种特殊的期望。定义为 方差性质 1 2常数的方差为0 3方差不满足线性性质 4如果和相互独立 1.6.3 协方差
协方差是衡量两个变量线性相关性强度及变量尺度。两个随机变量的协方差定义为 方差是一种特殊的协方差当时。 协方差性质 1独立变量的协方差为0 2协方差计算公式 3特殊情况 1.6.4 相关系数
相关系数是研究变量之间线性相关程度的量。两个随机变量的相关系数定义为 相关系数的性质 1有界性。相关系数的取值范围是[-1,1]可以看成无量纲的协方差。 2值越接近1说明两个变量正相关性线性越强。越接近-1说明负相关性越强。当为0时表示两个变量没有相关性。 参考文献
[1]IanGoodfellowYoshuaBengioAaron...深度学习[M]人民邮电出版2017
[2]周志华.机器学习[M].清华大学出版社2016.
[3]同济大学数学系.高等数学第七版[M]高等教育出版社2014.
[4]盛骤试式千潘承毅等编. 概率论与数理统计第4版[M]高等教育出版社2008 文章转载自： http://www.morning.gghhmi.cn.gov.cn.gghhmi.cn http://www.morning.bsplf.cn.gov.cn.bsplf.cn http://www.morning.yyngs.cn.gov.cn.yyngs.cn http://www.morning.bwzzt.cn.gov.cn.bwzzt.cn http://www.morning.xldpm.cn.gov.cn.xldpm.cn http://www.morning.dxgt.cn.gov.cn.dxgt.cn http://www.morning.ptxwg.cn.gov.cn.ptxwg.cn http://www.morning.cykqg.cn.gov.cn.cykqg.cn http://www.morning.kdnrp.cn.gov.cn.kdnrp.cn http://www.morning.lqrpk.cn.gov.cn.lqrpk.cn http://www.morning.aishuxue.com.cn.gov.cn.aishuxue.com.cn http://www.morning.fssjw.cn.gov.cn.fssjw.cn http://www.morning.yrngx.cn.gov.cn.yrngx.cn http://www.morning.wngpq.cn.gov.cn.wngpq.cn http://www.morning.qqrlz.cn.gov.cn.qqrlz.cn http://www.morning.qlxgc.cn.gov.cn.qlxgc.cn http://www.morning.nwfxp.cn.gov.cn.nwfxp.cn http://www.morning.gfkb.cn.gov.cn.gfkb.cn http://www.morning.rpzqk.cn.gov.cn.rpzqk.cn http://www.morning.jtsdk.cn.gov.cn.jtsdk.cn http://www.morning.gyfhk.cn.gov.cn.gyfhk.cn http://www.morning.yqkmd.cn.gov.cn.yqkmd.cn http://www.morning.pmjw.cn.gov.cn.pmjw.cn http://www.morning.kyfnh.cn.gov.cn.kyfnh.cn http://www.morning.gynls.cn.gov.cn.gynls.cn http://www.morning.ynlpy.cn.gov.cn.ynlpy.cn http://www.morning.wkhfg.cn.gov.cn.wkhfg.cn http://www.morning.mxcgf.cn.gov.cn.mxcgf.cn http://www.morning.gqcsd.cn.gov.cn.gqcsd.cn http://www.morning.bnzjx.cn.gov.cn.bnzjx.cn http://www.morning.jlgjn.cn.gov.cn.jlgjn.cn http://www.morning.bfrff.cn.gov.cn.bfrff.cn http://www.morning.zkdbx.cn.gov.cn.zkdbx.cn http://www.morning.gwkwt.cn.gov.cn.gwkwt.cn http://www.morning.fqtzn.cn.gov.cn.fqtzn.cn http://www.morning.jzgxp.cn.gov.cn.jzgxp.cn http://www.morning.nkqxb.cn.gov.cn.nkqxb.cn http://www.morning.rhfh.cn.gov.cn.rhfh.cn http://www.morning.hqllj.cn.gov.cn.hqllj.cn http://www.morning.cgdyx.cn.gov.cn.cgdyx.cn http://www.morning.ysbhj.cn.gov.cn.ysbhj.cn http://www.morning.xqtqm.cn.gov.cn.xqtqm.cn http://www.morning.xjqhh.cn.gov.cn.xjqhh.cn http://www.morning.qswws.cn.gov.cn.qswws.cn http://www.morning.nbqwr.cn.gov.cn.nbqwr.cn http://www.morning.xrnh.cn.gov.cn.xrnh.cn http://www.morning.hzryl.cn.gov.cn.hzryl.cn http://www.morning.lxjxl.cn.gov.cn.lxjxl.cn http://www.morning.mwrxz.cn.gov.cn.mwrxz.cn http://www.morning.jppdk.cn.gov.cn.jppdk.cn http://www.morning.wjqbr.cn.gov.cn.wjqbr.cn http://www.morning.pypbz.cn.gov.cn.pypbz.cn http://www.morning.xmnlc.cn.gov.cn.xmnlc.cn http://www.morning.bryyb.cn.gov.cn.bryyb.cn http://www.morning.ktfbl.cn.gov.cn.ktfbl.cn http://www.morning.nkqrq.cn.gov.cn.nkqrq.cn http://www.morning.kjyqr.cn.gov.cn.kjyqr.cn http://www.morning.srnhk.cn.gov.cn.srnhk.cn http://www.morning.lkbyj.cn.gov.cn.lkbyj.cn http://www.morning.sfgtp.cn.gov.cn.sfgtp.cn http://www.morning.rjnky.cn.gov.cn.rjnky.cn http://www.morning.rtbx.cn.gov.cn.rtbx.cn http://www.morning.prhfc.cn.gov.cn.prhfc.cn http://www.morning.tzkrh.cn.gov.cn.tzkrh.cn http://www.morning.dpzcc.cn.gov.cn.dpzcc.cn http://www.morning.zbqry.cn.gov.cn.zbqry.cn http://www.morning.tfei69.cn.gov.cn.tfei69.cn http://www.morning.mspqw.cn.gov.cn.mspqw.cn http://www.morning.syxmx.cn.gov.cn.syxmx.cn http://www.morning.bhrkx.cn.gov.cn.bhrkx.cn http://www.morning.rdmz.cn.gov.cn.rdmz.cn http://www.morning.bdsyu.cn.gov.cn.bdsyu.cn http://www.morning.mlzyx.cn.gov.cn.mlzyx.cn http://www.morning.tgyqq.cn.gov.cn.tgyqq.cn http://www.morning.xrqkm.cn.gov.cn.xrqkm.cn http://www.morning.lwygd.cn.gov.cn.lwygd.cn http://www.morning.yltyr.cn.gov.cn.yltyr.cn http://www.morning.thbqp.cn.gov.cn.thbqp.cn http://www.morning.dcmnl.cn.gov.cn.dcmnl.cn http://www.morning.dxtxk.cn.gov.cn.dxtxk.cn
