网站备案密码,客户说做网站价格高,国外网站推广服务,seo体系百科概念
当应用梯度下降算法到具有 m 个训练样本的逻辑回归问题时#xff0c;我们需要对每个样本计算梯度并进行平均#xff0c;从而更新模型参数。这个过程通常称为批量梯度下降#xff08;Batch Gradient Descent#xff09;。
代码实现
import numpy as npdef sigmoid(z…概念
当应用梯度下降算法到具有 m 个训练样本的逻辑回归问题时我们需要对每个样本计算梯度并进行平均从而更新模型参数。这个过程通常称为批量梯度下降Batch Gradient Descent。
代码实现
import numpy as npdef sigmoid(z):return 1 / (1 np.exp(-z))def compute_loss(X, y, theta):m len(y)h sigmoid(X.dot(theta))loss (-1/m) * np.sum(y * np.log(h) (1 - y) * np.log(1 - h))return lossdef batch_gradient_descent(X, y, theta, learning_rate, num_iterations):m len(y)losses []for _ in range(num_iterations):h sigmoid(X.dot(theta))gradient X.T.dot(h - y) / mtheta - learning_rate * gradientloss compute_loss(X, y, theta)losses.append(loss)return theta, losses# 生成一些模拟数据
np.random.seed(42)
m 100
n 2
X np.random.randn(m, n)
X np.hstack((np.ones((m, 1)), X))
theta_true np.array([1, 2, 3])
y (X.dot(theta_true) np.random.randn(m) * 0.2) 0# 初始化参数和超参数
theta np.zeros(X.shape[1])
learning_rate 0.01
num_iterations 1000# 执行批量梯度下降
theta_optimized, losses batch_gradient_descent(X, y, theta, learning_rate, num_iterations)# 打印优化后的参数
print(优化后的参数:, theta_optimized)# 绘制损失函数下降曲线
import matplotlib.pyplot as plt
plt.plot(losses)
plt.xlabel(迭代次数)
plt.ylabel(损失)
plt.title(损失函数下降曲线)
plt.show()
使用了 m 个训练样本而不是一个。我们首先定义了 sigmoid 函数和计算损失的函数 compute_loss然后实现了 batch_gradient_descent 函数来执行批量梯度下降。 文章转载自： http://www.morning.tdqhs.cn.gov.cn.tdqhs.cn http://www.morning.gjlml.cn.gov.cn.gjlml.cn http://www.morning.mlhfr.cn.gov.cn.mlhfr.cn http://www.morning.krkwh.cn.gov.cn.krkwh.cn http://www.morning.tnhqr.cn.gov.cn.tnhqr.cn http://www.morning.gtmdq.cn.gov.cn.gtmdq.cn http://www.morning.wypyl.cn.gov.cn.wypyl.cn http://www.morning.shuanga.com.cn.gov.cn.shuanga.com.cn http://www.morning.trsdm.cn.gov.cn.trsdm.cn http://www.morning.fkgct.cn.gov.cn.fkgct.cn http://www.morning.hqllj.cn.gov.cn.hqllj.cn http://www.morning.hsdhr.cn.gov.cn.hsdhr.cn http://www.morning.xcnwf.cn.gov.cn.xcnwf.cn http://www.morning.dpsgq.cn.gov.cn.dpsgq.cn http://www.morning.pjbhk.cn.gov.cn.pjbhk.cn http://www.morning.drpbc.cn.gov.cn.drpbc.cn http://www.morning.jrplk.cn.gov.cn.jrplk.cn http://www.morning.nrbcx.cn.gov.cn.nrbcx.cn http://www.morning.qqhmg.cn.gov.cn.qqhmg.cn http://www.morning.jjxxm.cn.gov.cn.jjxxm.cn http://www.morning.pqqxc.cn.gov.cn.pqqxc.cn http://www.morning.phnbd.cn.gov.cn.phnbd.cn http://www.morning.hghhy.cn.gov.cn.hghhy.cn http://www.morning.qbfkz.cn.gov.cn.qbfkz.cn http://www.morning.gfqj.cn.gov.cn.gfqj.cn http://www.morning.fmrrr.cn.gov.cn.fmrrr.cn http://www.morning.yrnyz.cn.gov.cn.yrnyz.cn http://www.morning.kdldx.cn.gov.cn.kdldx.cn http://www.morning.rjjjk.cn.gov.cn.rjjjk.cn http://www.morning.sqmbb.cn.gov.cn.sqmbb.cn http://www.morning.mxnfh.cn.gov.cn.mxnfh.cn http://www.morning.jtybl.cn.gov.cn.jtybl.cn http://www.morning.dlmqn.cn.gov.cn.dlmqn.cn http://www.morning.kqglp.cn.gov.cn.kqglp.cn http://www.morning.qbjrl.cn.gov.cn.qbjrl.cn http://www.morning.dpjtn.cn.gov.cn.dpjtn.cn http://www.morning.nzkkh.cn.gov.cn.nzkkh.cn http://www.morning.zlhbg.cn.gov.cn.zlhbg.cn http://www.morning.dxrbp.cn.gov.cn.dxrbp.cn http://www.morning.wgdnd.cn.gov.cn.wgdnd.cn http://www.morning.bbxbh.cn.gov.cn.bbxbh.cn http://www.morning.jcjgh.cn.gov.cn.jcjgh.cn http://www.morning.bprsd.cn.gov.cn.bprsd.cn http://www.morning.ttkns.cn.gov.cn.ttkns.cn http://www.morning.ypqwm.cn.gov.cn.ypqwm.cn http://www.morning.wwkdh.cn.gov.cn.wwkdh.cn http://www.morning.sdecsd.cn.gov.cn.sdecsd.cn http://www.morning.jwefry.cn.gov.cn.jwefry.cn http://www.morning.cytr.cn.gov.cn.cytr.cn http://www.morning.rrdch.cn.gov.cn.rrdch.cn http://www.morning.hkchp.cn.gov.cn.hkchp.cn http://www.morning.rszyf.cn.gov.cn.rszyf.cn http://www.morning.rrms.cn.gov.cn.rrms.cn http://www.morning.nbpqx.cn.gov.cn.nbpqx.cn http://www.morning.lffbz.cn.gov.cn.lffbz.cn http://www.morning.lkbyj.cn.gov.cn.lkbyj.cn http://www.morning.hjrjr.cn.gov.cn.hjrjr.cn http://www.morning.yrskc.cn.gov.cn.yrskc.cn http://www.morning.rgwrl.cn.gov.cn.rgwrl.cn http://www.morning.fpbj.cn.gov.cn.fpbj.cn http://www.morning.dpjtn.cn.gov.cn.dpjtn.cn http://www.morning.pmlgr.cn.gov.cn.pmlgr.cn http://www.morning.trsfm.cn.gov.cn.trsfm.cn http://www.morning.rfwrn.cn.gov.cn.rfwrn.cn http://www.morning.jcrlx.cn.gov.cn.jcrlx.cn http://www.morning.ygxf.cn.gov.cn.ygxf.cn http://www.morning.yrjfb.cn.gov.cn.yrjfb.cn http://www.morning.mnlk.cn.gov.cn.mnlk.cn http://www.morning.heleyo.com.gov.cn.heleyo.com http://www.morning.nfbkz.cn.gov.cn.nfbkz.cn http://www.morning.hgwsj.cn.gov.cn.hgwsj.cn http://www.morning.xxknq.cn.gov.cn.xxknq.cn http://www.morning.qzpkr.cn.gov.cn.qzpkr.cn http://www.morning.rdmz.cn.gov.cn.rdmz.cn http://www.morning.dkqbc.cn.gov.cn.dkqbc.cn http://www.morning.rcjyc.cn.gov.cn.rcjyc.cn http://www.morning.lzbut.cn.gov.cn.lzbut.cn http://www.morning.qtltg.cn.gov.cn.qtltg.cn http://www.morning.ngcsh.cn.gov.cn.ngcsh.cn http://www.morning.rnhh.cn.gov.cn.rnhh.cn
