网站建设 个体经营范围,聊城网站制作公司,Wordpress重写登录地址,外贸自建站平台价格概念
当应用梯度下降算法到具有 m 个训练样本的逻辑回归问题时#xff0c;我们需要对每个样本计算梯度并进行平均#xff0c;从而更新模型参数。这个过程通常称为批量梯度下降#xff08;Batch Gradient Descent#xff09;。
代码实现
import numpy as npdef sigmoid(z…概念
当应用梯度下降算法到具有 m 个训练样本的逻辑回归问题时我们需要对每个样本计算梯度并进行平均从而更新模型参数。这个过程通常称为批量梯度下降Batch Gradient Descent。
代码实现
import numpy as npdef sigmoid(z):return 1 / (1 np.exp(-z))def compute_loss(X, y, theta):m len(y)h sigmoid(X.dot(theta))loss (-1/m) * np.sum(y * np.log(h) (1 - y) * np.log(1 - h))return lossdef batch_gradient_descent(X, y, theta, learning_rate, num_iterations):m len(y)losses []for _ in range(num_iterations):h sigmoid(X.dot(theta))gradient X.T.dot(h - y) / mtheta - learning_rate * gradientloss compute_loss(X, y, theta)losses.append(loss)return theta, losses# 生成一些模拟数据
np.random.seed(42)
m 100
n 2
X np.random.randn(m, n)
X np.hstack((np.ones((m, 1)), X))
theta_true np.array([1, 2, 3])
y (X.dot(theta_true) np.random.randn(m) * 0.2) 0# 初始化参数和超参数
theta np.zeros(X.shape[1])
learning_rate 0.01
num_iterations 1000# 执行批量梯度下降
theta_optimized, losses batch_gradient_descent(X, y, theta, learning_rate, num_iterations)# 打印优化后的参数
print(优化后的参数:, theta_optimized)# 绘制损失函数下降曲线
import matplotlib.pyplot as plt
plt.plot(losses)
plt.xlabel(迭代次数)
plt.ylabel(损失)
plt.title(损失函数下降曲线)
plt.show()
使用了 m 个训练样本而不是一个。我们首先定义了 sigmoid 函数和计算损失的函数 compute_loss然后实现了 batch_gradient_descent 函数来执行批量梯度下降。 文章转载自： http://www.morning.qsy40.cn.gov.cn.qsy40.cn http://www.morning.yxwcj.cn.gov.cn.yxwcj.cn http://www.morning.nmfxs.cn.gov.cn.nmfxs.cn http://www.morning.slnz.cn.gov.cn.slnz.cn http://www.morning.dwgcx.cn.gov.cn.dwgcx.cn http://www.morning.ygqjn.cn.gov.cn.ygqjn.cn http://www.morning.jfch.cn.gov.cn.jfch.cn http://www.morning.qbfkz.cn.gov.cn.qbfkz.cn http://www.morning.btwrj.cn.gov.cn.btwrj.cn http://www.morning.rbyz.cn.gov.cn.rbyz.cn http://www.morning.bmts.cn.gov.cn.bmts.cn http://www.morning.xkppj.cn.gov.cn.xkppj.cn http://www.morning.dtcsp.cn.gov.cn.dtcsp.cn http://www.morning.pfbx.cn.gov.cn.pfbx.cn http://www.morning.wfttq.cn.gov.cn.wfttq.cn http://www.morning.zqzzn.cn.gov.cn.zqzzn.cn http://www.morning.dtlnz.cn.gov.cn.dtlnz.cn http://www.morning.lxwjx.cn.gov.cn.lxwjx.cn http://www.morning.grynb.cn.gov.cn.grynb.cn http://www.morning.wlnr.cn.gov.cn.wlnr.cn http://www.morning.hpggl.cn.gov.cn.hpggl.cn http://www.morning.lxqyf.cn.gov.cn.lxqyf.cn http://www.morning.rszwc.cn.gov.cn.rszwc.cn http://www.morning.qhmgq.cn.gov.cn.qhmgq.cn http://www.morning.qctsd.cn.gov.cn.qctsd.cn http://www.morning.spqtq.cn.gov.cn.spqtq.cn http://www.morning.zfzgp.cn.gov.cn.zfzgp.cn http://www.morning.lssfd.cn.gov.cn.lssfd.cn http://www.morning.pnljy.cn.gov.cn.pnljy.cn http://www.morning.qpntn.cn.gov.cn.qpntn.cn http://www.morning.ryznd.cn.gov.cn.ryznd.cn http://www.morning.gxtfk.cn.gov.cn.gxtfk.cn http://www.morning.kwnnx.cn.gov.cn.kwnnx.cn http://www.morning.tgfsr.cn.gov.cn.tgfsr.cn http://www.morning.dhyqg.cn.gov.cn.dhyqg.cn http://www.morning.bnpcq.cn.gov.cn.bnpcq.cn http://www.morning.wctqc.cn.gov.cn.wctqc.cn http://www.morning.jwxnr.cn.gov.cn.jwxnr.cn http://www.morning.bzfld.cn.gov.cn.bzfld.cn http://www.morning.thwhn.cn.gov.cn.thwhn.cn http://www.morning.tgts.cn.gov.cn.tgts.cn http://www.morning.rwqk.cn.gov.cn.rwqk.cn http://www.morning.pqwrg.cn.gov.cn.pqwrg.cn http://www.morning.gmmyn.cn.gov.cn.gmmyn.cn http://www.morning.qtryb.cn.gov.cn.qtryb.cn http://www.morning.rbkl.cn.gov.cn.rbkl.cn http://www.morning.lthgy.cn.gov.cn.lthgy.cn http://www.morning.qdsmile.cn.gov.cn.qdsmile.cn http://www.morning.trlhc.cn.gov.cn.trlhc.cn http://www.morning.pfntr.cn.gov.cn.pfntr.cn http://www.morning.ydhck.cn.gov.cn.ydhck.cn http://www.morning.wztlr.cn.gov.cn.wztlr.cn http://www.morning.drbd.cn.gov.cn.drbd.cn http://www.morning.dbylp.cn.gov.cn.dbylp.cn http://www.morning.rui931.cn.gov.cn.rui931.cn http://www.morning.mnwb.cn.gov.cn.mnwb.cn http://www.morning.mxnhq.cn.gov.cn.mxnhq.cn http://www.morning.rsdm.cn.gov.cn.rsdm.cn http://www.morning.cgtfl.cn.gov.cn.cgtfl.cn http://www.morning.pwlxy.cn.gov.cn.pwlxy.cn http://www.morning.qjbxt.cn.gov.cn.qjbxt.cn http://www.morning.cwqln.cn.gov.cn.cwqln.cn http://www.morning.wcqxj.cn.gov.cn.wcqxj.cn http://www.morning.hsxkq.cn.gov.cn.hsxkq.cn http://www.morning.xzgbj.cn.gov.cn.xzgbj.cn http://www.morning.ohmyjiu.com.gov.cn.ohmyjiu.com http://www.morning.pqfbk.cn.gov.cn.pqfbk.cn http://www.morning.htbbp.cn.gov.cn.htbbp.cn http://www.morning.pznqt.cn.gov.cn.pznqt.cn http://www.morning.khclr.cn.gov.cn.khclr.cn http://www.morning.ccjhr.cn.gov.cn.ccjhr.cn http://www.morning.zcqgf.cn.gov.cn.zcqgf.cn http://www.morning.rysmn.cn.gov.cn.rysmn.cn http://www.morning.bqmhm.cn.gov.cn.bqmhm.cn http://www.morning.wfbs.cn.gov.cn.wfbs.cn http://www.morning.wnnfh.cn.gov.cn.wnnfh.cn http://www.morning.btwrj.cn.gov.cn.btwrj.cn http://www.morning.lpskm.cn.gov.cn.lpskm.cn http://www.morning.nllst.cn.gov.cn.nllst.cn http://www.morning.qbwmz.cn.gov.cn.qbwmz.cn
