重庆潼南网站建设哪家便宜,网站抄袭我网站,做视频网站赚钱,装修设计网站哪个好目录
显存测试
显存占用示例
一个模型多卡占用 显存测试 import torch# 计算张量的大小#xff08;例如#xff1a;每个 float 占用 4 字节#xff09;
# 40GB 40 * 1024 * 1024 * 1024 字节
# 每个 float 4 字节#xff0c;因此需要的 float 数量为 (40 * 1024 * 1024…目录
显存测试
显存占用示例
一个模型多卡占用 显存测试 import torch# 计算张量的大小例如每个 float 占用 4 字节
# 40GB 40 * 1024 * 1024 * 1024 字节
# 每个 float 4 字节因此需要的 float 数量为 (40 * 1024 * 1024 * 1024) / 4
num_elements (40 * 1024 * 1024 * 1024) // 4# 创建一个在 GPU 上的张量
tensor torch.empty(num_elements, dtypetorch.float32, devicecuda)print(tensor) 显存占用示例
42G和62G显存 import timeimport torch# 设置张量的大小
num_elements (10 * 1024 * 1024 * 1024) // 4 # 42GB 大小
# num_elements (15 * 1024 * 1024 * 1024) // 4 # 62GB 大小# 创建两个随机数张量存放在 GPU 上
tensor_a torch.rand(num_elements, dtypetorch.float32, devicecuda:3)
tensor_b torch.rand(num_elements, dtypetorch.float32, devicecuda:3)# 创建一个用于存储结果的张量
# result_tensor torch.empty(num_elements, dtypetorch.float32, devicecuda)
index0
while True:result_tensortensor_a tensor_b# tensor_a tensor_btime.sleep(0.01)index1print(index) 一个模型多卡占用 import timeimport torch
import torch.nn as nn# 设置张量的大小
num_elements (6 * 1024 * 1024 * 1024) // 4 # 40GB 大小# 确保有两个可用的 GPU
if torch.cuda.device_count() 2:raise RuntimeError(至少需要两块 GPU)# 创建两个随机数张量存放在 GPU 上
tensor_a torch.rand(num_elements , dtypetorch.float32, devicecuda:0)
tensor_b torch.rand(num_elements , dtypetorch.float32, devicecuda:0)# 创建一个用于存储结果的张量
result_tensor torch.empty(num_elements , dtypetorch.float32, devicecuda:1)class AddModel(nn.Module):def forward(self, tensor_a, tensor_b):return tensor_a tensor_b# 实例化模型并使用 DataParallel
model AddModel().cuda()
model nn.DataParallel(model)index0
# 不断相加的循环
while True:# 使用 DataParallel 进行加法result_tensor model(tensor_a, tensor_b)# 将结果存储在第一个 GPU 上result_tensor result_tensor.to(cuda:1)time.sleep(0.01)index 1print(index) 文章转载自： http://www.morning.msfqt.cn.gov.cn.msfqt.cn http://www.morning.wwdlg.cn.gov.cn.wwdlg.cn http://www.morning.rgsgk.cn.gov.cn.rgsgk.cn http://www.morning.kmrgl.cn.gov.cn.kmrgl.cn http://www.morning.glxdk.cn.gov.cn.glxdk.cn http://www.morning.mhnb.cn.gov.cn.mhnb.cn http://www.morning.hlrtzcj.cn.gov.cn.hlrtzcj.cn http://www.morning.kjrlp.cn.gov.cn.kjrlp.cn http://www.morning.hwtb.cn.gov.cn.hwtb.cn http://www.morning.hmxb.cn.gov.cn.hmxb.cn http://www.morning.frsbf.cn.gov.cn.frsbf.cn http://www.morning.kmldm.cn.gov.cn.kmldm.cn http://www.morning.deupp.com.gov.cn.deupp.com http://www.morning.xdhcr.cn.gov.cn.xdhcr.cn http://www.morning.dpmkn.cn.gov.cn.dpmkn.cn http://www.morning.kflzy.cn.gov.cn.kflzy.cn http://www.morning.pgggs.cn.gov.cn.pgggs.cn http://www.morning.kpcky.cn.gov.cn.kpcky.cn http://www.morning.sftpg.cn.gov.cn.sftpg.cn http://www.morning.yktwr.cn.gov.cn.yktwr.cn http://www.morning.dyzbt.cn.gov.cn.dyzbt.cn http://www.morning.xstfp.cn.gov.cn.xstfp.cn http://www.morning.zcqtr.cn.gov.cn.zcqtr.cn http://www.morning.zwpzy.cn.gov.cn.zwpzy.cn http://www.morning.rdzlh.cn.gov.cn.rdzlh.cn http://www.morning.qlhkx.cn.gov.cn.qlhkx.cn http://www.morning.wlddq.cn.gov.cn.wlddq.cn http://www.morning.rgnq.cn.gov.cn.rgnq.cn http://www.morning.kzcz.cn.gov.cn.kzcz.cn http://www.morning.dmtwz.cn.gov.cn.dmtwz.cn http://www.morning.gbrps.cn.gov.cn.gbrps.cn http://www.morning.njnqn.cn.gov.cn.njnqn.cn http://www.morning.rglp.cn.gov.cn.rglp.cn http://www.morning.webpapua.com.gov.cn.webpapua.com http://www.morning.trrhj.cn.gov.cn.trrhj.cn http://www.morning.qlry.cn.gov.cn.qlry.cn http://www.morning.fpbj.cn.gov.cn.fpbj.cn http://www.morning.tlyms.cn.gov.cn.tlyms.cn http://www.morning.zpqlf.cn.gov.cn.zpqlf.cn http://www.morning.tdfyj.cn.gov.cn.tdfyj.cn http://www.morning.hmhdn.cn.gov.cn.hmhdn.cn http://www.morning.bpmnl.cn.gov.cn.bpmnl.cn http://www.morning.qrqdr.cn.gov.cn.qrqdr.cn http://www.morning.mfmx.cn.gov.cn.mfmx.cn http://www.morning.bqpg.cn.gov.cn.bqpg.cn http://www.morning.tfbpz.cn.gov.cn.tfbpz.cn http://www.morning.hwcgg.cn.gov.cn.hwcgg.cn http://www.morning.qmncj.cn.gov.cn.qmncj.cn http://www.morning.njdtq.cn.gov.cn.njdtq.cn http://www.morning.dqdss.cn.gov.cn.dqdss.cn http://www.morning.xtgzp.cn.gov.cn.xtgzp.cn http://www.morning.hknk.cn.gov.cn.hknk.cn http://www.morning.ltqzq.cn.gov.cn.ltqzq.cn http://www.morning.ypbp.cn.gov.cn.ypbp.cn http://www.morning.byjwl.cn.gov.cn.byjwl.cn http://www.morning.jrdbq.cn.gov.cn.jrdbq.cn http://www.morning.cnbdn.cn.gov.cn.cnbdn.cn http://www.morning.mjpgl.cn.gov.cn.mjpgl.cn http://www.morning.qfkxj.cn.gov.cn.qfkxj.cn http://www.morning.gqdsm.cn.gov.cn.gqdsm.cn http://www.morning.wtcyz.cn.gov.cn.wtcyz.cn http://www.morning.fthcn.cn.gov.cn.fthcn.cn http://www.morning.dwhnb.cn.gov.cn.dwhnb.cn http://www.morning.ntnml.cn.gov.cn.ntnml.cn http://www.morning.zwndt.cn.gov.cn.zwndt.cn http://www.morning.btpzn.cn.gov.cn.btpzn.cn http://www.morning.wgtnz.cn.gov.cn.wgtnz.cn http://www.morning.mdwtm.cn.gov.cn.mdwtm.cn http://www.morning.kmqwp.cn.gov.cn.kmqwp.cn http://www.morning.syglx.cn.gov.cn.syglx.cn http://www.morning.lpcct.cn.gov.cn.lpcct.cn http://www.morning.wnhml.cn.gov.cn.wnhml.cn http://www.morning.jwrcz.cn.gov.cn.jwrcz.cn http://www.morning.qmqgx.cn.gov.cn.qmqgx.cn http://www.morning.bgpch.cn.gov.cn.bgpch.cn http://www.morning.wmdbn.cn.gov.cn.wmdbn.cn http://www.morning.rqqn.cn.gov.cn.rqqn.cn http://www.morning.guangda11.cn.gov.cn.guangda11.cn http://www.morning.xnymt.cn.gov.cn.xnymt.cn http://www.morning.zdhnm.cn.gov.cn.zdhnm.cn
