当前位置： 首页 > news >正文 网站重构wordpress后天地址 news 2025/10/26 1:45:16 网站重构,wordpress后天地址,厦门网站设计公司找哪家,欧米茄官方网站有时候模型训练很慢#xff0c;代码写得冗长之后#xff0c;没法诶个检查到底那块出现了占用了时空间#xff0c;本节通过利用Lightning的一些方法#xff0c;检查分析是那块代码出现了问题#xff0c;从而来进一步指导和优化代码 本节主要基于性能分析方法#xff0c;通… 有时候模型训练很慢代码写得冗长之后没法诶个检查到底那块出现了占用了时空间本节通过利用Lightning的一些方法检查分析是那块代码出现了问题从而来进一步指导和优化代码 本节主要基于性能分析方法通过捕获分析信息例如函数花费的时间或使用了多少内存帮助我们找到代码中的瓶颈。 找到训练时候的瓶颈 最基本的性能分析配置文件包含训练中Callback、DataModules和LightningModule中的所有关键方法。可以通过如下方法引入 trainer Trainer(profilersimple)一旦执行.fit()方法则可以看到如下类似结果 FIT Profiler Report ----------------------------------------------------------------------------------------------- | Action | Mean duration (s) | Total time (s) | ----------------------------------------------------------------------------------------------- | [LightningModule]BoringModel.prepare_data | 10.0001 | 20.00 | | run_training_epoch | 6.1558 | 6.1558 | | run_training_batch | 0.0022506 | 0.015754 | | [LightningModule]BoringModel.optimizer_step | 0.0017477 | 0.012234 | | [LightningModule]BoringModel.val_dataloader | 0.00024388 | 0.00024388 | | on_train_batch_start | 0.00014637 | 0.0010246 | | [LightningModule]BoringModel.teardown | 2.15e-06 | 2.15e-06 | | [LightningModule]BoringModel.on_train_start | 1.644e-06 | 1.644e-06 | | [LightningModule]BoringModel.on_train_end | 1.516e-06 | 1.516e-06 | | [LightningModule]BoringModel.on_fit_end | 1.426e-06 | 1.426e-06 | | [LightningModule]BoringModel.setup | 1.403e-06 | 1.403e-06 | | [LightningModule]BoringModel.on_fit_start | 1.226e-06 | 1.226e-06 | -----------------------------------------------------------------------------------------------在这个打印出来的报告中我们可以看到最慢的函数是prepare_data现在我们可以弄清楚为什么数据准备会减慢训练速度。执行profilersimple会包括: on_train_epoch_starton_train_epoch_endon_train_batch_startmodel_backwardon_after_backwardoptimizer_stepon_train_batch_endon_training_end等等…… 分析每个函数内的时间 要分析每个函数花费的时间使用构建在Python的cProfiler之上的AdvancedProfiler如下引用 trainer Trainer(profileradvanced)执行fit后会出现如下结果 Profiler ReportProfile stats for: get_train_batch4869394 function calls (4863767 primitive calls) in 18.893 seconds Ordered by: cumulative time List reduced from 76 to 10 due to restriction 10 ncalls tottime percall cumtime percall filename:lineno(function) 3752/1876 0.011 0.000 18.887 0.010 {built-in method builtins.next}1876 0.008 0.000 18.877 0.010 dataloader.py:344(__next__)1876 0.074 0.000 18.869 0.010 dataloader.py:383(_next_data)1875 0.012 0.000 18.721 0.010 fetch.py:42(fetch)1875 0.084 0.000 18.290 0.010 fetch.py:44(listcomp)60000 1.759 0.000 18.206 0.000 mnist.py:80(__getitem__)60000 0.267 0.000 13.022 0.000 transforms.py:68(__call__)60000 0.182 0.000 7.020 0.000 transforms.py:93(__call__)60000 1.651 0.000 6.839 0.000 functional.py:42(to_tensor)60000 0.260 0.000 5.734 0.000 transforms.py:167(__call__)如果分析器报告变得太长可以将报告流式传输到一个文件 from lightning.pytorch.profilers import AdvancedProfilerprofiler AdvancedProfiler(dirpath., filenameperf_logs) trainer Trainer(profilerprofiler)很方便 分析加速器使用情况 另一种检测瓶颈的有用技术是确保正在使用加速器(GPU/TPU/IPU/HPU)的全部容量。这可以用DeviceStatsMonitor来测量: from lightning.pytorch.callbacks import DeviceStatsMonitortrainer Trainer(callbacks[DeviceStatsMonitor()])CPU指标将在CPU加速器上默认跟踪。设置DeviceStatsMonitor(cpu_statsTrue)为其他加速器启用它。要禁用记录CPU指标可以指定DeviceStatsMonitor(cpu_statsFalse)。 文章转载自： http://www.morning.qpqwb.cn.gov.cn.qpqwb.cn http://www.morning.cjmmn.cn.gov.cn.cjmmn.cn http://www.morning.grjh.cn.gov.cn.grjh.cn http://www.morning.pxsn.cn.gov.cn.pxsn.cn http://www.morning.nkyqh.cn.gov.cn.nkyqh.cn http://www.morning.mrgby.cn.gov.cn.mrgby.cn http://www.morning.dpbdq.cn.gov.cn.dpbdq.cn http://www.morning.qdlr.cn.gov.cn.qdlr.cn http://www.morning.jmnfh.cn.gov.cn.jmnfh.cn http://www.morning.ccjhr.cn.gov.cn.ccjhr.cn http://www.morning.mslsn.cn.gov.cn.mslsn.cn http://www.morning.clbzy.cn.gov.cn.clbzy.cn http://www.morning.ckdgj.cn.gov.cn.ckdgj.cn http://www.morning.mjzgg.cn.gov.cn.mjzgg.cn http://www.morning.qwqzk.cn.gov.cn.qwqzk.cn http://www.morning.zgnng.cn.gov.cn.zgnng.cn http://www.morning.alive-8.com.gov.cn.alive-8.com http://www.morning.srgwr.cn.gov.cn.srgwr.cn http://www.morning.fylsz.cn.gov.cn.fylsz.cn http://www.morning.ghryk.cn.gov.cn.ghryk.cn http://www.morning.wfqcs.cn.gov.cn.wfqcs.cn http://www.morning.thxfn.cn.gov.cn.thxfn.cn http://www.morning.hhzdj.cn.gov.cn.hhzdj.cn http://www.morning.zpnfc.cn.gov.cn.zpnfc.cn http://www.morning.qnxzx.cn.gov.cn.qnxzx.cn http://www.morning.rfrnc.cn.gov.cn.rfrnc.cn http://www.morning.lbbrw.cn.gov.cn.lbbrw.cn http://www.morning.rsjf.cn.gov.cn.rsjf.cn http://www.morning.nnpfz.cn.gov.cn.nnpfz.cn http://www.morning.frsbf.cn.gov.cn.frsbf.cn http://www.morning.kpnpd.cn.gov.cn.kpnpd.cn http://www.morning.qstjr.cn.gov.cn.qstjr.cn http://www.morning.lzqxb.cn.gov.cn.lzqxb.cn http://www.morning.wctqc.cn.gov.cn.wctqc.cn http://www.morning.ryxdf.cn.gov.cn.ryxdf.cn http://www.morning.wwnb.cn.gov.cn.wwnb.cn http://www.morning.zcmpk.cn.gov.cn.zcmpk.cn http://www.morning.ljcf.cn.gov.cn.ljcf.cn http://www.morning.woyoua.com.gov.cn.woyoua.com http://www.morning.mcwrg.cn.gov.cn.mcwrg.cn http://www.morning.nkjxn.cn.gov.cn.nkjxn.cn http://www.morning.nrwr.cn.gov.cn.nrwr.cn http://www.morning.rgyts.cn.gov.cn.rgyts.cn http://www.morning.tnmmp.cn.gov.cn.tnmmp.cn http://www.morning.fkmyq.cn.gov.cn.fkmyq.cn http://www.morning.gstmn.cn.gov.cn.gstmn.cn http://www.morning.hrjrt.cn.gov.cn.hrjrt.cn http://www.morning.qnxtz.cn.gov.cn.qnxtz.cn http://www.morning.gxklx.cn.gov.cn.gxklx.cn http://www.morning.gnjkn.cn.gov.cn.gnjkn.cn http://www.morning.gkgb.cn.gov.cn.gkgb.cn http://www.morning.znrlg.cn.gov.cn.znrlg.cn http://www.morning.lgnbr.cn.gov.cn.lgnbr.cn http://www.morning.bkslb.cn.gov.cn.bkslb.cn http://www.morning.fosfox.com.gov.cn.fosfox.com http://www.morning.ybqlb.cn.gov.cn.ybqlb.cn http://www.morning.xpfwr.cn.gov.cn.xpfwr.cn http://www.morning.sypzg.cn.gov.cn.sypzg.cn http://www.morning.zzjpy.cn.gov.cn.zzjpy.cn http://www.morning.nzfjm.cn.gov.cn.nzfjm.cn http://www.morning.rblqk.cn.gov.cn.rblqk.cn http://www.morning.bqqzg.cn.gov.cn.bqqzg.cn http://www.morning.zrqs.cn.gov.cn.zrqs.cn http://www.morning.nxfuke.com.gov.cn.nxfuke.com http://www.morning.zlwg.cn.gov.cn.zlwg.cn http://www.morning.rszyf.cn.gov.cn.rszyf.cn http://www.morning.zrkp.cn.gov.cn.zrkp.cn http://www.morning.wsxxq.cn.gov.cn.wsxxq.cn http://www.morning.tnbsh.cn.gov.cn.tnbsh.cn http://www.morning.rzscb.cn.gov.cn.rzscb.cn http://www.morning.rhlhk.cn.gov.cn.rhlhk.cn http://www.morning.fwzjs.cn.gov.cn.fwzjs.cn http://www.morning.bmjfp.cn.gov.cn.bmjfp.cn http://www.morning.wspjn.cn.gov.cn.wspjn.cn http://www.morning.cnqwn.cn.gov.cn.cnqwn.cn http://www.morning.cknws.cn.gov.cn.cknws.cn http://www.morning.kyfnh.cn.gov.cn.kyfnh.cn http://www.morning.mhybs.cn.gov.cn.mhybs.cn http://www.morning.skbhl.cn.gov.cn.skbhl.cn http://www.morning.sgmgz.cn.gov.cn.sgmgz.cn 查看全文 http://www.tj-hxxt.cn/news/249725.html 相关文章： 做网站时会留下ip地址吗国家电网建设部网站官网 网站安全管理制度国家批准做新闻的网站 做淘宝优惠网站虹口广州网站建设 晋城网站建设价格台州黄岩网站建设 河池网站制作医药网站设计 做皮革网站js插件打开wordpress 网站建设的中期检查表将自己做的网站发布到网上 网站建设下载模板之后怎么修改云建站优势 网站开发响应式电子商务与网站建设论文 物流公司网站设计登封网站制作 外贸网站建设可以吗wordpress app封装 最好的网站推广软件定制网站系统 dnf网站上怎么做商人编程软件scratch下载 网站建设 用什么语言搜狗站长平台验证不了 济南智能网站建设电话人工智能培训班 广州网站制作哪家全面wordpress 自动分页 dede一键更新网站出错二级建造师最好的网站 网站统计代码添加有那些做任务的网站 宜昌市建设厅官方网站俄乌今天最新军事动态 18互联网站做网站程序企业营业执照查询网上查询 手工艺品网站建设方案网站建设方案总结语 在线建站平台免费建网站一个营业执照可以做几个网站 网站建设平台卜先明专门做网站制作的公司 天睦和生态建设有限公司网站公装网站怎么做 德清网站设计湖南网站建设价格 成都微网站旧房装修 翻新的公司 网站集约化建设的优点erp是什么系统软件 哪些网站可宣传三九手机网手机响应式网站模版 做网站做地区好还是全国的好建设银行信用卡管理中心网站 企业网站建设套餐上海计算机基础培训机构
