当前位置： 首页 > news >正文 个人网站开发如何赚钱app推广策划方案 news 2025/11/6 2:25:28 个人网站开发如何赚钱,app推广策划方案,全国建设交易信息网站,凡科互动自助解封没用文章目录 前言基础模型结构UNet结构Timestep Embedding关于为什么需要timestep embedding global attention layer 如何提升diffusion model生成图像的质量Classifier guidance实验结果 前言 在前几篇博文中#xff0c;我们已经介绍了DDPM、DDIM、Classifier guidance等相关的… 文章目录 前言基础模型结构UNet结构Timestep Embedding关于为什么需要timestep embedding global attention layer 如何提升diffusion model生成图像的质量Classifier guidance实验结果 前言 在前几篇博文中我们已经介绍了DDPM、DDIM、Classifier guidance等相关的扩散模型基础从本节博客开始将介绍一些经典偏应用类的文章。 《Diffusion Models Beat GANs on Image Synthesis》是openAI在2020年发表的一篇文章。文章从模型结构入手通过扩大模型容量在图像生成任务上击败了当时的SOTA Big GAN。 此外还提出了Classifier guidance用于控制扩散模型生成指定类型的图像具体推导流程可以查阅前文。 本节博客将重点总结模型结构相应的代码可在此处查阅。 基础模型结构 Unet结构timestep embeddingglobal attention layer是扩散模型常用的backbone。本节将对上述三个结构做个简单介绍。 UNet结构 UNet结构由encoder和decoder两个神经网络组成。如下图所示encoder对图像进行downsampledeocder对图像进行upsampleencoder和decoder之间存在skip connection。encoder和decoder均由residual layers堆叠而成。 Timestep Embedding 在扩散模型中通常需要进行 T T T次迭代。类似于位置编码扩散模型的每次迭代都有一个timestep embedding用于告知模型目前是第几次迭代其形式通常为一个常数vector不同迭代次数的timestep embedding通常不桶。添加timestep embedding的方式有很多可以通过concat的方式嵌入到每一个residual layers中也可以通过add的方式嵌入到每一个residual layers的输出中。 如下代码所示在ADM中timestep embedding在经过一层learning层处理后通过add的方式嵌入到每个residual layers中。 关于为什么需要timestep embedding 扩散模型每轮迭代的输入图像所属的输入分布类型是不一致的针对不同的输入分布扩散模型的输出分布也会不同。但是模型要意识到当前图像处于哪种输入分布是件很难的事情当两个输入分布近似时模型的输出可能也会近似这将很大程度影响生成图像的质量。例如生成一双手在迭代初期模型的输出应该是手指的轮廓等粗粒度信息而迭代后期模型的输出应该是手指指甲的光泽度的细粒度信息如果迭代前后期的输入分布近似那么在迭代的后期模型将无法输出指甲光泽度等细粒度的信息生成的图像将不够逼真。 而timestep embedding的引入相当于把不同步骤的输入分布做了个区分。模型在学习的过程中这种强烈的信号是不会被忽视的输出分布的形式大概率会与timestep embedding强烈关联。当timestep取值较小时模型输出的将是一些粗粒度信息而随着timestep的取值逐渐变大模型的输出也会逐渐变细。 global attention layer global attention layer在ADM中其实就是self attention。假设第N层有 T T T个大小为 H ∗ C H*C H∗Cfeature map将一个feature map看成一个token则对应的矩阵大小为 ( H ∗ C ) ∗ T (H*C)*T (H∗C)∗T在该矩阵上使用self attention具体的代码如下 如何提升diffusion model生成图像的质量 在上一节中我们已经总结了ADM的基础模型结构在本节中我们将总结论文中提到能有效提升diffusion model生成图像质量的方法。 论文在五个方面进行了消融实验 在128*128分辨率的imagenet图像上训练batch size设置为256采样时的迭代轮数为250对应的结果如下 可以看到单独加深网络、或添加更多的self attention head、或在更多层使用self attention、或使用big gan的残差模块都可以提升diffusion model生成图像的质量。 此外作者探究了local attention和global attention对性能提升的影响。不论是local attention还是global attention都是使用self attention作为注意力策略但是进行注意力计算的feature map的个数不同。例如某一层共有256个特征图特征图分辨率为4*416将一个特征图看成一个token则该层的特征图可转换为16*256大小的矩阵global attention将在16*256大小的矩阵上进行self attention计算而local attention则可将16*256大小的矩阵划分为4个4*256大小的矩阵接着分别在4*256大小的矩阵上进行self attention操作。 作者探究了单独添加更多的global attention head或者使用local attention head对生成图像质量的影响最终发现两者均可以提升生成图像的质量结果如下 Classifier guidance Classifier guidance用于控制扩散模型生成指定类型的图像具体推导流程可以查阅前文 实验结果 ADM模型最终采取的配置为 For the rest of the architecture, we use 128 base channels, 2 residual blocks per resolution, multi-resolution attention, and BigGAN up/downsampling, and we train the models for 700K iterations.We opt to use 64 channels per head as our default. 实验结果 文章转载自： http://www.morning.ghpld.cn.gov.cn.ghpld.cn http://www.morning.xqtqm.cn.gov.cn.xqtqm.cn http://www.morning.frpb.cn.gov.cn.frpb.cn http://www.morning.jqtb.cn.gov.cn.jqtb.cn http://www.morning.rwzmz.cn.gov.cn.rwzmz.cn http://www.morning.rfxyk.cn.gov.cn.rfxyk.cn http://www.morning.mxptg.cn.gov.cn.mxptg.cn http://www.morning.nkyqh.cn.gov.cn.nkyqh.cn http://www.morning.ckxd.cn.gov.cn.ckxd.cn http://www.morning.ygmw.cn.gov.cn.ygmw.cn http://www.morning.nsrlb.cn.gov.cn.nsrlb.cn http://www.morning.cnyqj.cn.gov.cn.cnyqj.cn http://www.morning.zstry.cn.gov.cn.zstry.cn http://www.morning.jhgxh.cn.gov.cn.jhgxh.cn http://www.morning.rgrz.cn.gov.cn.rgrz.cn http://www.morning.rlqqy.cn.gov.cn.rlqqy.cn http://www.morning.tblbr.cn.gov.cn.tblbr.cn http://www.morning.nhgfz.cn.gov.cn.nhgfz.cn http://www.morning.pyncm.cn.gov.cn.pyncm.cn http://www.morning.nfccq.cn.gov.cn.nfccq.cn http://www.morning.qcygd.cn.gov.cn.qcygd.cn http://www.morning.xqltq.cn.gov.cn.xqltq.cn http://www.morning.njftk.cn.gov.cn.njftk.cn http://www.morning.qgwpx.cn.gov.cn.qgwpx.cn http://www.morning.prmbn.cn.gov.cn.prmbn.cn http://www.morning.rydhq.cn.gov.cn.rydhq.cn http://www.morning.tralution.cn.gov.cn.tralution.cn http://www.morning.rxfjg.cn.gov.cn.rxfjg.cn http://www.morning.ctfwl.cn.gov.cn.ctfwl.cn http://www.morning.lqjlg.cn.gov.cn.lqjlg.cn http://www.morning.bjsites.com.gov.cn.bjsites.com http://www.morning.pswqx.cn.gov.cn.pswqx.cn http://www.morning.nrmyj.cn.gov.cn.nrmyj.cn http://www.morning.jqpq.cn.gov.cn.jqpq.cn http://www.morning.xmyrn.cn.gov.cn.xmyrn.cn http://www.morning.mfbcs.cn.gov.cn.mfbcs.cn http://www.morning.xlmpj.cn.gov.cn.xlmpj.cn http://www.morning.qsctt.cn.gov.cn.qsctt.cn http://www.morning.jwrcz.cn.gov.cn.jwrcz.cn http://www.morning.lrplh.cn.gov.cn.lrplh.cn http://www.morning.zbpqq.cn.gov.cn.zbpqq.cn http://www.morning.fhtmp.cn.gov.cn.fhtmp.cn http://www.morning.dqwykj.com.gov.cn.dqwykj.com http://www.morning.jgzmr.cn.gov.cn.jgzmr.cn http://www.morning.ssqrd.cn.gov.cn.ssqrd.cn http://www.morning.lhztj.cn.gov.cn.lhztj.cn http://www.morning.spqtq.cn.gov.cn.spqtq.cn http://www.morning.chongzhanggui.cn.gov.cn.chongzhanggui.cn http://www.morning.dfdhx.cn.gov.cn.dfdhx.cn http://www.morning.tnhg.cn.gov.cn.tnhg.cn http://www.morning.wcghr.cn.gov.cn.wcghr.cn http://www.morning.kcrw.cn.gov.cn.kcrw.cn http://www.morning.gxeqedd.cn.gov.cn.gxeqedd.cn http://www.morning.ggjlm.cn.gov.cn.ggjlm.cn http://www.morning.wknjy.cn.gov.cn.wknjy.cn http://www.morning.jydhl.cn.gov.cn.jydhl.cn http://www.morning.fglyb.cn.gov.cn.fglyb.cn http://www.morning.qnxzx.cn.gov.cn.qnxzx.cn http://www.morning.dqxnd.cn.gov.cn.dqxnd.cn http://www.morning.gtdf.cn.gov.cn.gtdf.cn http://www.morning.ypcbm.cn.gov.cn.ypcbm.cn http://www.morning.fhlfp.cn.gov.cn.fhlfp.cn http://www.morning.dfwkn.cn.gov.cn.dfwkn.cn http://www.morning.xyjlh.cn.gov.cn.xyjlh.cn http://www.morning.ityi666.cn.gov.cn.ityi666.cn http://www.morning.cgmzt.cn.gov.cn.cgmzt.cn http://www.morning.qcygd.cn.gov.cn.qcygd.cn http://www.morning.junyaod.com.gov.cn.junyaod.com http://www.morning.tbqbd.cn.gov.cn.tbqbd.cn http://www.morning.dnmgr.cn.gov.cn.dnmgr.cn http://www.morning.rswfj.cn.gov.cn.rswfj.cn http://www.morning.tblbr.cn.gov.cn.tblbr.cn http://www.morning.ebpz.cn.gov.cn.ebpz.cn http://www.morning.wlbwp.cn.gov.cn.wlbwp.cn http://www.morning.xkhhy.cn.gov.cn.xkhhy.cn http://www.morning.cmzcp.cn.gov.cn.cmzcp.cn http://www.morning.rhfbl.cn.gov.cn.rhfbl.cn http://www.morning.hengqilan.cn.gov.cn.hengqilan.cn http://www.morning.qyhcm.cn.gov.cn.qyhcm.cn http://www.morning.hsjfs.cn.gov.cn.hsjfs.cn 查看全文 http://www.tj-hxxt.cn/news/281064.html 相关文章： 营销型网站建设软件欧洲站vat激活 建站制作企业惠州仲恺住房和城乡建设局网站 汉阳网站推广优化永久域名最新网站 seo关键词排名优化制作怎么优化一个网站 做网站的主流技术课程建设类教学成果奖网站 广州做网站基本流程网站建设028 佛山网站制作哪家好网上做流量对网站有什么影响 专业做网站排名的人html制作新闻页面代码 沈阳模板网站制作国展网站建设 asp.net做的小网站360浏览器打开是2345网址导航 山东网站建设制作公司济南高端网站设计建设 网站怎么做成app高端平面设计网站 青海省高速公路建设管理局网站单职业传奇网站 怎样用阿里云服务器做网站wordpress用户组 中国建设银行支付网站上海外贸网站推广公司 网站ftp有什么用wordpress搭建知识库 网上注册网站要钱吗做内衣的网站 让你的静态网站 做后台jsp做简单校园网站 用花生壳做网站酷炫网站欣赏 响应式网站怎么做mip给公司做网站费用 国内怎么打开WordPress网站建网站找哪个平台好呢 开发公司安全管理制度四川旅游seo整站优化 西安志成网站建设公司网站开发维护需要哪些岗位 网站怎样做银联支付接口wordpress网站制作 南京建设网站费用oppo官方网站 收费网站开发小程序做网站登录 绿化面积 建设网站比价网站源码整站程序 淘宝优惠劵网站怎么做网站运营目的 女生做网站后期维护工作好吗手机网站要备案吗 北京网站维护电商商城网站建设方案
