当前位置： 首页 > news >正文 专业手机建站公司优芽动画制作官网 news 2025/11/4 17:08:22 专业手机建站公司,优芽动画制作官网,天台县城市建设规划局网站,域名服务商是什么意思最快的学习方法#xff0c;理清思路#xff0c;找视频讲解#xff0c;看源码逻辑#xff1a; CLIP 源码讲解 唐宇 输入#xff1a; 图像-文本成对配对的数据 训练模型的过程#xff08;自己理解#xff09;#xff1a; 怎么做的#xff1f;#xff1a;利用数据内部…最快的学习方法理清思路找视频讲解看源码逻辑 CLIP 源码讲解 唐宇 输入 图像-文本成对配对的数据 训练模型的过程自己理解 怎么做的利用数据内部特征相似与不相似学习到能够同时表示图像和文本的潜在特征相当于把图像和文本在同一个潜在空间里进行特征学习和表示 为什么能学到呢相当于我已知这个图像跟这个文本是配对的是相似的或者说这两个东西是一个意思然后把这两个当成正样本计算正样本的相似度要越大越好即学习到的图像和文本的潜在特征表示进行运算后得到的相似度要越大越好所以反向约束表示图像和文本的特征要能够彼此互通图像的特征向量能够跟文本的特征向量在语义上能够互相认识彼此从而认出彼此是相似的。 对比损失函数 si,i 正样本相似度 si,k负样本相似度 优化方向分母的负样本相似度越小越好小到0可忽略不计这时正样本上下抵消为1log10loss为0. τ是一个神秘的参数大部分论文都默认采用较小的值来进行自监督对比学习例如0.05 对比损失是一个具备困难负样本自发现性质的损失函数这一性质对于学习高质量的自监督表示是至关重要的。关注困难样本的作用是对于那些已经远离的负样本不需要让其继续远离而主要聚焦在如何使没有远离的负样本远离从而使得表示空间更均匀Uniformityτ的作用是调节模型困难样本的关注程度τ 越小模型越关注于将那些与本样本最相似的负样本分开 累加是相当于i要跟多个非i的剩余负样本计算比如有5-5的图像文本对1-1为正样本1跟2~5都为负样本都要计算相似度所以要累加。 模型能力用训练好的模型进行推理 给一个模型没见过的图像和几个没见过的文本能够判断图像跟哪个文本是更加配对的~ 具有泛化能力相当于我模型已经能够编码图像和文本并且让图像和文本能够互相认识彼此。给一个模型没见过的文本和几个没见过的图像能够判断文本跟哪个图像更加配对同理。 对应CLIP源代码实现细节 图略有些糊 计算图像和文本的表示向量 计算对比损失 2.1. 计算相似度具体有两种情况但最终都是一样计算图像和文本相似度 2.2 按照损失公式的运算计算对比损失explog等操作 exp 运算 计算分子正样本相似度, 需要用matrix_diag 标记区分 matrix_diag 对角矩阵矩阵斜线上都为true表示正样本其余为false 表示负样本 计算分母负样本相似度t.masked_fill(pos_mask,0) 把斜对角线上设置为0正样本其余设置为1 最终计算contrastive lossloss计算加上 -log 取平均作为最终的loss SimCLR 内部成对正样本计算 文章转载自： http://www.morning.zhghd.cn.gov.cn.zhghd.cn http://www.morning.zlnmm.cn.gov.cn.zlnmm.cn http://www.morning.yjfzk.cn.gov.cn.yjfzk.cn http://www.morning.zymgs.cn.gov.cn.zymgs.cn http://www.morning.tgyzk.cn.gov.cn.tgyzk.cn http://www.morning.qrmyd.cn.gov.cn.qrmyd.cn http://www.morning.hxcuvg.cn.gov.cn.hxcuvg.cn http://www.morning.jkftn.cn.gov.cn.jkftn.cn http://www.morning.jjnql.cn.gov.cn.jjnql.cn http://www.morning.yjqkk.cn.gov.cn.yjqkk.cn http://www.morning.dbfp.cn.gov.cn.dbfp.cn http://www.morning.ptqds.cn.gov.cn.ptqds.cn http://www.morning.bbrf.cn.gov.cn.bbrf.cn http://www.morning.sgqw.cn.gov.cn.sgqw.cn http://www.morning.grfhd.cn.gov.cn.grfhd.cn http://www.morning.kyzxh.cn.gov.cn.kyzxh.cn http://www.morning.mxxsq.cn.gov.cn.mxxsq.cn http://www.morning.zlgth.cn.gov.cn.zlgth.cn http://www.morning.ntzbr.cn.gov.cn.ntzbr.cn http://www.morning.wgdnd.cn.gov.cn.wgdnd.cn http://www.morning.yjmns.cn.gov.cn.yjmns.cn http://www.morning.lkfhk.cn.gov.cn.lkfhk.cn http://www.morning.kltmt.cn.gov.cn.kltmt.cn http://www.morning.pxwzk.cn.gov.cn.pxwzk.cn http://www.morning.qxdrw.cn.gov.cn.qxdrw.cn http://www.morning.jcnmy.cn.gov.cn.jcnmy.cn http://www.morning.dqkrf.cn.gov.cn.dqkrf.cn http://www.morning.wrlxy.cn.gov.cn.wrlxy.cn http://www.morning.ljpqy.cn.gov.cn.ljpqy.cn http://www.morning.mgmyt.cn.gov.cn.mgmyt.cn http://www.morning.pybqq.cn.gov.cn.pybqq.cn http://www.morning.wmnpm.cn.gov.cn.wmnpm.cn http://www.morning.qnyf.cn.gov.cn.qnyf.cn http://www.morning.ryyjw.cn.gov.cn.ryyjw.cn http://www.morning.gwqkk.cn.gov.cn.gwqkk.cn http://www.morning.ssjee.cn.gov.cn.ssjee.cn http://www.morning.jkftn.cn.gov.cn.jkftn.cn http://www.morning.mnqg.cn.gov.cn.mnqg.cn http://www.morning.tphjl.cn.gov.cn.tphjl.cn http://www.morning.btjyp.cn.gov.cn.btjyp.cn http://www.morning.qphgp.cn.gov.cn.qphgp.cn http://www.morning.ntwfr.cn.gov.cn.ntwfr.cn http://www.morning.xczyj.cn.gov.cn.xczyj.cn http://www.morning.wyjpt.cn.gov.cn.wyjpt.cn http://www.morning.wjhdn.cn.gov.cn.wjhdn.cn http://www.morning.mnwmj.cn.gov.cn.mnwmj.cn http://www.morning.fmqng.cn.gov.cn.fmqng.cn http://www.morning.bkpbm.cn.gov.cn.bkpbm.cn http://www.morning.csnmd.cn.gov.cn.csnmd.cn http://www.morning.stsnf.cn.gov.cn.stsnf.cn http://www.morning.qwpyf.cn.gov.cn.qwpyf.cn http://www.morning.zmpsl.cn.gov.cn.zmpsl.cn http://www.morning.znmwb.cn.gov.cn.znmwb.cn http://www.morning.hkpyp.cn.gov.cn.hkpyp.cn http://www.morning.jhqcr.cn.gov.cn.jhqcr.cn http://www.morning.srgnd.cn.gov.cn.srgnd.cn http://www.morning.jzgxp.cn.gov.cn.jzgxp.cn http://www.morning.qxltp.cn.gov.cn.qxltp.cn http://www.morning.rwnx.cn.gov.cn.rwnx.cn http://www.morning.jrwbl.cn.gov.cn.jrwbl.cn http://www.morning.zynjt.cn.gov.cn.zynjt.cn http://www.morning.tbwsl.cn.gov.cn.tbwsl.cn http://www.morning.qjngk.cn.gov.cn.qjngk.cn http://www.morning.pqcbx.cn.gov.cn.pqcbx.cn http://www.morning.cywf.cn.gov.cn.cywf.cn http://www.morning.cfccp.cn.gov.cn.cfccp.cn http://www.morning.tkcct.cn.gov.cn.tkcct.cn http://www.morning.rkqqf.cn.gov.cn.rkqqf.cn http://www.morning.wdprz.cn.gov.cn.wdprz.cn http://www.morning.dxqfh.cn.gov.cn.dxqfh.cn http://www.morning.fstdf.cn.gov.cn.fstdf.cn http://www.morning.dtlqc.cn.gov.cn.dtlqc.cn http://www.morning.nmqdk.cn.gov.cn.nmqdk.cn http://www.morning.sgcdr.com.gov.cn.sgcdr.com http://www.morning.rhpy.cn.gov.cn.rhpy.cn http://www.morning.zdtfr.cn.gov.cn.zdtfr.cn http://www.morning.pskjm.cn.gov.cn.pskjm.cn http://www.morning.rqwwm.cn.gov.cn.rqwwm.cn http://www.morning.mwns.cn.gov.cn.mwns.cn http://www.morning.dighk.com.gov.cn.dighk.com 查看全文 http://www.tj-hxxt.cn/news/277115.html 相关文章： 营销型企业网站功能做期货网站违法的吗 网站后台全能模板做跨境电商网站 站长工具在线手把手教你制作网页 做信息发布网站要多少钱网络管理系统中故障管理的目标是 展示型网站建设方案书新媒体营销策略 asp网站的配置成都设计公司地址 旅游网站建设的意义中能建西北城市建设门户网站 网站免费个人空间申请去哪网站备案吗 提交图片的网站要怎么做wordpress嵌入百度地图 怎么自己编写网站淘宝上开网店的流程 海南省建设局网站搜索四川省城乡建设厅门户网站 上传文件后网站建设中如何做网站清风制作 地方网站名称济南做网站的 什么网站做招聘比较好长春网站制作可选吉网传媒好 洱源网站建设php做直播网站 开发网站广州制作网站的平台 免费建设门户网站网站交互做的比较好的 怎么分析一个网站河北省廊坊市建设网站 做网站常用图标东阳网站建设 重庆江津网站设计公司电话菜鸟教程网官网入口 资源网站免费的英文网站建设怎么样 wordpress门户主题 门户一号下载抖音seo软件工具 鹿城做网站西安建筑科技大学华清学院教务网 松北建设局网站十堰哪家网站制作公司技术好 苏州网站制作开发排名优化软件点击 海口省建设厅网站台州市建设厅网站 做兼职最好的网站有哪些广州化妆品网站建设 泰州市建设局审图中心网站广告设计公司企业文化 局域网网站建设步骤广告推广图片 互动网站建设什么意思企业所得税税率是多少
