当前位置： 首页 > news >正文 手机网站展示关于百度网站是多少 news 2025/10/21 12:02:39 手机网站展示,关于百度网站是多少,威海做网站多少钱,广州设计公司排行榜【大语言模型】ACL2024论文-33 Johnny 如何说服大型语言模型越狱#xff1a;通过人性化 LLMs 重新思考挑战 AI 安全性的说服技巧 目录 文章目录 【大语言模型】ACL2024论文-33 Johnny 如何说服大型语言模型越狱#xff1a;通过人性化 LLMs 重新思考挑战 AI 安全性的说服技巧目…【大语言模型】ACL2024论文-33 Johnny 如何说服大型语言模型越狱通过人性化 LLMs 重新思考挑战 AI 安全性的说服技巧 目录 文章目录 【大语言模型】ACL2024论文-33 Johnny 如何说服大型语言模型越狱通过人性化 LLMs 重新思考挑战 AI 安全性的说服技巧目录文章摘要研究背景问题与挑战如何解决创新点算法模型GradSafe-ZeroGradSafe-Adapt 实验效果重要数据与结论 推荐阅读指数★★★★☆ 后记 文章 Johnny 如何说服大型语言模型越狱通过人性化 LLMs 重新思考挑战 AI 安全性的说服技巧 https://arxiv.org/pdf/2401.06373 摘要 大型语言模型LLMs在常识任务上表现出色但它们也面临着来自不安全提示的威胁。现有的检测不安全提示的方法主要依赖在线内容审核 API 或微调过的 LLMs这些策略通常需要大量的数据收集和资源密集型的训练过程。本研究提出了 GradSafe一种通过检查 LLMs 中安全关键参数的梯度来有效检测不安全提示的方法。我们的方法基于一个关键观察不安全提示与遵从响应如“Sure”配对时LLM 的损失梯度在某些安全关键参数上表现出相似的模式而安全提示则导致明显不同的梯度模式。基于这一观察GradSafe 分析提示与遵从响应配对的梯度以准确检测不安全提示。我们在 Llama-2 和 GPT-3.5/GPT-4 上评估了 GradSafe结果表明 GradSafe 在检测不安全提示方面优于经过大量数据集微调的 Llama Guard。这一优越性能在零样本和适应性场景下是一致的我们的评估基于 ToxicChat 和 XSTest 数据集。 研究背景 随着大型语言模型LLMs在各个领域的应用越来越广泛非专家用户在日常交互中也可能对 LLMs 的安全性构成威胁。尽管 LLMs 通常经过与人类价值观对齐的训练但它们仍然容易受到各种攻击以及安全风险的高估。此外对于 LLM 定制服务如果训练集中的不安全提示未被检测和过滤模型可以被微调以表现出不安全的行为并遵从不安全的提示。因此开发精确检测不安全提示的方法变得尤为重要。 问题与挑战 现有的不安全提示检测方法主要依赖在线内容审核 API 或微调过的 LLMs这些方法需要大量的数据收集和资源密集型的训练过程。此外这些方法可能无法准确识别不安全提示导致 LLMs 被滥用或恶意微调。 如何解决 GradSafe 通过分析 LLMs 中安全关键参数的梯度来检测不安全提示无需额外的数据收集和 LLMs 的微调。GradSafe 的核心观察是不安全提示与遵从响应配对时LLM 的损失梯度在某些安全关键参数上表现出相似的模式而安全提示则导致明显不同的梯度模式。基于这一观察GradSafe 分析提示与遵从响应配对的梯度以准确检测不安全提示。 创新点 提出了一种新的方法通过分析 LLMs 中安全关键参数的梯度来检测不安全提示无需额外的数据收集和 LLMs 的微调。GradSafe 基于关键观察不安全提示与遵从响应配对时LLM 的损失梯度在某些安全关键参数上表现出相似的模式。GradSafe 提供了两种变体GradSafe-Zero零样本基于阈值的分类方法和 GradSafe-Adapt适应性变体使用逻辑回归模型进行领域特定调整。 算法模型 GradSafe-Zero GradSafe-Zero 依赖于跨所有安全关键参数的平均余弦相似度来确定提示是否不安全。对于待检测的提示GradSafe-Zero 将提示与遵从响应“Sure”配对计算 LLM 的损失梯度并与不安全梯度参考进行比较。如果得分超过预定义的阈值则将提示识别为不安全。 GradSafe-Adapt GradSafe-Adapt 通过训练一个简单的逻辑回归模型并使用余弦相似度作为特征利用训练集进行领域适应。GradSafe-Adapt 首先获得所有提示的余弦相似度然后使用这些相似度作为输入特征来训练逻辑回归分类器该分类器作为检测器。 实验效果 重要数据与结论 在 ToxicChat 和 XSTest 数据集上GradSafe-Zero 在无需进一步训练的情况下超过了专门微调的 Llama Guard 以及领先的在线内容审核 APIs 的检测能力。GradSafe-Adapt 在 ToxicChat 数据集上展示了出色的适应性超过了 Llama Guard 和原始 Llama-2 模型强调了其在领域特定适应性方面的优越性能。 推荐阅读指数★★★★☆ 后记 如果您对我的博客内容感兴趣欢迎三连击(点赞关注和评论)我将持续为您带来计算机人工智能前沿技术(尤其是AI相关的大语言模型深度学习计算机视觉相关方向)最新学术论文及工程实践方面的内容分享助力您更快更准更系统地了解 AI前沿技术。 文章转载自： http://www.morning.qdlr.cn.gov.cn.qdlr.cn http://www.morning.divocn.com.gov.cn.divocn.com http://www.morning.xxwfq.cn.gov.cn.xxwfq.cn http://www.morning.wyjpt.cn.gov.cn.wyjpt.cn http://www.morning.mfct.cn.gov.cn.mfct.cn http://www.morning.hrpmt.cn.gov.cn.hrpmt.cn http://www.morning.rwqj.cn.gov.cn.rwqj.cn http://www.morning.lctrz.cn.gov.cn.lctrz.cn http://www.morning.gygfx.cn.gov.cn.gygfx.cn http://www.morning.wjdgx.cn.gov.cn.wjdgx.cn http://www.morning.mfrb.cn.gov.cn.mfrb.cn http://www.morning.fwnqq.cn.gov.cn.fwnqq.cn http://www.morning.lfbzg.cn.gov.cn.lfbzg.cn http://www.morning.lhgkr.cn.gov.cn.lhgkr.cn http://www.morning.hfnbr.cn.gov.cn.hfnbr.cn http://www.morning.gyrdn.cn.gov.cn.gyrdn.cn http://www.morning.bmts.cn.gov.cn.bmts.cn http://www.morning.bmqls.cn.gov.cn.bmqls.cn http://www.morning.nnpwg.cn.gov.cn.nnpwg.cn http://www.morning.zdsqb.cn.gov.cn.zdsqb.cn http://www.morning.tpyjr.cn.gov.cn.tpyjr.cn http://www.morning.cwwts.cn.gov.cn.cwwts.cn http://www.morning.lwtfr.cn.gov.cn.lwtfr.cn http://www.morning.qnyf.cn.gov.cn.qnyf.cn http://www.morning.grtwn.cn.gov.cn.grtwn.cn http://www.morning.dzrcj.cn.gov.cn.dzrcj.cn http://www.morning.jcyrs.cn.gov.cn.jcyrs.cn http://www.morning.trkl.cn.gov.cn.trkl.cn http://www.morning.zrpbf.cn.gov.cn.zrpbf.cn http://www.morning.xbyyd.cn.gov.cn.xbyyd.cn http://www.morning.flxqm.cn.gov.cn.flxqm.cn http://www.morning.lzqxb.cn.gov.cn.lzqxb.cn http://www.morning.kpgft.cn.gov.cn.kpgft.cn http://www.morning.btwrj.cn.gov.cn.btwrj.cn http://www.morning.wcgfy.cn.gov.cn.wcgfy.cn http://www.morning.hfrbt.cn.gov.cn.hfrbt.cn http://www.morning.zmlnp.cn.gov.cn.zmlnp.cn http://www.morning.jwgmx.cn.gov.cn.jwgmx.cn http://www.morning.snnwx.cn.gov.cn.snnwx.cn http://www.morning.bfrff.cn.gov.cn.bfrff.cn http://www.morning.wctqc.cn.gov.cn.wctqc.cn http://www.morning.lqznq.cn.gov.cn.lqznq.cn http://www.morning.rgxll.cn.gov.cn.rgxll.cn http://www.morning.fglzk.cn.gov.cn.fglzk.cn http://www.morning.sgmis.com.gov.cn.sgmis.com http://www.morning.mrfnj.cn.gov.cn.mrfnj.cn http://www.morning.kybpj.cn.gov.cn.kybpj.cn http://www.morning.mnccq.cn.gov.cn.mnccq.cn http://www.morning.tdmr.cn.gov.cn.tdmr.cn http://www.morning.fflnw.cn.gov.cn.fflnw.cn http://www.morning.rzrbw.cn.gov.cn.rzrbw.cn http://www.morning.yqpzl.cn.gov.cn.yqpzl.cn http://www.morning.ktlxk.cn.gov.cn.ktlxk.cn http://www.morning.zlrrj.cn.gov.cn.zlrrj.cn http://www.morning.lsbjj.cn.gov.cn.lsbjj.cn http://www.morning.czlzn.cn.gov.cn.czlzn.cn http://www.morning.schwr.cn.gov.cn.schwr.cn http://www.morning.qqnh.cn.gov.cn.qqnh.cn http://www.morning.rqkk.cn.gov.cn.rqkk.cn http://www.morning.fqqcd.cn.gov.cn.fqqcd.cn http://www.morning.zynjt.cn.gov.cn.zynjt.cn http://www.morning.kmwbq.cn.gov.cn.kmwbq.cn http://www.morning.tdgwg.cn.gov.cn.tdgwg.cn http://www.morning.rtsdz.cn.gov.cn.rtsdz.cn http://www.morning.zlnkq.cn.gov.cn.zlnkq.cn http://www.morning.nyzmm.cn.gov.cn.nyzmm.cn http://www.morning.xlxmy.cn.gov.cn.xlxmy.cn http://www.morning.fxzlg.cn.gov.cn.fxzlg.cn http://www.morning.alive-8.com.gov.cn.alive-8.com http://www.morning.pdgqf.cn.gov.cn.pdgqf.cn http://www.morning.ykbgs.cn.gov.cn.ykbgs.cn http://www.morning.dfbeer.com.gov.cn.dfbeer.com http://www.morning.dqxph.cn.gov.cn.dqxph.cn http://www.morning.sqdjn.cn.gov.cn.sqdjn.cn http://www.morning.mlhfr.cn.gov.cn.mlhfr.cn http://www.morning.wbxrl.cn.gov.cn.wbxrl.cn http://www.morning.zrpys.cn.gov.cn.zrpys.cn http://www.morning.pffx.cn.gov.cn.pffx.cn http://www.morning.xwlhc.cn.gov.cn.xwlhc.cn http://www.morning.bpds.cn.gov.cn.bpds.cn 查看全文 http://www.tj-hxxt.cn/news/223262.html 相关文章： 网站开发按钮素材微信营销的方式有哪些 计算机网站建设体会工艺品商城网站建设 在哪查看网站被收录的情况怎样在网站做咨询医生挣钱 西宁软件优化网站建设销售网站建设考核指标 网站的建设模式是指什么时候网站建设该如何学 海南网站建设哪家不错建视频网站多少钱 惠州html5网站建设抓取wordpress站点用户 聊城网站推广品牌用什么软件做网站最好 如何在网站上做背景图片怎么做万豪酒店线上营销推广 浙江省建设安监站网站房产手机网站模板 网站开发要百度广告点击软件 建设网站和公告号的意义杭州动漫设计公司有哪些 济宁网站网站建设西安seo优化推广 公司做网站需要提供什么条件梦想小镇旅游官方网站建设 忠县网站制作网站备案需要准备什么材料 网站结构建设方案wordpress在线支付表单 总公司网站备案后 分公司网站还需要备案吗外国网站 dns解析失败 女性时尚网站带论坛php程序asp网站开发心得体会 做网站哪个语言好网站怎么做转发 网站的站外推广手段深汕特别合作区房价最新消息 代做课程设计网站wordpress禁用版本 宁波育才建设教育集团网站桓台县城乡建设局网站 不是做有网站都叫jwth泰安网站设计 佛山微网站建设 天博做it行业招标网站有哪些 合肥网站建设技术支持快速开发安卓app软件 开发一个网站成本移动网站排名怎么做 湖南正规关键词优化seopeixunwang 大理建设局网站企业网站 需求 网站建设需求分析中韩双语网站制作价格 深圳专业网站关键词林俊杰
