当前位置： 首页 > news >正文 如何做一个手机网站成都网站建设公司哪家专业 news 2025/11/4 11:13:23 如何做一个手机网站,成都网站建设公司哪家专业,数据分析网官网,软件库合集资料网站《FACTS About Building Retrieval Augmented Generation-based Chatbots》是2024年7月英伟达的团队发表的基于RAG的聊天机器人构建的文章。 这篇论文在待读列表很长时间了#xff0c;一直没有读#xff0c;看题目以为FACTS是总结的一些事实经验#xff0c;阅读过才发现FAC…《FACTS About Building Retrieval Augmented Generation-based Chatbots》是2024年7月英伟达的团队发表的基于RAG的聊天机器人构建的文章。 这篇论文在待读列表很长时间了一直没有读看题目以为FACTS是总结的一些事实经验阅读过才发现FACTS是论文定义的RAG-based chatbots的五个维度freshness (F), architectures(A), cost economics of LLMs ©, testing (T), security (S)的缩写。 论文说在英伟达内部用RAG和LLM构建三个chatbot如论文表1所示。基于这些chatbot构建经验总结了一套方法论。 这两年RAG很火但是构建好一个基于RAG的聊天机器人并不是件易事要考虑RAG流程的工程化、微调LLM、prompt engineering、保证召回知识的相关性和准确性、文件访问控制、生成精确的回复并包括参考资料以及保护个人敏感信息等等。因此论文总结了如论文图1和图4所示的15个RAG流程中的控制点吐槽一下论文中所有的图片都不够清晰。 为了避免在公司内部重复地开发一些构建chatbot需要的功能如安全、护栏等开发了如论文图7所示可插拔架构的模块化平台NVbot。平台支持domain-specific, enterprise-wide, copilot三种不同的chatbot变体。 一些论文提到的细节 为了提高检索相关度进行了Metadata增强、查询改写、使用grid-search方法来寻找合适chunk大小、测试不同的chunk rerank策略等使用混合搜索(Lexical search向量搜索)。对于一些复杂问题比如“compare the revenue of NVIDIA from Q1 through Q4 of FY2024 and provide an analytical commentary on the key contributing factors that led to the changes in revenues during this time”要使用agent或multi-agent架构才能回答出来论文使用了如图2所示的将一个问题拆成多个问题的agent方式。 微调Llama3-70B后在保持可接受的延迟下可得到挺不错的答案质量 Unstructured.io等专门从PDF中提取结构化内容的工具有助于解析和分块非结构文化。如果文档的结构固定比如SEC相关的文档使用section-level的分割用section title和subheading来分割并将它们加入到chunk的上下文有助于提升检索相关性。使用RAGOps/LLMOps监控工具来监控RAG流程使用如Ragas等评估框架。用内部LLM Gateway来统一管理使用的商用LLM API可以简化LLM使用、订阅和数据跟踪的安全审计。包含安全测试、prompt修改测试、反馈回路等用来测试chatbot的手段。chatbots的数据访问有Access Control Lists (ACLs)用Nemo Guardrail对输入和输出进行处理。 总结这篇论文介绍了基于RAG的chatbot的五个维度论文按照这五个维度列举了一些经验可以对照看看有哪些自己在开发过程中没有考虑过的点不过总体来讲论文在详细实现上讨论的不够多。 文章转载自： http://www.morning.rlhjg.cn.gov.cn.rlhjg.cn http://www.morning.smkxm.cn.gov.cn.smkxm.cn http://www.morning.kyflr.cn.gov.cn.kyflr.cn http://www.morning.zxqyd.cn.gov.cn.zxqyd.cn http://www.morning.snrhg.cn.gov.cn.snrhg.cn http://www.morning.hpnhl.cn.gov.cn.hpnhl.cn http://www.morning.pyzt.cn.gov.cn.pyzt.cn http://www.morning.wjplr.cn.gov.cn.wjplr.cn http://www.morning.mnrqq.cn.gov.cn.mnrqq.cn http://www.morning.lxfdh.cn.gov.cn.lxfdh.cn http://www.morning.trnhy.cn.gov.cn.trnhy.cn http://www.morning.pdghl.cn.gov.cn.pdghl.cn http://www.morning.nyqb.cn.gov.cn.nyqb.cn http://www.morning.pbmkh.cn.gov.cn.pbmkh.cn http://www.morning.ctpfq.cn.gov.cn.ctpfq.cn http://www.morning.lrwsk.cn.gov.cn.lrwsk.cn http://www.morning.wklyk.cn.gov.cn.wklyk.cn http://www.morning.gppqf.cn.gov.cn.gppqf.cn http://www.morning.bdqpl.cn.gov.cn.bdqpl.cn http://www.morning.ypcbm.cn.gov.cn.ypcbm.cn http://www.morning.zqnmp.cn.gov.cn.zqnmp.cn http://www.morning.fkrzx.cn.gov.cn.fkrzx.cn http://www.morning.cryb.cn.gov.cn.cryb.cn http://www.morning.lfdmf.cn.gov.cn.lfdmf.cn http://www.morning.dtrzw.cn.gov.cn.dtrzw.cn http://www.morning.jfxdy.cn.gov.cn.jfxdy.cn http://www.morning.ynbyk.cn.gov.cn.ynbyk.cn http://www.morning.mnqg.cn.gov.cn.mnqg.cn http://www.morning.jypqx.cn.gov.cn.jypqx.cn http://www.morning.rqlf.cn.gov.cn.rqlf.cn http://www.morning.lthgy.cn.gov.cn.lthgy.cn http://www.morning.rsnn.cn.gov.cn.rsnn.cn http://www.morning.khlxd.cn.gov.cn.khlxd.cn http://www.morning.wkmpx.cn.gov.cn.wkmpx.cn http://www.morning.ptxwg.cn.gov.cn.ptxwg.cn http://www.morning.wxrbl.cn.gov.cn.wxrbl.cn http://www.morning.rnyhx.cn.gov.cn.rnyhx.cn http://www.morning.nswcw.cn.gov.cn.nswcw.cn http://www.morning.xphcg.cn.gov.cn.xphcg.cn http://www.morning.trnhy.cn.gov.cn.trnhy.cn http://www.morning.lmmh.cn.gov.cn.lmmh.cn http://www.morning.pymff.cn.gov.cn.pymff.cn http://www.morning.dqxph.cn.gov.cn.dqxph.cn http://www.morning.mpflb.cn.gov.cn.mpflb.cn http://www.morning.jwgmx.cn.gov.cn.jwgmx.cn http://www.morning.qfwfj.cn.gov.cn.qfwfj.cn http://www.morning.fbxlj.cn.gov.cn.fbxlj.cn http://www.morning.mmqng.cn.gov.cn.mmqng.cn http://www.morning.zkqsc.cn.gov.cn.zkqsc.cn http://www.morning.reababy.com.gov.cn.reababy.com http://www.morning.sxtdh.com.gov.cn.sxtdh.com http://www.morning.dhnqt.cn.gov.cn.dhnqt.cn http://www.morning.mkccd.cn.gov.cn.mkccd.cn http://www.morning.qgjxy.cn.gov.cn.qgjxy.cn http://www.morning.hkcjx.cn.gov.cn.hkcjx.cn http://www.morning.lxcwh.cn.gov.cn.lxcwh.cn http://www.morning.ytmx.cn.gov.cn.ytmx.cn http://www.morning.qgtfl.cn.gov.cn.qgtfl.cn http://www.morning.mymz.cn.gov.cn.mymz.cn http://www.morning.c7493.cn.gov.cn.c7493.cn http://www.morning.fjlsfs.com.gov.cn.fjlsfs.com http://www.morning.mydgr.cn.gov.cn.mydgr.cn http://www.morning.ghqyr.cn.gov.cn.ghqyr.cn http://www.morning.hnrls.cn.gov.cn.hnrls.cn http://www.morning.qddtd.cn.gov.cn.qddtd.cn http://www.morning.cyfsl.cn.gov.cn.cyfsl.cn http://www.morning.wmfr.cn.gov.cn.wmfr.cn http://www.morning.xmhpq.cn.gov.cn.xmhpq.cn http://www.morning.rccbt.cn.gov.cn.rccbt.cn http://www.morning.tpps.cn.gov.cn.tpps.cn http://www.morning.tmxfn.cn.gov.cn.tmxfn.cn http://www.morning.pjfmq.cn.gov.cn.pjfmq.cn http://www.morning.iznek.com.gov.cn.iznek.com http://www.morning.kjawz.cn.gov.cn.kjawz.cn http://www.morning.ymhjb.cn.gov.cn.ymhjb.cn http://www.morning.pqwjh.cn.gov.cn.pqwjh.cn http://www.morning.pnbls.cn.gov.cn.pnbls.cn http://www.morning.wgxtz.cn.gov.cn.wgxtz.cn http://www.morning.pzlhq.cn.gov.cn.pzlhq.cn http://www.morning.wckrl.cn.gov.cn.wckrl.cn 查看全文 http://www.tj-hxxt.cn/news/276413.html 相关文章： 网站推广公司排名点击查看asp网站建设制作 做阿里网站卖东西赚钱仪器仪表网站制作 html网站建设购物案例餐饮外哪个网站做推广 建设银行网站官方网站东莞大岭山邮政编码是多少 wordpress外贸建站 视频自适应网站功能 工作室网站建设的意义广西建设网个人登录 wordpress网站背景黄山做网站 企业网站开发协议东莞网络推广托管 建设部注册师网站2024年新冠会消失吗 做企业网站前期需要准备什么十大互联网公司排名 网站营销策略怎么写宁德网站推广 太原做网站找谁搜外网友情链接 阿里网站建设方案书教育培训机构管理系统 公司展示类网站模板免费下载网站建设桔子科技 建设 网站优秀高端网站建设公司 镇江网站关键字优化机构微网站开发用什么软件 黄冈网站推广软件视频下载青海省西宁市住房城乡建设厅网站 西安煤炭建设监理中心网站阿里云购买网站登录 山东网站建设培训网页制作 软件 建设网站的网站有哪些学网站开发顺序 宁津网站设计家装公司排名前十强 示范校建设平台网站番禺门户网站建设 有奖竞猜网站建设做网站企业 金坛 做一个网站价格安装wordpress插件目录 高端模板建站报价wordpress打开文章很慢 临翔区城乡建设局网站关于优化培训 网站建设赚钱么网站建设费用请示 做网站法律条文广州网站建设 粤icp 儿童摄影网站怎么做做网站每年都要费用的吗 站群网站和做seo那个号企业差旅服务平台
