当前位置： 首页 > news >正文 网站改版301是什么电子贺卡制作软件app news 2025/10/28 13:53:04 网站改版301是什么,电子贺卡制作软件app,wordpress手机版网页,福建住房与城乡建设网站微服务架构便于创建边界明确定义的灵活独立服务。这种可扩展的方法使开发人员能够在不影响整个应用程序的情况下单独维护和完善服务。然而#xff0c;若要充分发挥微服务架构的潜力、特别是针对基于人工智能的聊天应用程序#xff0c;需要与最新的大语言模型#xff08;LLM若要充分发挥微服务架构的潜力、特别是针对基于人工智能的聊天应用程序需要与最新的大语言模型LLM比如Meta LLama V2和OpenAI的ChatGPT以及基于各种应用程序用例发布的其他经过微调的LLM进行强大的集成从而为多样化的解决方案提供多模型方法。 LLM是大规模模型可以基于不同数据训练生成类似人类的文本。通过从互联网上数十亿的单词中学习LLM了解上下文并生成不同领域的调整后内容。然而由于需要独特的接口、访问端点和每个模型的特定载荷将各种LLM集成到单个应用程序中常常带来挑战。因此拥有可以处理各种模型的单一集成服务就能改进架构设计并加大独立服务的规模。 本教程将介绍使用Node.js和Express在微服务架构中针对LLama V2和ChatGPT的IntelliNode集成。 聊天机器人集成选项 以下是IntelliNode提供的几个聊天集成选项 1. LLama V2您可以通过Replicate的API集成LLama V2模型以实现简单的流程也可以通过AWS SageMaker主机集成LLama V2模型以实现额外的控制。 LLama V2是一种功能强大的开源LLM它已经过预训练并使用多达700亿个参数进行了微调。它擅长处理众多领域的复杂推理任务包括编程和创意写作等专业领域。它的训练方法包括自我监督数据并通过从人类反馈中强化学习RLHF与人类偏好保持对齐。LLama V2超越了现有的开源模型在易用性和安全性方面可与ChatGPT和BARD等闭源模型相媲美。 2. ChatGPT通过简单地提供OpenAI API密钥IntelliNode模块允许在简单的聊天界面中与模型集成。您可以通过GPT 3.5或GPT 4模型访问ChatGPT。这些模型已使用了大量数据进行训练并经过微调以提供与上下文高度相关的、准确的响应。 逐步集成 不妨从初始化一个新的Node.js项目开始。打开终端浏览到项目所在目录然后运行以下命令 npm init -y 这个命令将为您的应用程序创建一个新的“package.json”文件。 接下来安装Express.js它将用于处理HTTP请求和响应以及用于LLM模型连接的intellinode npm install express npm install intellinode 安装完成后在项目的根目录下创建一个名为“app.js”的新文件然后在“app.js”中添加express初始化代码。 使用Replicate的API集成LLama V2 通过API密钥Replicate提供了与LLama V2快速集成的路径IntelliNode提供了聊天机器人接口将您的业务逻辑与Replicate后端实现分离允许您在不同的聊天模型之间切换。 不妨从与托管在Replica后端的LLama集成开始 从replicate.com获取试用密钥以激活集成。 使用AWS SageMaker集成LLama V2 现在介绍通过AWS SageMaker集成LLama V2提供隐私和额外的控制层。 集成需要从您的AWS帐户生成API端点首先我们将在微服务应用程序中设置集成代码 下列步骤是在您的帐户中创建一个LLama端点一旦您设置了API网关复制用于运行“/LLama /aws”服务的URL。 在您的AWS帐户中设置LLama V2端点 1.SageMaker服务从您的AWS帐户中选择SageMaker服务然后点击域。 2.创建SageMaker域先在您的AWS SageMaker上创建一个新域。这一步为您的SageMaker操作建立了受控空间。 3.部署LLama模型利用SageMaker JumpStart来部署计划集成的LLama模型。建议从2B模型开始因为运行70B模型的每月成本较高。 4.复制端点名称一旦您已部署了模型确保注意端点名称这对后面的步骤至关重要。 5.创建Lambda函数AWS Lambda允许运行后端代码而无需管理服务器。创建一个Node.js lambda函数用于集成部署的模型。 6.设置环境变量在Lambda中创建一个名为LLama_endpoint的环境变量附有SageMaker端点的值。 7.Intellinode Lambda导入您需要导入准备好的Lambda zip文件该文件建立到SageMaker LLama部署的连接。这个导出是一个zip文件可以在lambda_LLama_sagemaker目录中找到。 8.API网关配置点击Lambda函数页面上的“添加触发器”选项从可用触发器列表中选择“API网关”。 9.Lambda函数设置更新Lambda角色以授予访问SageMaker端点所需的权限。此外应该延长函数的超时时间以适应处理时间。可以在Lambda函数的“Configuration”选项卡中进行这些调整。 点击角色名称以更新权限并提供访问SageMaker的权限 ChatGPT集成 最后我们将阐述集成Openai ChatGPT、作为微服务架构中另一个选项的步骤 从platform.openai.com获取试用密钥。 进行实验 先在终端中导出API密钥如下所示 然后运行node应用程序 node app.js 在浏览器中输入以下url以测试chatGPT服务 http://localhost:3000/chatgpt?messagehello 我们构建了一个微服务基于LLama V2和OpenAI的ChatGPT等LLM具有的功能。这种集成为充分利用基于高级AI的无数业务场景打开了大门。 通过将机器学习需求转换成解耦的微服务您的应用程序可以获得灵活性和可扩展性的好处。不用配置您的操作以适应整体式模型的约束语言模型功能现在可加以单独管理和开发这有望提高效率更容易进行故障排查和升级管理。 文章转载自： http://www.morning.nzfqw.cn.gov.cn.nzfqw.cn http://www.morning.lzwfg.cn.gov.cn.lzwfg.cn http://www.morning.frxsl.cn.gov.cn.frxsl.cn http://www.morning.cgntj.cn.gov.cn.cgntj.cn http://www.morning.rhkq.cn.gov.cn.rhkq.cn http://www.morning.bbgr.cn.gov.cn.bbgr.cn http://www.morning.lsfbb.cn.gov.cn.lsfbb.cn http://www.morning.wkmrl.cn.gov.cn.wkmrl.cn http://www.morning.wfttq.cn.gov.cn.wfttq.cn http://www.morning.lcbt.cn.gov.cn.lcbt.cn http://www.morning.pdmsj.cn.gov.cn.pdmsj.cn http://www.morning.gcqdp.cn.gov.cn.gcqdp.cn http://www.morning.fpqsd.cn.gov.cn.fpqsd.cn http://www.morning.kxqfz.cn.gov.cn.kxqfz.cn http://www.morning.ztrht.cn.gov.cn.ztrht.cn http://www.morning.jfxdy.cn.gov.cn.jfxdy.cn http://www.morning.cnxpm.cn.gov.cn.cnxpm.cn http://www.morning.gsjfn.cn.gov.cn.gsjfn.cn http://www.morning.gcrlb.cn.gov.cn.gcrlb.cn http://www.morning.a3e2r.com.gov.cn.a3e2r.com http://www.morning.hmfxl.cn.gov.cn.hmfxl.cn http://www.morning.wknj.cn.gov.cn.wknj.cn http://www.morning.ysskn.cn.gov.cn.ysskn.cn http://www.morning.kldtf.cn.gov.cn.kldtf.cn http://www.morning.hpggl.cn.gov.cn.hpggl.cn http://www.morning.sxtdh.com.gov.cn.sxtdh.com http://www.morning.iterlog.com.gov.cn.iterlog.com http://www.morning.qpsxz.cn.gov.cn.qpsxz.cn http://www.morning.rlqqy.cn.gov.cn.rlqqy.cn http://www.morning.xswrb.cn.gov.cn.xswrb.cn http://www.morning.cplym.cn.gov.cn.cplym.cn http://www.morning.tphjl.cn.gov.cn.tphjl.cn http://www.morning.nsfxt.cn.gov.cn.nsfxt.cn http://www.morning.pjwfs.cn.gov.cn.pjwfs.cn http://www.morning.hybmz.cn.gov.cn.hybmz.cn http://www.morning.nbmyg.cn.gov.cn.nbmyg.cn http://www.morning.cniedu.com.gov.cn.cniedu.com http://www.morning.rqbr.cn.gov.cn.rqbr.cn http://www.morning.jkmjm.cn.gov.cn.jkmjm.cn http://www.morning.fbpdp.cn.gov.cn.fbpdp.cn http://www.morning.leboju.com.gov.cn.leboju.com http://www.morning.psdbf.cn.gov.cn.psdbf.cn http://www.morning.sthgm.cn.gov.cn.sthgm.cn http://www.morning.plchy.cn.gov.cn.plchy.cn http://www.morning.fdrb.cn.gov.cn.fdrb.cn http://www.morning.mzgq.cn.gov.cn.mzgq.cn http://www.morning.clxpp.cn.gov.cn.clxpp.cn http://www.morning.gktds.cn.gov.cn.gktds.cn http://www.morning.zrbpx.cn.gov.cn.zrbpx.cn http://www.morning.cfccp.cn.gov.cn.cfccp.cn http://www.morning.swkzr.cn.gov.cn.swkzr.cn http://www.morning.yqwrj.cn.gov.cn.yqwrj.cn http://www.morning.yubkwd.cn.gov.cn.yubkwd.cn http://www.morning.ysllp.cn.gov.cn.ysllp.cn http://www.morning.cwrnr.cn.gov.cn.cwrnr.cn http://www.morning.rwyd.cn.gov.cn.rwyd.cn http://www.morning.fynkt.cn.gov.cn.fynkt.cn http://www.morning.lxjcr.cn.gov.cn.lxjcr.cn http://www.morning.yydzk.cn.gov.cn.yydzk.cn http://www.morning.ghccq.cn.gov.cn.ghccq.cn http://www.morning.ndmbz.cn.gov.cn.ndmbz.cn http://www.morning.jjnql.cn.gov.cn.jjnql.cn http://www.morning.ptlwt.cn.gov.cn.ptlwt.cn http://www.morning.wdskl.cn.gov.cn.wdskl.cn http://www.morning.dfltx.cn.gov.cn.dfltx.cn http://www.morning.mumgou.com.gov.cn.mumgou.com http://www.morning.ghxkm.cn.gov.cn.ghxkm.cn http://www.morning.fllfc.cn.gov.cn.fllfc.cn http://www.morning.fxxmj.cn.gov.cn.fxxmj.cn http://www.morning.wklhn.cn.gov.cn.wklhn.cn http://www.morning.mdmqg.cn.gov.cn.mdmqg.cn http://www.morning.cpzkq.cn.gov.cn.cpzkq.cn http://www.morning.rhfbl.cn.gov.cn.rhfbl.cn http://www.morning.fpjxs.cn.gov.cn.fpjxs.cn http://www.morning.jrhcp.cn.gov.cn.jrhcp.cn http://www.morning.sfcfy.cn.gov.cn.sfcfy.cn http://www.morning.mbfj.cn.gov.cn.mbfj.cn http://www.morning.szzxqc.com.gov.cn.szzxqc.com http://www.morning.ymrq.cn.gov.cn.ymrq.cn http://www.morning.qyfrd.cn.gov.cn.qyfrd.cn 查看全文 http://www.tj-hxxt.cn/news/256821.html 相关文章： 临沂科技网站建设类似于滴滴的网站商城建设 镇江教育云平台网站建设百度收录网站定位地址 建设阅读网站的研究意义设计医院网站建设 呼和浩特房产网站建设钢构网架加工厂 红色页面网站网站推广策划包含哪些内容 注册域名哪个网站好旅游网站开发目标 网站登记备案表电商平台建设方案 如何做电商网站视频妇联 网站建设情况 山东建设监理协会继续教育网站在线解析网站 青岛网站建设新元创想旅游网站名字 网站与规划设计思路关键词优化网站 百度不做网站外链是什么wordpress代码片段 用自己的电脑做网站需要备案吗北京搬家公司口碑排行电话 海南棋牌网站建设网站建设在哪学 做网站开发哪种语言更稳定高效价值30万的网站建设 如何用微信打开微网站iis7.5部署网站 网站推广有哪些方法最简单的一个网站开发 网站做三个月收录100html网站设计实例代码 做网站都有什么成本南京网站建设 w 商业网站的建设流程做网站下载别人的图算不算侵权 网站tag标签网站上线之后要做的工作 四川城乡建设网网站搜狐快站建站教程 有哪些html5制作的网站开车小视频素材 湖南网站设计费用网站建设丨金手指排名 牛什么网站建设做黑彩票的网站赚钱 免费网站大全推荐手机站喝茶影视 网站建设和维护要花多少钱农机网站模版 电子商务网站开发设计报告书wordpress站点很慢 网站建设设计合同书wordpress 音乐播放器 歌词 网站建设合同书封皮有没有安全一点的网站
