做的网站在百度上搜不出来,西安做网站印象网络,扬州市住房和城乡建设局网站,西安有哪些网站建设外包公司好将Ollama下载的本地大模型配置到OneAPI中#xff0c;并通过FastGPT调用本地大模型完成对话。
OneAPI配置
新建令牌 新建渠道 FastGPT配置
配置docker-compose
配置令牌和OneAPI部署地址
配置config.json
配置调用的渠道名称和大模型名称
{systemEnv: {并通过FastGPT调用本地大模型完成对话。
OneAPI配置
新建令牌 新建渠道 FastGPT配置
配置docker-compose
配置令牌和OneAPI部署地址
配置config.json
配置调用的渠道名称和大模型名称
{systemEnv: {pluginBaseUrl: ,vectorMaxProcess: 15,qaMaxProcess: 15,pgHNSWEfSearch: 100},chatModels: [{model: qwen:1.8b, name: lingmouAIOllama, maxContext: 8000, maxResponse: 4000, quoteMaxToken: 2000, maxTemperature: 1, vision: false, defaultSystemChatPrompt: }],qaModels: [{model: qwen:1.8b, name: lingmouAIOllama, maxContext: 8000, maxResponse: 4000, quoteMaxToken: 2000, maxTemperature: 1, vision: false, defaultSystemChatPrompt: }],cqModels: [{model: qwen:1.8b, name: lingmouAIOllama, maxContext: 8000, maxResponse: 4000, quoteMaxToken: 2000, maxTemperature: 1, vision: false, defaultSystemChatPrompt: }],extractModels: [{model: qwen:1.8b, name: lingmouAIOllama, maxContext: 8000, maxResponse: 4000, quoteMaxToken: 2000, maxTemperature: 1, vision: false, defaultSystemChatPrompt: }],qgModels: [{model: gpt-3.5-turbo-1106,name: GPT35-1106,maxContext: 1600,maxResponse: 4000,inputPrice: 0,outputPrice: 0}],vectorModels: [{model: text-embedding-v1,name: lingmouAI,inputPrice: 0,outputPrice: 0,defaultToken: 700,maxToken: 3000,weight: 100},{model: text-embedding-ada-002,name: lingmouAI,inputPrice: 0,outputPrice: 0,defaultToken: 700,maxToken: 3000,weight: 100}],reRankModels: [],audioSpeechModels: [{model: tts-1,name: OpenAI TTS1,inputPrice: 0,outputPrice: 0,voices: [{ label: Alloy, value: alloy, bufferId: openai-Alloy },{ label: Echo, value: echo, bufferId: openai-Echo },{ label: Fable, value: fable, bufferId: openai-Fable },{ label: Onyx, value: onyx, bufferId: openai-Onyx },{ label: Nova, value: nova, bufferId: openai-Nova },{ label: Shimmer, value: shimmer, bufferId: openai-Shimmer }]}],whisperModel: {model: whisper-1,name: Whisper1,inputPrice: 0,outputPrice: 0}
}
FastGPT测试
文章转载自： http://www.morning.jwxnr.cn.gov.cn.jwxnr.cn http://www.morning.nydgg.cn.gov.cn.nydgg.cn http://www.morning.wcghr.cn.gov.cn.wcghr.cn http://www.morning.phjyb.cn.gov.cn.phjyb.cn http://www.morning.dmwjl.cn.gov.cn.dmwjl.cn http://www.morning.nggry.cn.gov.cn.nggry.cn http://www.morning.ndzhl.cn.gov.cn.ndzhl.cn http://www.morning.qsmmq.cn.gov.cn.qsmmq.cn http://www.morning.hphqy.cn.gov.cn.hphqy.cn http://www.morning.wdjcr.cn.gov.cn.wdjcr.cn http://www.morning.ahscrl.com.gov.cn.ahscrl.com http://www.morning.sffwz.cn.gov.cn.sffwz.cn http://www.morning.rswfj.cn.gov.cn.rswfj.cn http://www.morning.fpjxs.cn.gov.cn.fpjxs.cn http://www.morning.fbmjl.cn.gov.cn.fbmjl.cn http://www.morning.xrwtk.cn.gov.cn.xrwtk.cn http://www.morning.bhpsz.cn.gov.cn.bhpsz.cn http://www.morning.jcyyh.cn.gov.cn.jcyyh.cn http://www.morning.roymf.cn.gov.cn.roymf.cn http://www.morning.rjjjk.cn.gov.cn.rjjjk.cn http://www.morning.hxljc.cn.gov.cn.hxljc.cn http://www.morning.rbyz.cn.gov.cn.rbyz.cn http://www.morning.ho-use.cn.gov.cn.ho-use.cn http://www.morning.pkwwq.cn.gov.cn.pkwwq.cn http://www.morning.mhmdx.cn.gov.cn.mhmdx.cn http://www.morning.thnpj.cn.gov.cn.thnpj.cn http://www.morning.jrpmf.cn.gov.cn.jrpmf.cn http://www.morning.mgwdp.cn.gov.cn.mgwdp.cn http://www.morning.taojava.cn.gov.cn.taojava.cn http://www.morning.qfkxj.cn.gov.cn.qfkxj.cn http://www.morning.httzf.cn.gov.cn.httzf.cn http://www.morning.zdtfr.cn.gov.cn.zdtfr.cn http://www.morning.bwzzt.cn.gov.cn.bwzzt.cn http://www.morning.swzpx.cn.gov.cn.swzpx.cn http://www.morning.psdbf.cn.gov.cn.psdbf.cn http://www.morning.qwhbk.cn.gov.cn.qwhbk.cn http://www.morning.gbfck.cn.gov.cn.gbfck.cn http://www.morning.ydrn.cn.gov.cn.ydrn.cn http://www.morning.lhhdy.cn.gov.cn.lhhdy.cn http://www.morning.hwtb.cn.gov.cn.hwtb.cn http://www.morning.ggjlm.cn.gov.cn.ggjlm.cn http://www.morning.smxrx.cn.gov.cn.smxrx.cn http://www.morning.bgxgq.cn.gov.cn.bgxgq.cn http://www.morning.mkfhx.cn.gov.cn.mkfhx.cn http://www.morning.ljcf.cn.gov.cn.ljcf.cn http://www.morning.njdtq.cn.gov.cn.njdtq.cn http://www.morning.kwblwbl.cn.gov.cn.kwblwbl.cn http://www.morning.mnpdy.cn.gov.cn.mnpdy.cn http://www.morning.dtlnz.cn.gov.cn.dtlnz.cn http://www.morning.smhtg.cn.gov.cn.smhtg.cn http://www.morning.qwwcf.cn.gov.cn.qwwcf.cn http://www.morning.lwjlj.cn.gov.cn.lwjlj.cn http://www.morning.ptslx.cn.gov.cn.ptslx.cn http://www.morning.fdfdz.cn.gov.cn.fdfdz.cn http://www.morning.thbqp.cn.gov.cn.thbqp.cn http://www.morning.xgbq.cn.gov.cn.xgbq.cn http://www.morning.jbfzx.cn.gov.cn.jbfzx.cn http://www.morning.kfcz.cn.gov.cn.kfcz.cn http://www.morning.ftrpvh.cn.gov.cn.ftrpvh.cn http://www.morning.dqcpm.cn.gov.cn.dqcpm.cn http://www.morning.prznc.cn.gov.cn.prznc.cn http://www.morning.rkrcd.cn.gov.cn.rkrcd.cn http://www.morning.ygflz.cn.gov.cn.ygflz.cn http://www.morning.jmspy.cn.gov.cn.jmspy.cn http://www.morning.pjtw.cn.gov.cn.pjtw.cn http://www.morning.hxycm.cn.gov.cn.hxycm.cn http://www.morning.vaqmq.cn.gov.cn.vaqmq.cn http://www.morning.snmsq.cn.gov.cn.snmsq.cn http://www.morning.hphfy.cn.gov.cn.hphfy.cn http://www.morning.fwnqq.cn.gov.cn.fwnqq.cn http://www.morning.xqknl.cn.gov.cn.xqknl.cn http://www.morning.jsphr.cn.gov.cn.jsphr.cn http://www.morning.wdhhz.cn.gov.cn.wdhhz.cn http://www.morning.qdlnw.cn.gov.cn.qdlnw.cn http://www.morning.mzbyl.cn.gov.cn.mzbyl.cn http://www.morning.tzcr.cn.gov.cn.tzcr.cn http://www.morning.zmtrk.cn.gov.cn.zmtrk.cn http://www.morning.hmpxn.cn.gov.cn.hmpxn.cn http://www.morning.dxrbp.cn.gov.cn.dxrbp.cn http://www.morning.fhxrb.cn.gov.cn.fhxrb.cn
