网站使用的主色调,二建咨询在线,什么网站专做衣服,短链接生成器免费本文首发#xff1a;从零到一#xff1a;如何用阿里云百炼和火山引擎搭建专属 AI 助手#xff08;DeepSeek#xff09;#xff1f;
阿里云百炼和火山引擎都推出了免费的 DeepSeek 模型体验额度#xff0c;今天我和大家一起搭建一个本地的专属 AI 助手。 阿里云百炼为 …本文首发从零到一如何用阿里云百炼和火山引擎搭建专属 AI 助手DeepSeek
阿里云百炼和火山引擎都推出了免费的 DeepSeek 模型体验额度今天我和大家一起搭建一个本地的专属 AI 助手。 阿里云百炼为 DeepSeek-R1 与 DeepSeek-V3 模型分别提供 100 万 tokens 免费额度 https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms
火山引擎为 DeepSeek 在内的多种模型提供 50 万 tokens 免费额度 https://www.volcengine.com/product/ark
一、阿里云百炼部署 DeepSeek 模型 1、登录阿里云百炼
注册并登录阿里云百炼平台进入模型广场即可查看 DeepSeek 模型。 2、创建 API Key
在阿里云百炼主页右上角的个人图标中进入 API-KEY 页面并创建专属的 API Key。 3、调用 API 验证
参考《配置 API Key 到环境变量》文档将 API Key 配置到环境变量中并通过代码调用 API 进行验证。
配置 API Key 到环境变量
https://help.aliyun.com/zh/model-studio/developer-reference/configure-api-key-through-environment-variables
以下是官方提供的代码示例帮助您快速上手 import os
from openai import OpenAIclient OpenAI(# 若没有配置环境变量请用百炼API Key将下行替换为api_keysk-xxx,api_keyos.getenv(DASHSCOPE_API_KEY), # 如何获取API Keyhttps://help.aliyun.com/zh/model-studio/developer-reference/get-api-keybase_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1
)completion client.chat.completions.create(modeldeepseek-r1, # 此处以 deepseek-r1 为例可按需更换模型名称。messages[{role: user, content: 9.9和9.11谁大}]
)# 通过reasoning_content字段打印思考过程print(思考过程)
print(completion.choices[0].message.reasoning_content)# 通过content字段打印最终答案print(最终答案)
print(completion.choices[0].message.content)
二、火山引擎部署 DeepSeek 模型 1、登录火山方舟 注册并登录火山方舟平台可使用我的邀请码 9Z52V71T 可免费获得每个模型 50 万 tokens 的推理额度。 # 登录后免费赠送每个模型50万tokens推理额度。
https://www.volcengine.com/experience/ark?utm_term202502dsinviteacDSASUQY5rc9Z52V71T
登录后就能体验 DeepSeek-R1 等各种模型 2、创建 API Key
在“在线推理”页面找到“API 接入”按照提示创建 API Key。 3、创建自定义推理接入点
根据官方教程在“在线推理”页面选择“创建推理接入点”。 创建过程比较简单填写名称并选择模型如 DeepSeek-R1比如我选择 DeepSeek-R1 模型为了方便我自己识别所以接入点名称我填写成“DeepSeek-R1” 在模型选择页可以根据自己需求去选择模型 创建完成就可以得到接入点名称。注意后续用到的 model_name 是火山平台自动生成以“ep-”开头。 4、调用 API 验证
设置 API Key 作为环境变量其中YOUR_API_KEY需要替换为火山方舟上创建的 API Key export ARK_API_KEYYOUR_API_KEY
官方示例参考
import os
from openai import OpenAIclient OpenAI(api_key os.environ.get(ARK_API_KEY),base_url https://ark.cn-beijing.volces.com/api/v3,
)# Non-streaming:
print(----- standard request -----)
completion client.chat.completions.create(model ep-, # your model endpoint IDmessages [{role: system, content: 你是人工智能助手},{role: user, content: 常见的十字花科植物有哪些},],
)
print(completion.choices[0].message.content)# Streaming:
print(----- streaming request -----)
stream client.chat.completions.create(model ep-, # your model endpoint IDmessages [{role: system, content: 你是人工智能助手},{role: user, content: 常见的十字花科植物有哪些},],streamTrue
)for chunk in stream:if not chunk.choices:continueprint(chunk.choices[0].delta.content, end)
print()
三、搭建专属 AI 助手
无论是开发者还是普通用户都可以通过以下方式快速搭建专属的 AI 助手
1、用 streamlit 编写个应用
对于程序员可以使用 Streamlit 编写一个简单的网页应用实现本地化交互。
我已经编写了一个基础版日常用用就足够了代码参考
import streamlit as st
import uuid
import os
import hashlib
from openai import OpenAI, AuthenticationError, APIError# 生成或获取用户特定的会话ID
ifuser_session_idnotin st.session_state:st.session_state.user_session_id str(uuid.uuid4())# 使用用户会话ID来获取或初始化用户特定的数据
defget_user_data():ifuser_datanotin st.session_state:st.session_state.user_data {}if st.session_state.user_session_id notin st.session_state.user_data:st.session_state.user_data[st.session_state.user_session_id] {messages: [{role: system, content: 你是一个AI助手请回答用户提出的问题。}],uploaded_files: [],api_key: sk-,base_url: https://dashscope.aliyuncs.com/compatible-mode/v1,model_name: deepseek-r1,past_sessions: []}return st.session_state.user_data[st.session_state.user_session_id]# 更新用户数据的辅助函数
defupdate_user_data(key, value):user_data get_user_data()user_data[key] value# 保存当前会话
defsave_current_session():user_data get_user_data()iflen(user_data[messages]) 1: # 只有当有实际对话时才保存current_session {id: st.session_state.user_session_id,messages: user_data[messages]}# 检查是否已存在相同ID的会话如果存在则更新不存在则插入existing_session next((session for session in user_data[past_sessions] if session[id] current_session[id]), None)if existing_session:existing_session.update(current_session)else:user_data[past_sessions].insert(0, current_session)# 限制保存的会话数量例如只保留最近的5个会话user_data[past_sessions] user_data[past_sessions][:5]# 加载选定的会话
defload_session(session_id):user_data get_user_data()for session in user_data[past_sessions]:if session[id] session_id:st.session_state.user_session_id session_idst.session_state.user_data[session_id] {messages: session[messages],uploaded_files: [],api_key: user_data[api_key],base_url: user_data[base_url],model_name: user_data[model_name],past_sessions: user_data[past_sessions]}breakdefsave_uploaded_files(upload_dir, uploaded_files):保存上传的 txt 和 markdown 文件到临时目录并返回文件信息user_data get_user_data()saved_files []current_files [f[name] for f in user_data[uploaded_files]]for file in uploaded_files:if file.name in current_files:continueifnot file.name.lower().endswith((.txt, .md, .markdown)):st.warning(f不支持的文件类型: {file.name}。请上传 .txt 或 .md 文件。)continueif file.size 1 * 1024 * 1024: # 1MB限制st.error(f文件 {file.name} 超过大小限制1MB)continuetry:# 保存文件到指定目录file_path os.path.join(upload_dir, file.name)withopen(file_path, wb) as f:f.write(file.getbuffer())# 读取文件内容withopen(file_path, r, encodingutf-8) as f:content f.read()# 生成内容哈希值content_hash hashlib.md5(content.encode()).hexdigest()# 检查重复内容ifany(f[hash] content_hash for f in user_data[uploaded_files]):st.info(f文件 {file.name} 的内容与已上传的文件重复已跳过。)continuesaved_files.append({name: file.name,content: content,size: file.size,hash: content_hash})st.success(f成功上传文件: {file.name})except Exception as e:st.error(f处理文件 {file.name} 时出错: {str(e)})continuereturn saved_filesdefformat_file_contents(files):return\n.join([f {f[name]} \n{f[content]}\nfor f in files])defget_active_api_config():user_data get_user_data()return user_data[base_url], user_data[api_key], user_data[model_name]defprocess_stream(stream):合并处理思考阶段和响应阶段thinking_content response_content # 在状态块外部预先创建响应占位符response_placeholder st.empty()with st.status(思考中..., expandedTrue) as status:thinking_placeholder st.empty()thinking_phase True# 思考阶段标记for chunk in stream:# 解析数据块delta chunk.choices[0].deltareasoning delta.reasoning_content ifhasattr(delta, reasoning_content) elsecontent delta.content ifhasattr(delta, content) elserole delta.role ifhasattr(delta, role) else# 处理思考阶段if thinking_phase:if reasoning:thinking_content reasoningthinking_placeholder.markdown(f思考过程\n{thinking_content})# 检测思考阶段结束if content:status.update(label思考完成, statecomplete, expandedFalse)thinking_phase Falseresponse_placeholder.markdown(回答\n▌) # 初始化响应光标# 处理响应阶段无论是否在思考阶段都收集内容if content:response_content contentifnot thinking_phase:response_placeholder.markdown(f回答\n{response_content}▌)# 流结束后移除光标response_placeholder.markdown(f回答\n{response_content})returnf{thinking_content}{response_content}defdisplay_chat_history():user_data get_user_data()for message in user_data[messages]:with st.chat_message(message[role]):st.markdown(message[content])defhandle_user_input():user_data get_user_data()base_url, api_key, model_name get_active_api_config()ifnot api_key or api_key sk-:st.error(请在侧边栏输入有效的 API Key。)returntry:client OpenAI(api_keyapi_key, base_urlbase_url)uploaded_files st.file_uploader(上传文本文件支持 .txt 和 .md,type[txt, md, markdown],accept_multiple_filesTrue,keyfile_uploader)if uploaded_files:new_files save_uploaded_files(dirs, uploaded_files)user_data[uploaded_files].extend(new_files)user_content []if user_input : st.chat_input(请问我任何事!):user_content.append(user_input)if user_data[uploaded_files]:file_content format_file_contents(user_data[uploaded_files])user_content.append(\n[上传文件内容]\n file_content)user_data[uploaded_files] [] # 清空已处理的文件列表full_content \n.join(user_content)user_data[messages].append({role: user, content: full_content})with st.chat_message(user):st.markdown(user_input)with st.chat_message(assistant):try:stream client.chat.completions.create(modelmodel_name,messagesuser_data[messages],streamTrue)response process_stream(stream)user_data[messages].append({role: assistant, content: response})except AuthenticationError:st.error(API 认证失败。请检查您的 API Key 是否正确。)except APIError as e:st.error(fAPI 错误: {str(e)})except Exception as e:st.error(f发生未知错误: {str(e)})except Exception as e:st.error(f设置 OpenAI 客户端时发生错误: {str(e)})defmain_interface():st.title(AI 助手)user_data get_user_data()with st.sidebar:api_key st.text_input(API Key, user_data[api_key], typepassword)if api_key:update_user_data(api_key, api_key)else:st.warning(请输入有效的 API Key)# Base URL 选项base_url_options {DashScope: https://dashscope.aliyuncs.com/compatible-mode/v1,ARK: https://ark.cn-beijing.volces.com/api/v3,自定义: custom}selected_base_url st.selectbox(选择 Base URL,optionslist(base_url_options.keys()),indexlist(base_url_options.keys()).index(DashScope) if user_data[base_url] base_url_options[DashScope] else0)if selected_base_url 自定义:custom_base_url st.text_input(自定义 Base URL, user_data[base_url])update_user_data(base_url, custom_base_url)else:update_user_data(base_url, base_url_options[selected_base_url])# Model Name 选项model_options {deepseek-r1: deepseek-r1,deepseek-v3: deepseek-v3,自定义: custom}selected_model st.selectbox(选择 Model,optionslist(model_options.keys()),indexlist(model_options.keys()).index(deepseek-r1) if user_data[model_name] deepseek-r1else0)if selected_model 自定义:custom_model st.text_input(自定义 Model Name, user_data[model_name])update_user_data(model_name, custom_model)else:update_user_data(model_name, model_options[selected_model])if st.button( 新会话):save_current_session() # 保存当前会话new_session_id str(uuid.uuid4())st.session_state.user_data[new_session_id] {messages: [{role: system, content: 你是一个AI助手请回答用户提出的问题。}],uploaded_files: [],api_key: user_data[api_key], # 保留当前的 API Keybase_url: user_data[base_url], # 保留当前的 Base URLmodel_name: user_data[model_name], # 保留当前的 Model Namepast_sessions: user_data[past_sessions] # 保留过去的会话记录}st.session_state.user_session_id new_session_idst.rerun()# 显示过去的会话st.write(过去的会话)for past_session in user_data[past_sessions]:if st.button(f加载会话 {past_session[id][:8]}..., keypast_session[id]):load_session(past_session[id])st.rerun()display_chat_history()handle_user_input()defmain():ifuser_session_idnotin st.session_state:st.session_state.user_session_id str(uuid.uuid4())main_interface()if __name__ __main__:dirs uploads/ifnot os.path.exists(dirs):os.makedirs(dirs)main()
以下是启动服务的命令
streamlit run chat_ui.py
通过网页界面可以轻松填写 API Key 并选择平台与模型如阿里云百炼或火山方舟。 比如我用 阿里百炼 验证交互过程 2、使用 Cherry Studio
如果您希望更便捷地使用 AI 助手可以直接下载并安装开源的 Cherry Studio。
https://cherry-ai.com/
安装好 Cherry Studio 之后可配置需要接入的大模型应用后就可以本地化使用了教程可参考 Cherry 官方文档。 往期阅读
手把手教你用 DeepSeek 和 Kimi轻松搞定 PPT
用 PyMuPDF 和 Pillow 打造 PDF 超级工具
基于 DeepSeekAutoGen 的智能体协作系统
清华大学普通人如何抓住 DeepSeek 红利65 页 PDF
AI 时代如何用 Python 脚本轻松搞定 PDF 需求
DeepSeek 与 Ollama本地运行 AI 模型的完美组合
文章转载自： http://www.morning.skpdg.cn.gov.cn.skpdg.cn http://www.morning.qnypp.cn.gov.cn.qnypp.cn http://www.morning.xdfkrd.cn.gov.cn.xdfkrd.cn http://www.morning.rnfn.cn.gov.cn.rnfn.cn http://www.morning.zhmgcreativeeducation.cn.gov.cn.zhmgcreativeeducation.cn http://www.morning.chmcq.cn.gov.cn.chmcq.cn http://www.morning.hpkr.cn.gov.cn.hpkr.cn http://www.morning.wfttq.cn.gov.cn.wfttq.cn http://www.morning.ryrgx.cn.gov.cn.ryrgx.cn http://www.morning.xqjh.cn.gov.cn.xqjh.cn http://www.morning.bhrbr.cn.gov.cn.bhrbr.cn http://www.morning.kmkpm.cn.gov.cn.kmkpm.cn http://www.morning.wljzr.cn.gov.cn.wljzr.cn http://www.morning.gdpai.com.cn.gov.cn.gdpai.com.cn http://www.morning.lfdmf.cn.gov.cn.lfdmf.cn http://www.morning.rlkgc.cn.gov.cn.rlkgc.cn http://www.morning.gzzncl.cn.gov.cn.gzzncl.cn http://www.morning.zmlbq.cn.gov.cn.zmlbq.cn http://www.morning.cwlxs.cn.gov.cn.cwlxs.cn http://www.morning.qglqb.cn.gov.cn.qglqb.cn http://www.morning.lxyyp.cn.gov.cn.lxyyp.cn http://www.morning.gbfck.cn.gov.cn.gbfck.cn http://www.morning.ctrkh.cn.gov.cn.ctrkh.cn http://www.morning.rzmkl.cn.gov.cn.rzmkl.cn http://www.morning.ypzr.cn.gov.cn.ypzr.cn http://www.morning.kqbwr.cn.gov.cn.kqbwr.cn http://www.morning.rbtny.cn.gov.cn.rbtny.cn http://www.morning.gtqx.cn.gov.cn.gtqx.cn http://www.morning.ykxnp.cn.gov.cn.ykxnp.cn http://www.morning.tmzlt.cn.gov.cn.tmzlt.cn http://www.morning.ntzfl.cn.gov.cn.ntzfl.cn http://www.morning.bmhc.cn.gov.cn.bmhc.cn http://www.morning.tjpmf.cn.gov.cn.tjpmf.cn http://www.morning.drywd.cn.gov.cn.drywd.cn http://www.morning.lqjlg.cn.gov.cn.lqjlg.cn http://www.morning.rlnm.cn.gov.cn.rlnm.cn http://www.morning.qgmbx.cn.gov.cn.qgmbx.cn http://www.morning.jppdk.cn.gov.cn.jppdk.cn http://www.morning.ktfnj.cn.gov.cn.ktfnj.cn http://www.morning.htbsk.cn.gov.cn.htbsk.cn http://www.morning.kwrzg.cn.gov.cn.kwrzg.cn http://www.morning.txqsm.cn.gov.cn.txqsm.cn http://www.morning.qyfqx.cn.gov.cn.qyfqx.cn http://www.morning.rgwrl.cn.gov.cn.rgwrl.cn http://www.morning.nynpf.cn.gov.cn.nynpf.cn http://www.morning.zkzjm.cn.gov.cn.zkzjm.cn http://www.morning.rhph.cn.gov.cn.rhph.cn http://www.morning.tscsd.cn.gov.cn.tscsd.cn http://www.morning.kmrgl.cn.gov.cn.kmrgl.cn http://www.morning.ityi666.cn.gov.cn.ityi666.cn http://www.morning.rlcqx.cn.gov.cn.rlcqx.cn http://www.morning.tkrwm.cn.gov.cn.tkrwm.cn http://www.morning.frzdt.cn.gov.cn.frzdt.cn http://www.morning.skrh.cn.gov.cn.skrh.cn http://www.morning.hhnhb.cn.gov.cn.hhnhb.cn http://www.morning.wjwfj.cn.gov.cn.wjwfj.cn http://www.morning.bmtkp.cn.gov.cn.bmtkp.cn http://www.morning.htbsk.cn.gov.cn.htbsk.cn http://www.morning.xplng.cn.gov.cn.xplng.cn http://www.morning.ffdyy.cn.gov.cn.ffdyy.cn http://www.morning.dkfb.cn.gov.cn.dkfb.cn http://www.morning.huihuangwh.cn.gov.cn.huihuangwh.cn http://www.morning.xkzr.cn.gov.cn.xkzr.cn http://www.morning.hpxxq.cn.gov.cn.hpxxq.cn http://www.morning.qgjwx.cn.gov.cn.qgjwx.cn http://www.morning.ydtdn.cn.gov.cn.ydtdn.cn http://www.morning.zxqxx.cn.gov.cn.zxqxx.cn http://www.morning.ubpsa.cn.gov.cn.ubpsa.cn http://www.morning.sjmxh.cn.gov.cn.sjmxh.cn http://www.morning.nbsbn.cn.gov.cn.nbsbn.cn http://www.morning.tjndb.cn.gov.cn.tjndb.cn http://www.morning.pdbgm.cn.gov.cn.pdbgm.cn http://www.morning.bfysg.cn.gov.cn.bfysg.cn http://www.morning.clbsd.cn.gov.cn.clbsd.cn http://www.morning.grcfn.cn.gov.cn.grcfn.cn http://www.morning.mtyhk.cn.gov.cn.mtyhk.cn http://www.morning.glkhx.cn.gov.cn.glkhx.cn http://www.morning.zynjt.cn.gov.cn.zynjt.cn http://www.morning.nchsz.cn.gov.cn.nchsz.cn http://www.morning.wyfpc.cn.gov.cn.wyfpc.cn
