当前位置: 首页 > news >正文

网站建设公司发展前景专业的营销团队哪里找

网站建设公司发展前景,专业的营销团队哪里找,网站开发定制推广杭州,html旅游网站模板本文系统环境 Windows 10 Ollama 0.5.7 Ollama 是什么? Ollama 可以让你快速集成和部署本地 AI 模型。它支持各种不同的 AI 模型,并允许用户通过简单的 API 进行调用 Ollama 的安装 Ollama 官网 有其下载及安装方法,非常简便 但如果希…

本文系统环境

Windows 10

Ollama 0.5.7

Ollama 是什么?

Ollama 可以让你快速集成和部署本地 AI 模型。它支持各种不同的 AI 模型,并允许用户通过简单的 API 进行调用

Ollama 的安装

Ollama 官网 有其下载及安装方法,非常简便

但如果希望不占用系统盘大量空间,可以参考 Ollama Windows 文档 这样安装

1. 把 Ollama 安装到其它磁盘

命令行定位到 Ollama 安装包 OllamaSetup.exe 的目录下,运行如下命令,指定你希望的安装目录

OllamaSetup.exe /DIR="D:\Program Files\Ollama"

2. 更改 Ollama 的模型存放位置

Ollama 后续下载安装的模型默认存放在系统盘,会非常占用位置

设置 OLLAMA_MODELS 系统变量,指定希望的模型存放目录

设置完后,如果 Ollama 服务已在运行,要重启一下 Ollama 服务方能生效

从 ModelScope 下载模型并加载

Ollama 官方安装模型的方法很简单

例如:

ollama run qwen2.5

但下载速度一般非常慢

我们可以从 ModelScope 先下载模型,再通过 Ollama 加载模型

1. 下载 GGUF 格式模型

Ollama 能轻易加载 GGUF 格式的模型,检索 GGUF 模型进行下载

推荐用官方命令行方式下载,下载过程中有进度条,可指定下载目录

modelscope download --model 'Qwen/Qwen1.5-0.5B-Chat-GGUF' --local_dir 'D:\Models\Qwen1.5-0.5B-Chat-GGUF'

下载完成后,目录类似这样:

关于 gguf 文件,简单理解就是体积越大的回答准确率就越高

2. 加载 GGUF 模型

参考 Ollama 关于加载 GGUF 的说明 和 Qwen 官网关于 Ollama 加载 GGUF 模型 的文档

在上述下载 gguf 模型的目录中新建一个名为 Modelfile 的文件

Modelfile 文件内容如下

FROM ./qwen1_5-0_5b-chat-q5_0.gguf

在 gguf 模型的目录下运行 Ollama 加载 gguf 的命令

ollama create qwen1.5:0.5b -f Modelfile

至此,在上面 OLLAMA_MODELS 系统变量对应的目录下会生成 Ollama 的模型数据

Ollama 运行模型

由于 Ollama 已安装,因此 ollama 命令可用

ollama run qwen1.5:0.5b

http://www.tj-hxxt.cn/news/114825.html

相关文章:

  • 中国建行官方网站企业培训系统app
  • 视觉设计作品集莱阳seo外包
  • 微信公众号网站开发语言网站seo推广seo教程
  • 动态数据库网站百度旗下所有app列表
  • win2008做网站网络营销方法有几种类型
  • 中国建筑行业网站专业seo服务商
  • 工行网站跟建设网站区别营销网站建设方案
  • 宜昌做网站的百度加盟
  • 做产品目录设计用什么网站好个人seo外包
  • 政府网站做的不好去哪里投诉seo搜索引擎优化名词解释
  • 画册什么网站做方便线上培训机构排名前十
  • 南京做网站哪家公司最好网站做优化好还是推广好
  • ftps 网站怎么做线上职业技能培训平台
  • 网站开发有专利吗即刻搜索引擎入口
  • 杭州做网站比较好的公司seo优化关键词放多少合适
  • opencart做网站视频重庆seo网络推广
  • 沈阳建站培训app拉新推广怎么做
  • 暴雪seo扣费系统源码
  • b站起飞推广uc搜索引擎入口
  • 介绍自己做的网站长沙网站推广seo
  • 广州市红十字会医院网站建设项目网络营销专业毕业论文
  • 柳州网站建设建网站找哪个公司
  • 鄢陵网站建设电脑建站百度浏览器官网入口
  • 网上做相册网站搜索引擎优化百度
  • 上海人才网招聘网最新招聘东莞seo外包公司
  • 网站显示已备案seo外包软件
  • 关于网站建设知识交换链接营销的典型案例
  • 安阳七彩祥云网络公司南京seo网站优化推广
  • 公司注册网上核名网站如何注册域名网站
  • 废品回收在哪个网站做效果好微信广告怎么投放