关于节约化建设网站的表态发言,菜单设计制作网站,最近新闻大事,网页设计图片水平居中代码简介项目叫 BigScience,模型叫 BLOOM,BLOOM 的英文全名代表着大科学、大型、开放科学、开源的多语言语言模型。拥有 1760 亿个参数的模型.BLOOM 是去年由 1000 多名志愿研究人员,学者 在一个名为“大科学 BigScience”的项目中创建的.BLOOM 和今天其他可用大型语言模型存在的一…简介项目叫 BigScience,模型叫 BLOOM,BLOOM 的英文全名代表着大科学、大型、开放科学、开源的多语言语言模型。拥有 1760 亿个参数的模型.BLOOM 是去年由 1000 多名志愿研究人员,学者 在一个名为“大科学 BigScience”的项目中创建的.BLOOM 和今天其他可用大型语言模型存在的一个主要区别该模型可以理解多达 46 种人类语言包括法语、越南语、普通话、印度尼西亚语、加泰罗尼亚语、13 种印度语言如印地语和 20 种非洲语言。超过 30% 的训练数据是英文的。该模型还可以理解 13 种编程语言。下载部署步奏新建一个Anaconda conda 环境,然后安装 pytorch 1.3版本下载模型模型下载:https://huggingface.co/bigscience打开以后 Models 模块就可以看到 它不同参数级别的模型 ,B代表英文简写亿 1B1,就代表模型的参数是1亿1千万.1B3好像丢失了下不了.这里选择单击 bloom-1b1 模型,然后在单击 Files and versions ,下载所有文件,新建文件夹取名1b1,放里面.加载本地模型,只要写上本地模型所在的目录#分词tokenizer AutoTokenizer.from_pretrained(./1b1/)#模型model AutoModelForCausalLM.from_pretrained(./1b1/)3.运行代码,代码放到1b1父级目录cmd调用模型代码 from transformers import AutoTokenizer, AutoModelForCausalLM
from transformers import pipeline
import torch#从https://huggingface.co/bigscience/bloom-1b1/tree/main
#下载所有文件,放到新创建的文件夹1b1
checkpoint ./1b1/
tokenizer AutoTokenizer.from_pretrained(checkpoint)#分词
model AutoModelForCausalLM.from_pretrained(checkpoint)#模型
#设置为gpu推理更快
device torch.device(cuda)
model.to(device)
#device0表示使用第一个可用的GPU
generator pipeline(tasktext-generation, modelmodel, tokenizertokenizer, device0)out generator(你是谁?, max_length30)
print(out[0][generated_text]) #输出 你是谁?我:她说因为1B1只是一个文本生成模型,你给一个短语,它接着生成.没有问答功能.而且中文生成效果也不好.GUI调用代码from transformers import AutoTokenizer, AutoModelForCausalLM
from transformers import pipeline
import tkinter as tk
import torchcheckpoint ./1b1/
#分词
tokenizer AutoTokenizer.from_pretrained(checkpoint)
#模型
model AutoModelForCausalLM.from_pretrained(checkpoint)
#设置为gpu推理更快
device torch.device(cuda)
model.to(device)
#device0表示使用第一个可用的GPU
generator pipeline(tasktext-generation, modelmodel, tokenizertokenizer, device0)def clean_string(s, substr): #substr问题,s回答s s.replace(substr, )lst s.split(,)result_lst list(set(lst))result_lst.sort()result ,.join(result_lst) ,return result# 创建主窗口
root tk.Tk()
root.title(Bloom:1亿3千万参数版)
root.geometry(800x600{}{}.format(root.winfo_screenwidth() // 2 - 400, root.winfo_screenheight() // 2 - 350))# 创建输入框和滚动条
input_frame tk.Frame(root)
input_label tk.Label(input_frame, text用户)input_text tk.Text(input_frame, height10, width87,padx6, pady6)
input_scrollbar tk.Scrollbar(input_frame)input_text.config(yscrollcommandinput_scrollbar.set)
input_scrollbar.config(commandinput_text.yview)
input_label.pack(sideleft)
input_text.pack(sideleft,pady10)
input_scrollbar.pack(sideright, filly)
input_frame.pack()# 创建按钮
button_frame tk.Frame(root)def show_text():#清空 Tkinter Text 组件中的文本output_text.delete(1.0, end)input_str input_text.get(1.0, end-1c)# 去掉最后一个换行符if input_str.endswith(\n):input_str input_str[:-1]out generator(input_str, max_length30)print(out[0])anwer out[0][generated_text] #clean_string(out[0][generated_text]) output_text.insert(end,anwer)button tk.Button(button_frame, text回答, commandshow_text,width6, height3)
button.pack(pady10)
button_frame.pack()# 创建输出框和滚动条
output_frame tk.Frame(root)
output_label tk.Label(output_frame, textbloom:)
output_text tk.Text(output_frame, height26, width87,padx6, pady6)
output_scrollbar tk.Scrollbar(output_frame)
output_text.config(yscrollcommandoutput_scrollbar.set)
output_scrollbar.config(commandoutput_text.yview)
output_label.pack(sideleft,pady10)
output_text.pack(sideleft,pady10)
output_scrollbar.pack(sideright, filly)
output_frame.pack()def copy():global texttext.event_generate(Copy)def cut():global texttext.event_generate(Cut)def paste():global texttext.event_generate(Paste)# 创建右键菜单
menu tk.Menu(root, tearoff0)
menu.add_command(label复制, commandcopy)
menu.add_command(label剪切, commandcut)
menu.add_command(label粘贴, commandpaste)# 创建右键菜单2
menu2 tk.Menu(root, tearoff0)
menu2.add_command(label复制, commandcopy)# 绑定鼠标右键第一个文本框
def show_menu1(event):global texttext input_textmenu.post(event.x_root, event.y_root)input_text.bind(Button-3, show_menu1)# 绑定鼠标右键第二个文本框
def show_menu2(event):global texttext output_textmenu2.post(event.x_root, event.y_root)output_text.bind(Button-3, show_menu2)# 创建按钮
button_frame tk.Frame(root)
button tk.Button(button_frame, text回答, commandshow_text,width6, height3)
# 响应回车键 绑定 Return 事件
root.bind(Return, lambda event: show_text())root.lift()
# 运行主循环
root.mainloop()
生成300字效果中英翻译 效果 不堪 ,诱导式问答
