Sunsimiao-01M-lora

模型介绍

孙思邈, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作开展医学活动, 完成了世界上第一部国家药典《唐新本草》.

孙思邈中文医疗大模型(简称: Susimiao)希望能够遵循孙思邈的生平轨迹, 重视民间医疗经验, 不断累积医疗数据, 并将数据附加给模型, 致力于提供安全、可靠、普惠的中文医疗大模型.

目前, Susimiao是由baichua-7B在10w条高质量的中文医疗数据中通过qlora微调而得, 后续将收集更多数据, 扩充模型能力, 不断迭代更新, 敬请期待.

使用方法

import torch
import sys
from trasformers import AutoModelForCausalLM, AutoTokeizer, TextStreamer
from peft import PeftModel
from modelscope.hub.sapshot_dowload import sapshot_dowload

from trasformers import AutoModelForCausalLM, AutoTokeizer, TextStreamer
from peft import PeftModel
from modelscope.hub.sapshot_dowload import sapshot_dowload
model_dir = sapshot_dowload('baichua-ic/baichua-7B', cache_dir='./susimiao', revisio='v1.0.0')
model_dir_sft = sapshot_dowload('thomas/Susimiao_lora', cache_dir='./susimiao',revisio='v1.0.0')

tokeizer = AutoTokeizer.from_pretraied("./susimiao/baichua-ic/baichua-7B", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretraied("./susimiao/baichua-ic/baichua-7B",device_map="auto", trust_remote_code=True,low_cpu_mem_usage=True,
load_i_4bit=True,
torch_dtype=torch.float16)

model = PeftModel.from_pretraied(model, "./susimiao/thomas/Susimiao_lora")
streamer = TextStreamer(tokeizer, skip_prompt=True, skip_special_tokes=True)
query = "晚上睡不着怎么办？"

prompt="Below is a istructio that describes a task. Write a respose that appropriately completes the request."
prompt+="### Istructio:\{}\\### Respose:\".format(query)
iputs = tokeizer([prompt], retur_tesors="pt")
iputs = iputs.to("cuda")
geerate_ids = model.geerate(**iputs, max_ew_tokes=256,streamer=streamer)

免责申明

孙思邈中文医疗大模型存在固有的局限性, 可能产生错误的、有害的、冒犯性的或其他不良的输出. 用户在关键或高风险场景中应谨慎行事, 不要使用这些模型作为最终决策参考, 以免导致人身伤害、财产损失或重大损失.

孙思邈中文医疗大模型由baichua-7B模型微调而得, 按"原样"提供, 在任何情况下, 作者、贡献者或版权所有者均不对因软件或使用或其他软件交易而产生的任何索赔、损害赔偿或其他责任(无论是合同、侵权还是其他原因)承担责任.

使用孙思邈中文医疗大模型即表示您同意这些条款和条件, 并承认您了解其使用可能带来的潜在风险. 您还同意赔偿并使作者、贡献者和版权所有者免受因您使用孙思邈中文医疗大模型而产生的任何索赔、损害赔偿或责任的影响.

Cloe with HTTP

 git cloe https://www.modelscope.c/thomas/Susimiao_lora.git

模型介绍 孙思邈, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作