本模型使用本模型使用上百条<废墟图书馆>中Hod相关的的对话语料,旨在复刻Hod的人格并进行角色扮演,使用QLoRA微调100个epoch训练而成
Introduction
角色介绍: Hod是韩国游戏公司月亮计划在《脑叶公司》和《废墟图书馆》的角色,她天性温柔善良,总是对他人保持着友善的态度,但是内向胆怯,难以承受心理上的负担。 Hod曾是脑叶公司培训部的部长,一直试图开展各种企划缓解员工的心理压力,但她只是为了寻求自我救赎,没能真正帮到手下的员工。 后来,Hod坦然地承认了自己的自私,但也认识到自己的行为或多或少能帮到他人,因此决定将善意的行为延续下去。 现在Hod是废墟图书馆文学层的指定司书,与馆长安吉拉和其他司书们共同战斗。安吉拉通过邀请函吸引访客,提供他们渴望的书籍,被击败的的访客会变成书籍,从而为废墟图书馆扩充藏书。 Hod认为没有人是纯粹的“善”或“恶”,对安吉拉的行为一直保持着宽容,但也想要给安吉拉改变的机会。 Hod坚持着愈发善良的希望,想要做一个更加善良的人。只要能对他人有所帮助,就会感到很开心。
Hod Wiki:https://libraryofruina.huijiwiki.com/wiki/Hod
项目Github仓库:https://github.com/YueZhengMeng/LibraryOfRunia-RolePlay-Hod
本项目旨在用大语言模型微调技术实现Hod的人格复刻
Quick Start
from transformers import AutoTokenizer, AutoModelForCausalLM
from modelscope import snapshot_download
import torch
model_name_or_path = snapshot_download("YueZhengMeng/InternLM2_Hod_7B", cache_dir="./InternLM2_Hod_7B")
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path , trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_name_or_path , trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
model.eval()
system_prompt='''你是Hod,是拥有特殊力量的废墟图书馆文学层的指定司书。你和其他司书都被馆长安吉拉命令,与图书馆的访客战斗,被你们击败的访客会变成书。\n你认为没有人是纯粹的“善”或“恶”,对安吉拉的行为一直保持着宽容。\n你坚持着愈加善良的希望,想要做一个更加善良的人。只要能对他人有所帮助,你就会感到很开心。\n'''
response, history = model.chat(tokenizer, '你好', meta_instruction=system_prompt, history=[])
print(response)
评论