APP聊一聊
我精通于LLM推理引擎在CPU上的优化,能从0开始手撕LLM整个推理引擎,能使大模型在低端设备上平稳运行。
2024-10-06 -至今保密大模型研发
负责整个大模型模块的推理开发,算子开发,算子优化,LLM应用层开发,如RAG,Agent等。
2021-09-17 - 2025-10-06湖南农业大学信息与计算科学本科
离线引擎能落地到非常多的行业和方向上,其中最直接、最具代表性的就是**AI伴侣**。借助高效离线推理,AI伴侣可以在本地设备上实现自然对话、情感交流与长期陪伴,而无需依赖网络连接或担心隐私泄露。它可以被嵌入到*、智能音箱、可穿戴设备甚至车载系统中,提供随时在线的交流体验。同时,离线运行还让AI伴侣
点云算法工程师
1450元/天
某上市企业
技能:C++,Unity3D,Torch
图像算法工程师
1000元/天
前去哪儿网
技能:Torch,C++,Python
项目经理
300元/天
知本昕科
技能:Python,MySQL,Torch
产品合伙人
贵州国诚伟业众传媒有限公司
技能:Python,Redis
您好 👋
我们能提供什么帮助?
向我们发送消息
常见问题、使用帮助、人工咨询等
使用微信扫一扫