在大学我的专业是控制工程，我有一定的软硬件开发能力，比如基于python-flask框架和vue3+springboot前后端分离的网页全栈开发。我在CSDN上发表了我的一些作品总浏览量1.2w。当然我还会一些硬件开发，我在实验室制作了一个语音对话机器人基于ESP32S3开发板，通过API调用的方式获取云端大模型的回复包括实现语音识别和语音合成。我还计划将这个语音聊天助手部署到边缘计算设备上，让语音对话机器人的语义理解、语音识别和语音合成都不在依赖云端的API，而是直接在本地运行这样就避免了网络和隐私泄露的问题。此前我在实验室将一个轻量级的大语言模型Qwen2-0.5B部署到jetson nano上并且用过Llama顺利编译运行起来，但这个效果并不好因为jetson nano的算力只有可怜的0.5tops，而且jetson nano的系统版本、cuda10.2都很老了，我在部署过程中遇到了很多困难主要是由于版本过老导致的，所以我将整个流程发布在了github上希望能为和我有相同想法的人能减少一些麻烦，我的软件作品也同样上传了GitHub如果你感兴趣可以在GitHub上找到我：yan-gd