CSS

本项目采用“云端总控+边缘推理”的双轨架构,实现无人值守的算力售卖闭环,包含五大核心模块:1.边缘大模型推理引擎:基于WSL2+Docker深度定制,高效承载vLLM框架与量化大模型,对外暴露完全兼容OpenAI规范的流式API接口。2.双通道智能穿透网络:采用Tailscale(P2P直连为主)+
900Python边缘计算
当前共1个项目more
×
寻找源码
源码描述
联系方式
提交