中文母语水平
英语可口语交流
0
1
2
3
4
5
36分钟前在线
AI Gateway / 大模型基础设施
厦门全职 · 1200/日 · 26100/月信用正常
工作时间: 工作日19:00-22:00、周末09:00-18:00工作地点:
远程
服务企业:
0家累计提交:
0工时
个人介绍
9 年研发与基础设施经验，技术路线覆盖 CDN/网络 → 分布式平台 → AI Gateway → 大模型基础设施。主力语言 Go，熟悉 Python、Rust，先后就职于国内云计算厂商的基础设施与 AI 云服务团队（公司名称保密）。
- AI Gateway：现负责大模型网关研发，涵盖 OpenAI 兼容 API 接入、模型路由、供应商路由、流量治理（限流/重试/故障转移/SLA/计量）与可观测性；所在系统生产环境峰值 Token 流量超过 1 亿/天。
- AI Agent 平台：主导企业级 AI Agent 平台研发，支持 RAG 知识库（pgVector）、Function Calling、MCP Server 注册托管、Bot as API，获公司级 AI 应用大赛金奖。
- 大模型部署：独立完成边缘大模型一体机平台（单机 4 GPU，集成 vLLM、SGLang），获公司级 AI 编程大赛金奖。
- 分布式与云原生：多年 CDN/边缘计算平台经验，做过全网任务调度、边缘节点部署管理、监控 Agent 等大规模节点系统；熟悉 Kubernetes、KubeEdge、Docker 与生产稳定性体系（Prometheus/Grafana/pprof）。
工作经历
2025-01-01 -至今某 AI 云服务团队AI Gateway / 大模型基础设施研发
负责大模型 API 网关核心能力建设与生产稳定性：核心架构与数据面设计、多供应商协议适配、路由与流量治理、高并发低延迟优化、基于日志/Metrics/pprof 的线上定位体系、K8s/Docker 部署与灰度运维。
2017-07-01 -2024-12-31某云计算厂商 CDN 事业部平台研发 / 边缘基础设施
早期负责 CDN 节点、缓存集群与边缘网络运维研发（Python/Shell 自动化），后转向 Go 平台研发：全网任务调度平台、边缘节点部署管理平台、节点监控 Agent；生产环境高并发、网络异常、节点故障与服务降级处理。
教育经历
2013-09-01 - 2017-07-01集美大学电子信息工程本科
2013 年至 2017 年就读于集美大学电子信息工程专业，接受系统的工科本科教育。专业背景偏向通信、信号与系统、计算机与网络基础，这条知识主线与毕业后长期从事的 CDN/网络基础设施、分布式平台及 AI 基础设施研发一脉相承：从早期的边缘网络与节点系统，到如今的大模型网关与推理
语言
作品
自研常驻远程终端工具：Rust编写Agent端，通过WebSocket长连接与服务端通信，支持远程终端会话；systemd托管、开机自启、异常自动重启；配套一键安装脚本完成部署、配置与服务注册；独立完成从设计到运维的全链路。
02026-11-06 15:55
面向企业边缘侧与本地部署的大模型一体机平台：单机4GPU平台统一管理模型、推理服务与AI应用；集成vLLM、SGLang推理框架；统一模型API与应用市场；监控覆盖GPU、显存、模型服务与请求状态；一个月内独立完成方案设计与研发并交付，获公司级AI编程大赛金奖。
02026-11-06 15:53
支持通过Prompt、模型、知识库和Tools配置创建可复用的AIAgent；基于pgVector的RAG知识库实现检索增强；FunctionCalling与MCP集成，支持MCPServer注册、托管与Tool管理；Prompt集中管理；BotasAPI对外提供统一调用入口；统一封装Agent执行
02026-11-06 15:51
