个人介绍
软硬件结合的技术人,偏硬件,擅长「别人测不出来、需要定位根因」的排错。日常跟国产 GPU(昇腾 / 寒武纪生态)的算子测试、性能与精度问题排查打交道,懂 CUDA 底层(访存、bank conflict、warp 等),也自研过脑启发的大模型架构(互补注意力 + 记忆机制,767M 参数从零训练)。
我能帮你:
算子 / 硬件性能、精度问题定位(GEMM 分层排查、NCCL 通信异常等);测试计划、测试用例、测试报告代写;CUDA / 脚本相关的技术支持。我的特点:软硬件两头都懂,能独立定位问题根因——不是只会跑测试用例,而是能告诉你「问题出在哪、为什么、怎么修」。
工作经历
2026-08-01 -2026-10-01自研架构设计
灵元子(Lingyuanzi)—— 脑启发的字节级语言模型 自研的脑启发式语言模型架构(767M 参数、6 层),探索「记忆」在 Transformer 里该如何表达。 核心原创:互补注意力(Complementary Attention) 把注意力映射到 Q-K-V 框架,但让三个角色跨三种时间尺度: Q = g(持久方向状态,跨 batch 记忆) K = Rh(瞬时偏转,当前输入) V = contents(冻结的先验内容表) 「持久的方向去查瞬时的偏转,取出冻结的先验内容」——这是标准注意力(每步失忆)没有的记忆结构,也是跟线性注意力(只谈复杂度)的本质区别。 其他创新: 睡眠巩固:情节(g)白天滚动、语义(contents)睡眠固化; 双轴容量 MoE:FFN 侧 Gm 路由 + 注意力侧 G_nav 路由; 分组注意力(token + 软分段多粒度)。 工程实践: 20GB 字节级数据从零训练; 独立排查并解决深层问题:梯度消失、状态持久化、训练发散(NaN)、read 均匀死循环等; 自建诊断体系(read 熵、g 余弦、正交度等实时指标),全程跟踪模型行为。
2024-05-01 -至今武汉佰钧成GPU测试开发工程师
GPU基础性能测试训练推理性能,GPU测试脚本开发,测试算子开发,GPU软硬件故障诊断
教育经历
2016-09-01 - 2021-10-07郑州大学机械制造及其自动化本科



