GPU软硬排错GPU算子排错
50分钟前在线
全职 · 800/日  ·  17400/月
工作时间: 工作日19:30-22:00、周末09:00-21:00工作地点: 远程
服务企业: 0家累计提交: 0工时
聊一聊

APP聊一聊

个人介绍

软硬件结合的技术人,偏硬件,擅长「别人测不出来、需要定位根因」的排错。日常跟国产 GPU(昇腾 / 寒武纪生态)的算子测试、性能与精度问题排查打交道,懂 CUDA 底层(访存、bank conflict、warp 等),也自研过脑启发的大模型架构(互补注意力 + 记忆机制,767M 参数从零训练)。

我能帮你:

算子 / 硬件性能、精度问题定位(GEMM 分层排查、NCCL 通信异常等);测试计划、测试用例、测试报告代写;CUDA / 脚本相关的技术支持。

我的特点:软硬件两头都懂,能独立定位问题根因——不是只会跑测试用例,而是能告诉你「问题出在哪、为什么、怎么修」。

工作经历

  • 2026-08-01 -2026-10-01自研架构设计

    灵元子(Lingyuanzi)—— 脑启发的字节级语言模型 自研的脑启发式语言模型架构(767M 参数、6 层),探索「记忆」在 Transformer 里该如何表达。 核心原创:互补注意力(Complementary Attention) 把注意力映射到 Q-K-V 框架,但让三个角色跨三种时间尺度: Q = g(持久方向状态,跨 batch 记忆) K = Rh(瞬时偏转,当前输入) V = contents(冻结的先验内容表) 「持久的方向去查瞬时的偏转,取出冻结的先验内容」——这是标准注意力(每步失忆)没有的记忆结构,也是跟线性注意力(只谈复杂度)的本质区别。 其他创新: 睡眠巩固:情节(g)白天滚动、语义(contents)睡眠固化; 双轴容量 MoE:FFN 侧 Gm 路由 + 注意力侧 G_nav 路由; 分组注意力(token + 软分段多粒度)。 工程实践: 20GB 字节级数据从零训练; 独立排查并解决深层问题:梯度消失、状态持久化、训练发散(NaN)、read 均匀死循环等; 自建诊断体系(read 熵、g 余弦、正交度等实时指标),全程跟踪模型行为。

  • 2024-05-01 -至今武汉佰钧成GPU测试开发工程师

    GPU基础性能测试训练推理性能,GPU测试脚本开发,测试算子开发,GPU软硬件故障诊断

教育经历

  • 2016-09-01 - 2021-10-07郑州大学机械制造及其自动化本科

语言

中文母语水平
0
1
2
3
4
5

技能

Python熟练
Torch熟练
0
1
2
3
4
5
0
1
2
3
4
5
作品
灵元子训练框架

灵元子(Lingyuanzi)——脑启发的字节级语言模型自研的脑启发式语言模型架构(767M参数、6层),探索「记忆」在Transformer里该如何表达。核心原创:互补注意力(ComplementaryAttention)把注意力映射到Q-K-V框架,但让三个角色跨三种时间尺度:Q=g(持久方向状

0
2026-10-27 21:38
更新于: 1小时前 浏览: 4