- 领导机器学习基础设施团队，支撑小红书与 RedNote 核心搜索、广告与推荐系统，同时担任技术负责人与一线核心贡献者。
- 创立并领导 AI 基础设施团队（AIGC / LLM / VLM），架构并交付覆盖预训练、后训练与推理的生产级统一框架。
- 打造高性能优化的 LLM 推理服务框架——部署于小红书 AI 搜索、点点（Diandian）等生产级 Agent 场景，服务 3 亿月活用户。
- 领导团队推进 AIGC 推理优化，在 GPU、NPU、PPU、XPU 平台上追求极致（speed-of-light）性能。
学术论文 10 篇 · Google Scholar ↗
奖项荣誉 1
- 🏆 2025 小红书 Impact Challenge —— 业务突破奖（年度冠军）
媒体宣传 9 篇
开源与社区贡献 4
LLM 推理AIGCVLM
训推一体框架GPU · NPU · XPU
腾讯 · Tencent — 深度学习框架高级专家
2020.05 — 2025.08 · 5年4个月 · 深圳
- 创立开源 LLM 推理引擎 KsanaLLM（一念）并任主要贡献者（github.com/Tencent/KsanaLLM）——在 DeepSeek V3/R1 上吞吐较 SOTA 框架 SGLang、vLLM 提升 45%（2025-06-13 基准），已部署于 ima.copilot、QQ AI Agent 等产品。
- 研发腾讯混元（Hunyuan）大模型 AI 基础设施，覆盖 NVIDIA GPU、华为昇腾 NPU、燧原 / 紫霄 GCU。
- 联合创立 Venus 画图引擎——为腾讯智影及游戏美术资产（王者荣耀、和平精英）提供 VLM 与扩散模型（视频/图像生成）推理加速。
- 联合创立 PCG 异构机器学习平台无量（Numerous），支撑 QQ、腾讯视频、QQ 音乐的大规模推荐模型训练与推理——日查询量超 100 亿；GameLoop（gameloop.com）国际联邦学习框架主架构师。
- 贡献 NVIDIA HugeCTR——与 NVIDIA 团队合作打破 2020、2021 年 MLPerf 训练框架世界纪录（NVIDIA 开发者博客）；亦贡献 S-LoRA（PR #13）。
- 担任 PCG C++ 委员会委员（2021.11 – 2025.08）：腾讯工程师晋升评审委员；参与腾讯 AI/ML 技术蓝图规划；为公司级基础设施贡献代码。
- 获授权专利 CN118446316A。
学术论文 1
- Shen, W., Liu, Z., Tan, Y., Luo, Z. & Lei, Z. (2023). KubeGPU: efficient sharing and isolation mechanisms for GPU resource management in container cloud. The Journal of Supercomputing, 79(1), pp. 591–625.
奖项荣誉 6
- 🥇 2024 腾讯 PCG 上半年 CVP 技术创新奖
- 🥉 2024 腾讯技术突破奖 · 铜奖
- ⭐ 腾讯优秀员工（2020 / 2021 / 2022 / 2023，连续四年）
- ⭐ 腾讯杰出贡献者（2020 / 2022 / 2023）
- ⭐ 腾讯开源协同项目优秀贡献者（2021 / 2022 / 2023）
- ⭐ 2020 腾讯卓越研发奖 · 2020 腾讯开源协同奖
KsanaLLM混元HugeCTR
扩散模型推荐系统联邦学习
阿里巴巴 · Alibaba — 深度学习平台工程师
2018.10 — 2020.05 · 1年8个月 · 杭州
达摩院 · 自动驾驶实验室 · 自动驾驶物流车项目（小蛮驴）
- 优化自动驾驶模型训练管线——图优化、神经网络剪枝、深度压缩与量化、知识蒸馏，以及基于 AutoML-Keras 的硬件感知神经网络架构搜索（NAS）。
- 通过 TVM 算子调优与 NVIDIA GPU、华为 NPU 自定义算子开发加速推理；构建小蛮驴自动驾驶物流车 Autopilot 边缘推理引擎。
TVM模型压缩NAS边缘推理
NVIDIA — 深度学习软件工程师
2016.05 — 2018.10 · 2年6个月 · 上海
- 参与 TensorRT 部分特性开发（release 4.0+，RC 5.0+），在 DrivePX2、Jetson TX2/TX1 平台上用 Python/C++ 调优各类模型推理性能，包括权重量化与校准（INT8、INT4）。
- 在 DrivePX2 / Jetson TX2/TX1 平台上进行 cuDNN 性能调优（Python/C++）。
- 构建 GFE、GFN 与 COSMOS 自动化项目。
TensorRTcuDNNCUDAINT8 / INT4
饿了么 · Ele.me — 工程师实习生
2015.09 — 2016.03 · 上海
- 基于 Vespone 组合框架开发 Talaris 系统各类 API：Flask + Vespone + Thrift + Redis + MySQL。
Intel — 工程师实习生
2014.05 — 2015.08 · 1年4个月
- 面向 Intel Xeon Phi（至强融核）众核处理器开展自动化性能分析（Profiling）与性能调优（PVL 团队）。
- 基于 MCG 自动化测试框架，为 PVL 团队搭建专属分布式自动化测试系统——三层架构：Django（部署于 UWSGI + Nginx 与用户交互）+ Celery（跨主机任务调度）+ 测试框架，Redis 缓存与 MySQL 持久化。