2026 - NOW
AI Infrastructure & LLM Inference Learning & Engineering Practice
Studying
持续学习 AI Infra、推理引擎与大模型推理,记录对系统架构、执行机制和性能优化的理解,并通过论文阅读、实验与工程实践,逐步沉淀自己的知识体系。
I’m a CS graduate student at USTC, interested in how intelligent systems work and how new ideas become systems that hold up in practice.
These days, I’m focused on LLM inference, AI infrastructure, and agent systems. I enjoy moving between papers, experiments, and engineering practice.
Away from the screen, I play basketball, practice guitar, and take photos. This site is where I keep track of what I’m learning, building, and changing my mind about.
2026 - NOW
Studying
持续学习 AI Infra、推理引擎与大模型推理,记录对系统架构、执行机制和性能优化的理解,并通过论文阅读、实验与工程实践,逐步沉淀自己的知识体系。
ONGOING
Deployment & Inference Optimization
将 Kimi K3 部署到 NVIDIA B300 平台,围绕吞吐、时延和显存利用率进行推理优化,并搭建安全、稳定的 Token 中转服务,为外部调用提供统一入口。
2026
Design & Development
一个轻量、快速且属于自己的个人站点,用于项目归档、技术笔记和个人成长记录。
将 Kimi K3 部署到 NVIDIA B300,围绕推理效率持续测量与优化,并通过 Token 中转服务提供稳定的外部调用入口。
一套覆盖文献调研、代码实验、质量检查和反思迭代的自动化科研 Multi-Agent 框架,以及持续优化的 SurveyAgent 文献调研谱系系统。
从 MatMul、Online Softmax、Paged Attention 和 Quest Sparse Attention,一直到 vLLM-Ascend 集成与端到端评测。
2026-08-30
2026-08-02
2026-07-30
2026-07-30
CONTACT
I’m always open to discussing research, engineering challenges, and potential collaborations.
EMAIL ME