赵伟驰 / Weichi Zhao

我专注于推理引擎与业务流量之间的平台控制层:在国产异构加速卡环境中,用 Kubernetes 实现模型服务的统一声明和一键部署,并通过分布式推理 Runtime、KV-aware Router、容量 Planner、离线批量推理和统一网关接入支撑生产链路。

Weichi Zhao

成果与荣誉

IEEE 会议论文

Prompt2Length: A Lightweight Model for Predicting Output Length in LLM Inference

第三作者;发表于 2025 5th International Conference on Artificial Intelligence, Automation and High Performance Computing(AIAHPC),论文页码 483-488。

授权发明专利

基于云服务的按需扩缩容的模型推理服务系统、方法

发明人,第二发明人;授权公告号 CN 121750691 B,2026 年授权。

授权发明专利

一种缓存数据的处理方法、深度学习训练方法和系统

发明人,第二发明人;授权公告号 CN 117215973 B,2024 年授权。

软件著作权

基于多云平台互联及工作流适配的任务控制系统软件 1.0

第一署名参与者,2023R11S0476343,已登记。

软件著作权

面向超算互联的分布式前端机服务系统 V1.0

第三署名参与者,2023SR0690941,已登记。

团队荣誉

五四青年集体、全国工人先锋号与 Gordon Bell 相关团队荣誉

所在团队/中心相关成果包括中国青年五四奖章集体、全国工人先锋号,以及 HPC 领域 Gordon Bell Prize 团队荣誉。