赵伟驰 / Weichi Zhao
我专注于推理引擎与业务流量之间的平台控制层:在国产异构加速卡环境中,用 Kubernetes 实现模型服务的统一声明和一键部署,并通过分布式推理 Runtime、KV-aware Router、容量 Planner、离线批量推理和统一网关接入支撑生产链路。
成果与荣誉
IEEE 会议论文
Prompt2Length: A Lightweight Model for Predicting Output Length in LLM Inference
第三作者;发表于 2025 5th International Conference on Artificial Intelligence, Automation and High Performance Computing(AIAHPC),论文页码 483-488。
团队荣誉
五四青年集体、全国工人先锋号与 Gordon Bell 相关团队荣誉
所在团队/中心相关成果包括中国青年五四奖章集体、全国工人先锋号,以及 HPC 领域 Gordon Bell Prize 团队荣誉。