AI Infra高级研究员

We are Lenovo. We do what we say. We own what we do. We WOW our customers.
Lenovo is a US$83 billion revenue global technology powerhouse, ranked #153 in the Fortune Global 500, and serving millions of customers every day in 180 markets. Focused on a bold vision to deliver Smarter Technology for All, Lenovo has built on its success as the world’s largest PC company with a full-stack portfolio of AI-enabled, AI-ready, and AI-optimized devices (PCs, workstations, smartphones, tablets), infrastructure (server, storage, edge, high performance computing and software defined infrastructure), software, solutions, and services. Lenovo’s continued investment in world-changing innovation is building a more equitable, trustworthy, and smarter future for everyone, everywhere. Lenovo is listed on the Hong Kong stock exchange under Lenovo Group Limited (HKSE: 992) (ADR: LNVGY).
This transformation together with Lenovo’s world-changing innovation is building a more inclusive, trustworthy, and smarter future for everyone, everywhere. To find out more visit www.lenovo.com (https://www.lenovo.com), and read about the latest news via our StoryHub (https://news.lenovo.com/).
职位名称：AI Infra软件高级研究员 主要工作：推理负载动态感知的弹性伸缩与混合attention架构下的并行策略优化
岗位职责 1.主导混合Attention架构（MHA/GQA/MLA等）下的大模型推理并行策略优化：结合线上请求长度分布、KV显存布局与跨机互联带宽，动态适配并行切分方案，针对性化解不同Attention变体带来的显存墙与通信热点，持续抬升单卡与集群整体推理吞吐； 2.负责大模型推理服务的弹性伸缩与算力资源治理：结合线上流量潮汐、请求排队水位与上下文缓存占用情况，设计能感知推理实时负载的自动扩缩容机制，优化推理实例冷启动与GPU资源池化调度，在保障SLA的同时压缩闲置算力开销，平稳承接突发流量与长尾请求洪峰； 3.抽象AI Agent原生工作负载特征，针对性优化底层运行引擎，做好会话状态复用、子任务异步编排和多模型动态降级兜底，缩短Agent端到端响应耗时，减少无效计算和Token消耗； 4.持续追踪vLLM/SGLang/Dynamo/FlashInfer等社区前沿推理框架，主导内部推理引擎迭代，推动关键优化在生产环境落地，并同步沉淀技术专利或学术论文。
能力要求 1.计算机/分布式系统/AI相关硕士及以上学历（博士优先），具备5年以上分布式AI系统或高性能计算一线研发经验； 2.具备扎实的研究素养，能搭建从线上指标采集到效果验证的闭环观测链路，从监控里的反常数据中提炼出边界清晰、可通过A/B实验验证的技术命题； 3.深入理解主流大模型多卡并行范式（Tensor/Pipeline/Expert/Sequence Parallel），有在真实业务中调优并行拓扑、解决跨机通信瓶颈和显存不足问题的落地经验； 4.熟悉现代推理服务核心机制（连续批处理、KV Cache管理、Prefill-Decode分离等），拥有大规模训练或高QPS线上推理集群的完整交付经历，真实处理过资源争抢、长尾慢请求、突发流量打满等生产级故障； 5.深度理解长上下文与Agent多轮会话下的KV Cache生命周期和显存压力模型，熟悉前缀缓存复用（prefix caching）、KV驱逐/显存卸载（Offload）、分离部署间的KV流转机制，能联动调度层协同设计缓存复用与回收策略，系统性缓解集群显存碎片与尾延迟毛刺； 6.具备扎实的Python/C++工程能力，熟悉Kubernetes、Docker等容器部署环境，能独立推进技术方案从设计、开发到灰度上线的完整链路。
优先考虑 1.有Prefill-Decode分离部署、KV显存卸载（KV Offloading）、Serverless GPU弹性调度、细粒度Checkpoint热加载相关落地经验； 2.对AI Agent底层运行有实际体感：熟悉LangGraph/AutoGen/Pi等至少一种Agent框架，或自研过Agent Loop/Tool-Call调度层，能清晰讲清上层Agent行为是如何传导成底层推理资源负载特征的； 3.在MLSys/OSDI/SOSP/ASPLOS等系统领域顶会发表过论文，或是vLLM/SGLang开源社区活跃Contributor； 4.了解GPU显存层级与机间互联拓扑，能和系统底层团队用同一套技术语言高效对齐和排查问题。