学 AI Infra 就业机会会不会宽一些呢？

lchpt 2026-04-01 12:36 1

小登比较喜欢研究 MLSys 和 AI Infra 相关的内容，如果 AI 将来的十到二十年能继续发展，会不会就业机会宽敞一些呢 ^-^

最新回复 (19)

RWDai 04-02 00:10

1楼

AI Infra

AI Infra做些什么呢，部署模型的效率吞吐优化吗？主要要学习什么？
lchpt 楼主 04-02 00:56

2楼

应该包含分布式训练排布，模型推理吞吐优化，集群运维这些吧，学习方向似乎是传统 HPC 延伸结合各类 AI 加速器的具体场景知识
Linhao_Li 04-30 22:29

3楼

Ai infra岗位是不是很卡学历呀，最近投了很多要么被拒，要么没响应
Garics 04-30 22:30

4楼

AI infra一般要学些什么呢？我很感兴趣！
咕咕嘎嘎咕咕 04-30 22:32

5楼

什么学历？这是门槛如果双211+的话可以考虑但是岗位需求少要求极高

（朋友在腾讯搞infra）
慕凡尘 06-09 10:06

6楼

分布式训练排布，模型推理吞吐优化，集群运维这些吧，学习方向似乎是传统 HPC 延伸结合各类 AI 加速器的具体场景知识

ai infra 本质上就是一套庞大的技术体系，架构思想本质上和传统架构没有什么区别，个人理解从四个层次去理解：1、iaas 层负责提供 GPU/NPU 芯片、高速网络、存储等硬件资源，并把它们池化、虚拟化 2、paas层建立在算力底座之上，为开发者提供一站式的 AI 开发环境、数据处理工具、模型训练框架等，降低技术门槛 3、maas 模型及服务层，这一层汇聚了各种现成的大模型和智能体能力，开发者可以直接调用或微调 4、saas层最终的应用交付
LYH_njmu 06-09 10:13

7楼

拿如果想应聘，这四层都得精通才行吗，应届生（CV，大模型了解一些）不知道怎么准备
慕凡尘 06-09 10:14

8楼

对于现在的技术市场来说，个人感觉，目前还是贴近大模型应用开发，可能受众会比较好一些
xio 06-09 10:17

9楼

又苦又累，钱还少，和算法一样强度，薪资还没有一半，而且吃学历，没有华五本或者一两个顶会基本入不了场
LYH_njmu 06-09 10:20

10楼

infra的钱我怎么听说比算法还多呢？
xio 06-09 10:24

11楼

怎么可能，我之前就在seed做训练infra实习一天也就800，而且你说的算法应该是常规的算法吧，不是模型的算法研究员，正常的模型算法top2实习一天开个1200都很正常，而且infra超级无聊
Garics 06-09 10:27

12楼

好详细！我是网络安全出身，想做网络有关的AI infra。最近有在关注阿里云在NSDI的成果，不知道能不能做高速网络的有关研究
xio 06-09 10:29

13楼

现在的infra说白了就是之前的云原生加上模型，没什么含金量，只是模型要求提高了门槛
慕凡尘 06-09 10:36

14楼

本质上和传统的云原生架构没有什么区别
吊车尾 06-09 10:45

15楼

AI Infra也需要顶会嘛我还以为本质上让模型推理更快是一个工程问题,这个是需要发论文吗,佬?
xio 06-09 10:49

16楼

我说的是头部的团队，我只了解seed和qwen，如果是想要正职的话要不就是实习表现很好，要不就是学历很好，如果都没有的话就需要顶会或者其他非常强的经验了，顶会不一定都是解决理论问题的，也有很多是解决工程问题的
GreatMOLA 06-09 10:50

17楼

一大堆人都是这么想的，觉得 AI 时代，掌控 AI 的来路才是出路。

这就导致现在 Infra 人才密度极高，不是一般的卷。
Wkstr 06-09 10:51

18楼

需要学历，学历过关不如卷算法或更偏底层
jcc 06-09 10:52

19楼

单独的工作岗位不多，因为技术门槛不高，很多都是研发或者运维随便学学就上了

这个好像叫前沿部署工程师？

其实，AI的销售和售前更有前途。。。但是对能力要求更高