端侧大模型部署岗转行求教

东东弗斯 2026-06-22 10:15 1

佬友们好,想向行业前辈请教转行端侧大模型部署岗的建议。


背景是985计算机本科+4年传统OS工作经历。目标是往AI部署方向转,就是大模型在端侧的部署优化。


了解下来,主要是基于各家芯片厂的SDK做适配优化工作,比如瑞芯微、地平线的工具链。


以下求教的具体问题:




  1. 本科进入这个行业有门槛吗,还是会卡硕士学位?




  2. 一些车厂的jd提到需要AI编译器和模型部署经验,从面试来说具体要到哪种程度,想准备一个对应的项目,求过来人指路。




  3. 除了部署,jd还说端侧LLM/VLM/VLA性能优化,具体需要掌握哪些技能?




有在自驾/机器人公司做端侧部署的佬友吗,求解答,感谢~

最新回复 (2)
  • nick_glod 06-22 14:11
    1

    端侧大模型,应该不卡,你有9的本问题不大,大模型训练卡的严,主要还是模型部署以及性能优化这些吧,我也蹲一手

  • Banned4k 06-23 03:44
    2

    蹲一手, 我也在往这个方向走, 如果有机会可以交流下佬们~

* 帖子来源Linux.do
返回