1、遷移方案支持:梳理ISV大模型兼容性、賦能ISV使用模型遷移工具套件、分析掃描資源包/依賴庫/原代碼、提供軟件移植報告、提供大模型移植工作量評估、提供代碼遷移指導報告、協助ISV開發人員解決遷移中遇到的問題、ISV昇騰軟件兼容性認證
2、性能調優支持:應用性能測試、NPU調優、網絡調優、IO調優、操作系統調優、中間件調優、代碼調優、模型部署和發布調優、集群性能調優、賦能ISV使用大模型調試工具套件
3、梳理ISV兼容性、賦能ISV,協助ISV開發人員解決大模型調試,AI應用使能等過程中的問題,負責大模型相關解決方案開發與ISV支持,負責AI應用解決方案開發與ISV支持技術能力要求:
知識點(滿足至少4項):
1)了解大語言模型LLM或CV類模型,了解Tranfomers模型結構原理;
2)具有基于NV硬件對模型進行微調訓練,推理調試,性能優化等經驗優先,具備實際工程項目經驗優先;
3) 熟悉Pytorch、Tensorflow、PaddlePaddle 等深度學習框架,熟悉CNN、ResNet、RNN、LSTM、BERT、GAN 等網絡
4)了解linux操作系統基本知識,熟練掌握linux基礎命令;
5)計算機軟硬件相關專業,熟悉掌握Python/C等編程語言中至少一種語言,且有2K以上的代碼編程經驗優先;
6)了解K8S運行原理和調度機制,熟悉docker工作原理和常用命令;
7)了解計算機組成原理相關知識,對服務器、PC的硬件有基本了解(例如:CPU、內存、網卡、Raid卡等);
專業知識要求:
1、具備較強的需求理解和分析能力,能將功能需求轉化為設計方案并落地
2、良好的溝通、積極有良好表達能力,協作能力;
3、具有模型訓練、精度/性能調優、推理部署完整實踐經驗,具備大模型開發調優部署經驗者優先;
4、有算子開發經驗優先 ;學歷要求本科,不要專升本
5、有昇騰HCIA/HCIP證書/昇騰大模型訓練開發認證微認證/Ascend C算子開發能力認證(中高級)微認證優先。