任職要求:
"1、熟悉大模型常見結構與基礎知識
2、熟悉Huggingface Transformer/Megatron/vLLM等大模型訓推框架,有過模型適配經驗
3、有獨立的分析問題和解決問題的能力
4、有過芯片適配經驗者優先
工作職責:
"1、及時響應客戶的請求,現場或遠程協助客戶進行故障排除,確保及時響應,協助研發解決客戶使用產品中的阻塞性問題。
2、部署或適配過常見的大模型或小模型,對齊精度并調優好訓練和推理框架的策略
3、根據業務要求,產出各場景benchmark的精度和性能數據
4、定位到適配的算子精度和性能問題,供業務團隊做算子優化
5、沉淀和開發模型適配和測試過程中的效率工具及相關技術文檔"
崗位關鍵詞:大/小模型泛化適配、芯片適配、模型性能/精度分析、模型準出