崗位內(nèi)容描述
1、在自研芯片上適配常見的大模型,對齊精度并調(diào)優(yōu)好訓練和推理框架的策略2、根據(jù)業(yè)務(wù)要求,產(chǎn)出各場景benchmark的精度和性能數(shù)據(jù)
3、定位到適配的算子精度和性能問題供業(yè)務(wù)團隊做算子優(yōu)化
4、沉淀和開發(fā)模型適配和測試過程中的效率工具
能力要求描述
1、熟悉大模型常見結(jié)構(gòu)與基礎(chǔ)知識
2、熟悉Huggingface Transformer/Megatron/vLLM等大模型訓推框架,有過模型適配經(jīng)驗
3、有獨立的分析問題和解決問題的能力
4、有過芯片適配經(jīng)驗者優(yōu)先