工作職責(zé)
負(fù)責(zé)深度學(xué)習(xí)模型的工程化落地，包括模型轉(zhuǎn)換、量化、推理優(yōu)化及部署。
使用ONNX、TensorRT等工具對(duì)模型進(jìn)行優(yōu)化，提升推理性能并降低資源消耗。
針對(duì)點(diǎn)云、Mesh等3D數(shù)據(jù)，設(shè)計(jì)和實(shí)現(xiàn)高效的預(yù)處理、后處理算法。
開(kāi)發(fā)和維護(hù)高性能的C++推理引擎，確保其在GPU上的穩(wěn)定運(yùn)行。
與算法團(tuán)隊(duì)協(xié)作，理解模型需求并提供工程化支持，確保模型從訓(xùn)練到部署的無(wú)縫銜接。
持續(xù)優(yōu)化現(xiàn)有系統(tǒng)，解決性能瓶頸，提升系統(tǒng)的可擴(kuò)展性和魯棒性。
編寫(xiě)高質(zhì)量的技術(shù)文檔，分享最佳實(shí)踐，推動(dòng)團(tuán)隊(duì)技術(shù)能力的提升。
任職要求
必備技能：
5年以上C++開(kāi)發(fā)經(jīng)驗(yàn)，熟悉現(xiàn)代C++特性（C++11/14/17）。
熟悉深度學(xué)習(xí)模型推理優(yōu)化技術(shù)，如ONNX、TensorRT、OpenVINO等。
了解模型推理加速的研究和技術(shù)進(jìn)展，包括但不限于模型量化、剪枝、TensorRT優(yōu)化、Flash Attention 推理優(yōu)化等；
熟悉深度學(xué)習(xí)框架（如PyTorch、TensorFlow），了解模型訓(xùn)練與推理的基本流程。
熟悉 TensorFlow/PyTorch 模型的訓(xùn)練和部署，了解混合精度訓(xùn)練、分布式訓(xùn)練等訓(xùn)練加速方法優(yōu)先。
對(duì)點(diǎn)云（Point Cloud）、Mesh等3D數(shù)據(jù)處理算法有實(shí)際項(xiàng)目經(jīng)驗(yàn)。
熟悉多線程編程、內(nèi)存優(yōu)化及高性能計(jì)算技術(shù)。
具備良好的代碼風(fēng)格和工程化能力，熟悉CI/CD流程及版本控制工具（如Git）。
加分項(xiàng)：
熟悉CUDA編程，能夠編寫(xiě)高性能的GPU加速代碼。
了解計(jì)算機(jī)圖形學(xué)（Computer Graphics）相關(guān)算法，如渲染、幾何處理等。
有實(shí)際項(xiàng)目中使用PCL（Point Cloud Library）、Open3D等點(diǎn)云處理庫(kù)的經(jīng)驗(yàn)。
對(duì)AI模型量化、剪枝、蒸餾等壓縮技術(shù)有深入理解和實(shí)踐。