工作職責(zé):
1、負(fù)責(zé)智能硬件產(chǎn)品的嵌入式軟件架構(gòu)設(shè)計、核心模塊開發(fā)、調(diào)試、性能優(yōu)化與維護(hù)。
2、負(fù)責(zé)嵌入式系統(tǒng)(基于主流MCU/SOC平臺)與傳感器、通信模塊(如Wi-Fi, BlueTooth)等各種外圍硬件接口的驅(qū)動開發(fā)、集成與調(diào)試。
3、設(shè)計和實現(xiàn)基于linux的嵌入式應(yīng)用程序。
4、負(fù)責(zé)將優(yōu)化后的大模型(包括但不限于開源LLM)部署到現(xiàn)有嵌入式/邊緣硬件平臺(如高性能SoC集成NPU/GPU),開發(fā)端側(cè)推理引擎和應(yīng)用。
5、探索和實現(xiàn)大模型端側(cè)推理的性能優(yōu)化技術(shù)(如模型量化、剪枝、編譯優(yōu)化),確保模型在資源受限環(huán)境下的高效、穩(wěn)定運行。
6、開發(fā)必要的工具鏈、中間件或SDK,支持大模型在智能硬件產(chǎn)品中的應(yīng)用(如語音交互、圖像理解、智能決策等)。
7、熟悉并評估主流大模型推理框架(如vLLM, TensorRT, ONNX Runtime等),并根據(jù)項目需求選擇和集成。
8、密切關(guān)注端側(cè)AI推理、大模型壓縮與加速技術(shù)的前沿發(fā)展。
任職要求 (Mandatory Requirements):
1、計算機(jī)科學(xué)、電子工程、軟件工程、自動化或相關(guān)專業(yè)本科及以上學(xué)歷。
2、5年以上 扎實的嵌入式軟件開發(fā)經(jīng)驗。有智能硬件產(chǎn)品從0到1開發(fā)及量產(chǎn)經(jīng)驗者優(yōu)先。
3、學(xué)習(xí)能力強,對新技術(shù)(尤其是AI、大模型、芯片軟件棧)有強烈的求知欲和探索精神。
4、深入理解計算機(jī)體系結(jié)構(gòu)以及嵌入式系統(tǒng)原理,熟悉常用MCU/SOC平臺(瑞芯微,全志系列芯片)。
5、熟練使用Linux開發(fā)環(huán)境,精通Git版本控制,熟練使用Make/CMake等構(gòu)建工具。
6、熟悉常用外設(shè)接口協(xié)議(如UART, SPI, I2C, USB, ADC, DAC,PWM)及驅(qū)動開發(fā)。
7、熟練掌握主流深度學(xué)習(xí)框架(PyTorch 必備,TensorFlow熟悉)。
8、深入理解大模型(LLM)的核心工作原理、訓(xùn)練和推理流程。
9、具備大模型端側(cè)部署和優(yōu)化實踐經(jīng)驗(如模型量化、推理引擎集成)者優(yōu)先。
10、有使用vLLM、TensorRT-LLM、llama.cpp或其他高效LLM推理框架經(jīng)驗者優(yōu)先;有Android/IOS APP開發(fā)經(jīng)驗優(yōu)先.