職位描述
工作職責(zé)要求：
1）計算機、人工智能等相關(guān)專業(yè)，本科及以上學(xué)歷。 2）8年以上基礎(chǔ)設(shè)施、云原生、智算或算法平臺架構(gòu)設(shè)計或研發(fā)經(jīng)驗，熟悉云原生、智算平臺、大模型訓(xùn)練/推理等領(lǐng)域。 3）精通Kubernetes、GPU容器運行時、Device Plugin、Hived、Volcano等云原生技術(shù)，具備大規(guī)模計算集群的設(shè)計、部署或運維經(jīng)驗。熟悉CI/CD流程，熟悉MLOps模型訓(xùn)練及推理的部署流程。 4）有GPU/國產(chǎn)算力集群的構(gòu)建和優(yōu)化經(jīng)驗，能夠分析并解決分布式環(huán)境中的性能瓶頸，熟悉大規(guī)模訓(xùn)練和推理下的運維和排障，具備全鏈路可觀測性設(shè)計能力和故障定位能力。 5）熟悉大規(guī)模智算集群的網(wǎng)絡(luò)拓?fù)洹⑼ㄐ艆f(xié)議(RoCE)與通信模式（如RDMA、NVLink、InfiniBand等），熟悉AllReduce、All-to-All等集合通信進行性能測試及調(diào)優(yōu)。 6）有推理引擎設(shè)計或研發(fā)經(jīng)驗，熟悉vLLM、SGlang、TensorRT、Dynamo、MindIE等推理引擎，熟悉PD分離、大EP、AF分離、KVCache等推理加速技術(shù)。 7）出色的溝通能力，善于跨團隊協(xié)作，具有支持多團隊AI項目的經(jīng)驗。
任職資格：
1）負(fù)責(zé)智算平臺規(guī)劃與架構(gòu)設(shè)計，結(jié)合BU業(yè)務(wù)場景，制定技術(shù)路線，明確智算平臺、LLM訓(xùn)推及工具生態(tài)的核心功能與技術(shù)架構(gòu)。 2）優(yōu)化并提升模型訓(xùn)練(微調(diào)/強化學(xué)習(xí))、模型推理算力使用率；深入優(yōu)化平臺資源管理及調(diào)度能力，包括GPU/國產(chǎn)算力、內(nèi)存/顯存、RDMA網(wǎng)絡(luò)等，提升系統(tǒng)的可靠性、性能和擴展性。 3）LLM推理引擎優(yōu)化，通過PD分離、EP并行、算子調(diào)優(yōu)、網(wǎng)絡(luò)或存儲調(diào)優(yōu)等技術(shù)提高推理引擎性能降低Tokens單位成本。 4）LLM全鏈路性能監(jiān)控，建立性能指標(biāo)體系（吞吐量、時延、資源利用率），輸出調(diào)優(yōu)方案、標(biāo)準(zhǔn)與自動化診斷工具。 5）負(fù)責(zé)LLM基礎(chǔ)模型和配套推理引擎的引入、適配、優(yōu)化及性能基線評測，為業(yè)務(wù)提供最優(yōu)性價比的模型和推理引擎。
1）計算機、人工智能等相關(guān)專業(yè)，本科及以上學(xué)歷。 2）8年以上基礎(chǔ)設(shè)施、云原生、智算或算法平臺架構(gòu)設(shè)計或研發(fā)經(jīng)驗，熟悉云原生、智算平臺、大模型訓(xùn)練/推理等領(lǐng)域。 3）精通Kubernetes、GPU容器運行時、Device Plugin、Hived、Volcano等云原生技術(shù)，具備大規(guī)模計算集群的設(shè)計、部署或運維經(jīng)驗。熟悉CI/CD流程，熟悉MLOps模型訓(xùn)練及推理的部署流程。 4）有GPU/國產(chǎn)算力集群的構(gòu)建和優(yōu)化經(jīng)驗，能夠分析并解決分布式環(huán)境中的性能瓶頸，熟悉大規(guī)模訓(xùn)練和推理下的運維和排障，具備全鏈路可觀測性設(shè)計能力和故障定位能力。 5）熟悉大規(guī)模智算集群的網(wǎng)絡(luò)拓?fù)洹⑼ㄐ艆f(xié)議(RoCE)與通信模式（如RDMA、NVLink、InfiniBand等），熟悉AllReduce、All-to-All等集合通信進行性能測試及調(diào)優(yōu)。 6）有推理引擎設(shè)計或研發(fā)經(jīng)驗，熟悉vLLM、SGlang、TensorRT、Dynamo、MindIE等推理引擎，熟悉PD分離、大EP、AF分離、KVCache等推理加速技術(shù)。 7）出色的溝通能力，善于跨團隊協(xié)作，具有支持多團隊AI項目的經(jīng)驗。
任職資格：
1）負(fù)責(zé)智算平臺規(guī)劃與架構(gòu)設(shè)計，結(jié)合BU業(yè)務(wù)場景，制定技術(shù)路線，明確智算平臺、LLM訓(xùn)推及工具生態(tài)的核心功能與技術(shù)架構(gòu)。 2）優(yōu)化并提升模型訓(xùn)練(微調(diào)/強化學(xué)習(xí))、模型推理算力使用率；深入優(yōu)化平臺資源管理及調(diào)度能力，包括GPU/國產(chǎn)算力、內(nèi)存/顯存、RDMA網(wǎng)絡(luò)等，提升系統(tǒng)的可靠性、性能和擴展性。 3）LLM推理引擎優(yōu)化，通過PD分離、EP并行、算子調(diào)優(yōu)、網(wǎng)絡(luò)或存儲調(diào)優(yōu)等技術(shù)提高推理引擎性能降低Tokens單位成本。 4）LLM全鏈路性能監(jiān)控，建立性能指標(biāo)體系（吞吐量、時延、資源利用率），輸出調(diào)優(yōu)方案、標(biāo)準(zhǔn)與自動化診斷工具。 5）負(fù)責(zé)LLM基礎(chǔ)模型和配套推理引擎的引入、適配、優(yōu)化及性能基線評測，為業(yè)務(wù)提供最優(yōu)性價比的模型和推理引擎。
工作地點
深圳市南山科技園嘉聯(lián)支付大廈
認(rèn)證資質(zhì)
營業(yè)執(zhí)照信息
相似職位
- 高級深度學(xué)習(xí)算法工程師2.5-4萬
深圳 - 福田
深圳鯤云信息科技有限公司 - 模型訓(xùn)練工程師1.5-3萬
深圳 - 福田
深圳市深鵬達電網(wǎng)科技有限公司 - AI實習(xí)生150-250元/天
深圳 - 坪山
深圳普瑞金生物藥業(yè)股份有限公司 深圳 - 龍崗
鄭州聯(lián)創(chuàng)優(yōu)聘信息科技有限公司- AI開發(fā)實習(xí)生5000-10000元
深圳 - 南山
深圳市前海進化論信息技術(shù)有限公司 - 多模態(tài)交互大模型研究員3.5-6萬
深圳 - 南山
靈機交互（深圳）科技有限公司
熱門公司推薦
- 霸王茶姬招聘
- 肯德基招聘
- 順豐招聘
- 美團招聘
- 京東招聘
- 餓了么招聘
- 比亞迪招聘
- 中國一汽招聘
- 北京汽車招聘
- 蔚來招聘
- 東風(fēng)汽車招聘
- 長城汽車招聘
- 奇瑞汽車招聘
- 理想汽車招聘
- 長鑫存儲招聘
- 天江藥業(yè)招聘
- 藍月亮招聘
- 安踏招聘
- TCL招聘
- 海信招聘
- 聯(lián)想招聘
- ?？低曊衅?/a>
- 寧德時代招聘
- 中興招聘
- 新松招聘
- 京東方招聘
- 申通招聘
- 圓通招聘
- 中通招聘
- 百世物流招聘
- 德邦物流招聘
- 麥當(dāng)勞招聘
- 星巴克招聘
- 海底撈招聘
- 蜜雪冰城招聘
- 瑞幸招聘
- 雀巢招聘
- 騰訊招聘
- 百度招聘
- 快手招聘
- 字節(jié)跳動招聘
- 新華網(wǎng)招聘
- 小米招聘
- 招商銀行招聘
- 中信銀行招聘
- 北京銀行招聘
- 興業(yè)銀行招聘
- 交通銀行招聘
- 建發(fā)集團招聘
- 中國移動招聘
- 中國聯(lián)通招聘
- 中國電信招聘
- 中糧集團招聘
- 國藥控股招聘
- 中廣核招聘
- 中國船舶招聘
- 強生中國招聘
- 匯豐中國招聘
- 宜家招聘
- 立邦中國招聘
- 伊利招聘
- 青島啤酒招聘
- 京港地鐵招聘
- 寶馬招聘
- 小鵬汽車招聘
- 華為招聘
- 特斯拉招聘
- 吉利招聘
- 奔馳招聘
- 海爾招聘
- 美的招聘
- 京東方招聘
- 施耐德電氣招聘
- 德邦物流招聘
職位發(fā)布者
張怡婷/HRBP
三日內(nèi)活躍
平安科技平安科技是平安集團旗下科技解決方案專家，致力于運用人工智能、云計算等前沿科技賦能金融服務(wù)、醫(yī)療健康、汽車服務(wù)、房產(chǎn)服務(wù)、智慧城市五大生態(tài)圈。平安科技以智慧科技為手段、以“科技無限”為價值主張，積極踐行“科技改變生活”的企業(yè)理念，立志成為國際領(lǐng)先的“AI+云”公司。作為平安集團高科技內(nèi)核，科技解決方案已經(jīng)應(yīng)用在超550個場景中，并積極孵化智慧業(yè)務(wù)，助力建成生態(tài)閉環(huán)；作為IT后臺綜合管理平臺，開發(fā)和運營平安關(guān)鍵平臺和服務(wù)，支持平安保險、銀行、投資、互聯(lián)網(wǎng)等業(yè)務(wù)高效協(xié)同發(fā)展；平安科技也是云平臺的積極構(gòu)建者，平安云作為平安服務(wù)的綜合輸出平臺，為全行業(yè)提供 IaaS、PaaS、SaaS全棧式云服務(wù)，打造的生態(tài)圈已經(jīng)服務(wù)過5億用戶，并拓展至海外市場。As a technology solution expert of Ping An Group, Ping An Technology is committed to leveraging AI, cloud and other cutting-edge technologies to enable five ecosystems of finance, healthcare, automobile, real estate and smart city. With“technology unlimited” as its value, Ping An Technology endeavors to practice the corporate philosophy of“Technology Changes Life”, and strives to become a global leading“AI+Cloud” company. As the high-tech core of Ping An Group, Ping An Technology has applied its technology solutions to more than 550 scenarios, incubated smart businesses and developed recurring ecosystems. As an integrated back-end IT management platform, Ping An Technology develops and operates key platforms and services of Ping An Group, and supports the efficient cooperation of Ping An’s insurance, banking, investment, Internet and other businesses. Ping An Technology is also an active cloud platform builder. As a comprehensive output platform for Ping An services, Ping An Cloud provides industry with a full range of cloud services from IaaS, PaaS to SaaS. Our ecosystems have served more than 500 million users and reached overseas markets.
公司主頁