国产精品又长又粗又爽又黄的毛片, 国产AV无码专区亚洲AV毛片搜, 丰满人妻被猛烈进入中文字幕四川, 国产精品一区二区三区国产女人喷,亚洲国产欧美日韩图片在线人,潘娇娇337p人艺体艺术,成人免费无码大片a毛片古装,一本到高清视频免费,人妻在线视频免费看

更新于 6月16日

大模型推理加速框架研發(fā)工程師

2.3-4.5萬(wàn)
  • 成都武侯區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招1人

職位描述

VLLMPyTorch
匯報(bào)對(duì)象:AI基礎(chǔ)設(shè)施部技術(shù)總監(jiān)
一、核心職責(zé)
推理框架開(kāi)發(fā)——
1.參與基于FlashMLA的多頭注意力解碼器開(kāi)發(fā),優(yōu)化變長(zhǎng)序列處理效率
2.集成DeepGEMM FP8計(jì)算庫(kù),實(shí)現(xiàn)混合精度推理流水線搭建
性能調(diào)優(yōu)實(shí)施——
1.分析Triton Inference Server日志,定位顯存溢出及計(jì)算瓶頸問(wèn)題
2.開(kāi)發(fā)動(dòng)態(tài)批處理系統(tǒng)
本地化部署支持——
1.適配昇騰等國(guó)產(chǎn)芯片
2.構(gòu)建本地化模型倉(cāng)庫(kù),通過(guò)3FS等方案實(shí)現(xiàn)模型加載速度提升
二、任職要求
1.基礎(chǔ)條件
1)學(xué)歷:計(jì)算機(jī)/電子工程本科及以上(優(yōu)秀專科可放寬)
2)經(jīng)驗(yàn):3年開(kāi)發(fā)經(jīng)驗(yàn),至少參與過(guò)1個(gè)完整項(xiàng)目落地
2.技術(shù)棧
1)熟練使用Python/C++開(kāi)發(fā)工具鏈
2)掌握PyTorch模型導(dǎo)出與ONNX/TensorRT轉(zhuǎn)換流程
3)熟悉CUDA基礎(chǔ)編程,能調(diào)試簡(jiǎn)單GPU內(nèi)核代碼
3.優(yōu)先條件
1)有vLLM/FasterTransformer框架二次開(kāi)發(fā)經(jīng)驗(yàn)
2)接觸過(guò)MoE模型分布式推理架構(gòu)

工作地點(diǎn)

成都武侯區(qū)天府軟件園D區(qū)創(chuàng)業(yè)場(chǎng)A42

職位發(fā)布者

徐女士/招聘經(jīng)理

立即溝通
公司Logo飛享數(shù)據(jù)
【關(guān)于飛享】杭州飛享數(shù)據(jù)技術(shù)有限公司(以下簡(jiǎn)稱“飛享”)成立于2014年,是一家聚焦于“互聯(lián)網(wǎng)邊緣計(jì)算”和“超本地內(nèi)容交付”領(lǐng)域的創(chuàng)新型科技企業(yè),是杭州市高新區(qū)“5050計(jì)劃”重點(diǎn)企業(yè)、“雛鷹計(jì)劃”重點(diǎn)企業(yè)、高新技術(shù)企業(yè)。核心團(tuán)隊(duì)來(lái)自于銳捷、華為、阿郎等國(guó)內(nèi)外知名IT企業(yè)的高管。飛享在一年內(nèi)完成了兩輪融資,最近一次融資由迅雷網(wǎng)絡(luò)(XNET)領(lǐng)投數(shù)千萬(wàn)元,成為該領(lǐng)域國(guó)內(nèi)增速最快的企業(yè)之一。飛享的互聯(lián)網(wǎng)邊緣計(jì)算和超本地內(nèi)容交付解決方案,能夠大幅提升長(zhǎng)尾運(yùn)營(yíng)商的用戶互聯(lián)網(wǎng)體驗(yàn)、并幫助運(yùn)營(yíng)商降低網(wǎng)絡(luò)運(yùn)營(yíng)成本多至50%;與此同時(shí),飛享也與芒果TV、愛(ài)奇藝等互聯(lián)網(wǎng)內(nèi)容方緊密合作,幫助互聯(lián)網(wǎng)內(nèi)容方提升用戶體驗(yàn)、降低內(nèi)容分發(fā)成本。成立兩年多來(lái),飛享已經(jīng)成功服務(wù)于教育、運(yùn)營(yíng)商等200多家大型政企客戶;在中國(guó)最頂尖的985/211高校,飛享的覆蓋率超過(guò)60%,穩(wěn)居第一?!娟P(guān)于即將加入的你】我們希望你能夠真正理解并且做到——1、不計(jì)較的付出。來(lái)創(chuàng)業(yè)公司,都是奔著高速成長(zhǎng)和財(cái)務(wù)回報(bào)去的。成長(zhǎng)這件事,想提速就得加油,不計(jì)較付出。付出永遠(yuǎn)是和回報(bào)成正比的。2、對(duì)結(jié)果負(fù)責(zé)。我們都在同一條船上,大家背靠背作戰(zhàn)靠的就只能是默契。對(duì)結(jié)果負(fù)責(zé)的人,會(huì)得到團(tuán)隊(duì)的信任。3、承擔(dān)大粒度的工作。在這里你不是一顆螺絲釘,沒(méi)有大公司的成熟規(guī)范和職責(zé)說(shuō)明,你能做的是承擔(dān)一塊業(yè)務(wù),把它搞定,并努力成為這個(gè)業(yè)務(wù)的負(fù)責(zé)人。我們?yōu)槟闾峁匠甏觯盒袠I(yè)內(nèi)有競(jìng)爭(zhēng)力的薪資,每年2次加薪機(jī)會(huì),每年1次期權(quán)分配機(jī)會(huì),目前飛享半數(shù)員工持有期權(quán),只有你敢想、敢干,能干,你就能和公司分享成長(zhǎng)的紅利。社會(huì)保險(xiǎn):五險(xiǎn)一金,必備項(xiàng)目,沒(méi)什么好說(shuō)的;員工福利:節(jié)日福利、免費(fèi)下午茶、年度體檢、生日會(huì)、技術(shù)沙龍等;個(gè)人假期:帶薪年休假、婚假、產(chǎn)假、陪產(chǎn)假等國(guó)家法定假期,每月帶薪事病假8小時(shí),春節(jié)放假10-15天;職業(yè)成長(zhǎng):?jiǎn)T工入職每人配一名資深輔導(dǎo)員,各種豐富務(wù)實(shí)的培訓(xùn);辦公環(huán)境:DELL的24寸XPS大屏,機(jī)械鍵盤敲代碼都是可以的;員工活動(dòng):團(tuán)隊(duì)outing、公司年會(huì)、每月小活動(dòng),每季大活動(dòng)等等。飛享坐標(biāo):浙江省杭州市濱江區(qū)火炬大道581號(hào),三維通信B座1007室簡(jiǎn)歷通道:hr@fxdata.cn飛享期待你的加入!
公司主頁(yè)