大模型開(kāi)發(fā)工程師-實(shí)習(xí)
適用專業(yè)
計(jì)算機(jī)
適用年級(jí)
高年級(jí)
截止時(shí)間
2023-06-30
工作地區(qū)
北京
公司介紹
小米
互聯(lián)網(wǎng)大廠
世界500強(qiáng)
https://www.mi.com/
崗位職責(zé)
協(xié)助負(fù)責(zé)大模型的部署和監(jiān)控,包括實(shí)現(xiàn)高效推理和減少資源消耗,保證服務(wù)的穩(wěn)定性,對(duì)接各種應(yīng)用落地 。
崗位要求
1、熟悉常用的深度學(xué)習(xí)框架tensorflow、pytorch等;
2、熟悉tensorRT、Triton等主流模型服務(wù)框架;
3、有分布式環(huán)境中部署和管理模型的經(jīng)驗(yàn);
4、有模型推理加速、提升服務(wù)吞吐量的相關(guān)經(jīng)驗(yàn)。
投遞方式