成人免费午夜在线观看,伊人久久精品,一区二区三区精品

時間來到2023年，學(xué)長負(fù)責(zé)的MindSpore NLP套件正處在項目初期的高速開發(fā)演進(jìn)過程中，需要大量社區(qū)開發(fā)者投入其中。曾子瑄忙于學(xué)校大創(chuàng)項目結(jié)題和準(zhǔn)備推免材料沒有參加，但他在校內(nèi)組織的MindSpore開源實習(xí)宣傳吸引大量開發(fā)者加入。

隨著研究生推免的結(jié)束，曾子瑄可支配的靈活時間明顯比以前更多了，這時候恰好學(xué)長正在推廣昇思開源社區(qū)中“關(guān)于在MindSpore NLP套件中遷移模型、單卡微調(diào)模型和多卡微調(diào)模型”的任務(wù)，并且完成任務(wù)還能獲得報酬和獎勵，于是曾子瑄很快便接下了這個任務(wù)。

在這個過程中，曾子瑄作為MindSpore NLP SIG的核心成員，先后完成四個大模型的遷移工作，包括一個Falcon大模型微調(diào)案例開發(fā)。在富有挑戰(zhàn)性的算子開發(fā)領(lǐng)域，他申請了開源實習(xí)，完成了GPU后端的Flash Attention算子在MindSpore NLP的接入與調(diào)優(yōu)，實現(xiàn)了兩倍以上的推理速度提升。在當(dāng)時，MindSpore NLP套件幾乎不支持任何量化方法，而在比開源實習(xí)更高階的開源之夏項目中，曾子瑄完成了基于MindSpore的BitsAndBytes量化庫實現(xiàn)，降低了模型推理對顯存的需求，提升了計算性能，增強了模型部署在端側(cè)的可行性。

這其中既有他自身的努力，也離不開昇思開源社區(qū)的助力。

“在開發(fā)中，MindSpore提供的函數(shù)式和對象式融合編程范式，使構(gòu)建神經(jīng)網(wǎng)絡(luò)和訓(xùn)練流程變得簡單，提供的API映射文檔也比較全面，大大降低了模型遷移的工作量。在自定義算子方面，MindSpore提供了Custom接口用于接入不同后端的算子，Custom接口會找到動態(tài)鏈接庫中相應(yīng)的函數(shù)，只要按照接口規(guī)范定義算子，就能夠?qū)崿F(xiàn)高效的運行時算子加載與運算?！痹蝇u對開發(fā)過程中MindSpore的技術(shù)優(yōu)勢印象頗深。

昇思將圍繞開發(fā)者真實訴求，持續(xù)升級框架架構(gòu)，使能AI模型未來創(chuàng)新

除了框架本身的技術(shù)特性外，加入開源社區(qū)還有一個明顯的好處，就是當(dāng)遇到難題時，有諸多技術(shù)大?？梢砸黄鹩懻摻鉀Q問題，曾子瑄對此也深有體會。

“在開源之夏的項目開發(fā)過程中，因為需要遷移的BitsAndBytes庫本身軟件耦合程度高，關(guān)于算子接入的問題剛開始一直沒找到合適的解決方案，后來摸清楚了項目本身的構(gòu)建和執(zhí)行邏輯，再跟MindSpore布道師和負(fù)責(zé)MindSpore自定義算子接口的工程師一起討論，得出了基本解決方案，隨后順利地完成了程序中由上至下一條核心執(zhí)行線路的移植，奠定了項目完成的基礎(chǔ)?！彼f道。

不難發(fā)現(xiàn)，正是在社區(qū)提供的諸多昇思MindSpore技術(shù)公開課、開源實習(xí)和活動比賽中，以曾子瑄為代表的年輕開發(fā)者獲得了學(xué)習(xí)、實踐和以練促學(xué)的機會，逐步成為AI領(lǐng)域中的新星。截至目前，昇思開源社區(qū)已提供30多個系列的AI主題課程，開展過600多場線上和線下的專題學(xué)習(xí)活動，并且已發(fā)布1100+開源實習(xí)任務(wù)，以及300+模型和算子任務(wù)，還舉辦過30多場大賽。

與昇思共成長，攜手托起中國AI的未來

回想起在昇思開源社區(qū)中成長的點點滴滴，曾子瑄坦言自己收獲頗多。