12月3日,2021阿里靈杰AI工程化峰會圓滿落幕。阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺事業(yè)部負(fù)責(zé)人、達(dá)摩院 AI 平臺負(fù)責(zé)人賈揚(yáng)清,達(dá)摩院語音實(shí)驗(yàn)室負(fù)責(zé)人鄢志杰,阿里云智能研究員、機(jī)器學(xué)習(xí)PAI平臺和大數(shù)據(jù)平臺技術(shù)負(fù)責(zé)人林偉等11位技術(shù)牛人亮相本次峰會,與開發(fā)者共同探討AI落地產(chǎn)業(yè)的路徑探索與創(chuàng)新實(shí)踐。

賈揚(yáng)清:從需求視角出發(fā),擁抱云原生的AI時(shí)代

阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺負(fù)責(zé)人、達(dá)摩院 AI 平臺負(fù)責(zé)人賈揚(yáng)清以一名AI老兵的身份,分享了經(jīng)歷多次浪潮后的觀察。他把早期的AI開發(fā)人員比作“拓荒者”,身兼算法研究員、軟件工程師、數(shù)據(jù)工程師、系統(tǒng)工程師多種角色,嘗試把AI算法和應(yīng)用逐漸落地。

(圖:阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺負(fù)責(zé)人、達(dá)摩院 AI 平臺負(fù)責(zé)人賈揚(yáng)清分享“一個(gè)AI開發(fā)者的奇幻漂流”)

隨著技術(shù)發(fā)展,組件數(shù)量和模型算法的復(fù)雜度都在增加。時(shí)至今日,需要搭建一個(gè)統(tǒng)一的空間來拉通數(shù)據(jù)管理、算法迭代、模型訓(xùn)練及上線各環(huán)節(jié)。賈揚(yáng)清總結(jié)道,“AI的痛苦在于本質(zhì)上沒有范式。AI不是一個(gè)單點(diǎn)的產(chǎn)品,而是一系列能力的組合;另一方面,AI對標(biāo)準(zhǔn)的軟件和定制化服務(wù)協(xié)同的需求極強(qiáng)?！?/p>

因此,“AI開發(fā)者需要的,不是從資源視角搭建起來的平臺;而是從需求出發(fā),通過云原生、容器化方式鏈接資源的平臺”,這正是打造阿里靈杰的初衷。今年10月剛剛發(fā)布的阿里靈杰,通過一體化的大數(shù)據(jù)與AI產(chǎn)品體系,向用戶提供10萬臺以上計(jì)算集群的彈性算力、上百種標(biāo)準(zhǔn)化算法和模型服務(wù)、以及覆蓋數(shù)據(jù)處理和機(jī)器學(xué)習(xí)全鏈路的管理能力。

簡言之,阿里靈杰的核心價(jià)值在于,幫助今天的AI開發(fā)者更好地將數(shù)據(jù)、算法和場景結(jié)合起來,構(gòu)建更完整更復(fù)雜的解決方案,去解決產(chǎn)業(yè)中的實(shí)際問題。

阿里靈杰AI工程平臺:全鏈路提升效率

阿里云機(jī)器學(xué)習(xí)平臺PAI和大數(shù)據(jù)平臺技術(shù)負(fù)責(zé)人林偉認(rèn)為,數(shù)據(jù)、計(jì)算力、和算法有機(jī)結(jié)合才能推動AI爆發(fā),阿里靈杰也基于三要素形成了獨(dú)特的思考和實(shí)踐。

第一,數(shù)據(jù)質(zhì)量決定模型的高度。因此,阿里靈杰從誕生第一天起就采用大數(shù)據(jù)與AI一體化的架構(gòu),通過湖倉一體實(shí)現(xiàn)對多元異構(gòu)數(shù)據(jù)的存儲管理,通過DataWorks和智能標(biāo)注產(chǎn)品實(shí)現(xiàn)數(shù)據(jù)質(zhì)量提升和監(jiān)控,通過MaxCompute、Hologres、Flink等計(jì)算引擎完成實(shí)時(shí)或離線分析處理;

第二,算法開發(fā)迭代速度是重要生產(chǎn)力。云原生的靈杰平臺能提供彈性的計(jì)算力,并具備良好的異構(gòu)硬件和端設(shè)備適配性,能提升模型開發(fā)和部署效率。面向大模型,靈杰機(jī)器學(xué)習(xí)平臺的Whale框架可自動實(shí)現(xiàn)分布式訓(xùn)練,FineTune框架可基于預(yù)訓(xùn)練大模型蒸餾出垂直場景的小模型,提升大模型生產(chǎn)速度和應(yīng)用價(jià)值;

第三,AI系統(tǒng)能力是核心能力。阿里巴巴集團(tuán)內(nèi)部AI應(yīng)用需求極大,推動著靈杰機(jī)器學(xué)習(xí)平臺PAI的核心引擎不斷發(fā)展優(yōu)化,覆蓋超大規(guī)模稀疏模型訓(xùn)練及服務(wù)、超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型、自動編譯、大規(guī)模集群調(diào)度、ML Ops等方向。

(圖:阿里云機(jī)器學(xué)習(xí)平臺PAI和大數(shù)據(jù)平臺技術(shù)負(fù)責(zé)人林偉分享AI工程化技術(shù)趨勢)

聚焦阿里靈杰的平臺產(chǎn)品能力,阿里云機(jī)器學(xué)習(xí)平臺PAI產(chǎn)品負(fù)責(zé)人黃博遠(yuǎn)帶來了一系列新功能發(fā)布。黃博遠(yuǎn)介紹,PAI提供從數(shù)據(jù)準(zhǔn)備、模型開發(fā)、到模型部署、訓(xùn)練的全流程平臺能力,此次產(chǎn)品升級主要是3個(gè)方面:

1、 AI開發(fā)全鏈路體驗(yàn)提升,發(fā)布AI工作空間實(shí)現(xiàn)精細(xì)化的團(tuán)隊(duì)開發(fā)協(xié)作和AI資產(chǎn)管理。

2、 PAI集成開源autoML框架NNI。PAI-DSW以jupyter插件形式集成NNI,讓自動機(jī)器學(xué)習(xí)能力變得唾手可得;PAI-DLC分布式集群可進(jìn)行NNI HPO分布式訓(xùn)練,提升使用效果。此外,PAI-NNI加入了剪枝、稀疏化、量化等方向的提升,讓autoML的能力更易達(dá)到企業(yè)級應(yīng)用標(biāo)準(zhǔn)。

3、 基于PAI,可實(shí)現(xiàn)超大規(guī)模模型的構(gòu)建、垂直場景小模型蒸餾、以及AI應(yīng)用部署,讓AI更普惠。

從標(biāo)準(zhǔn)化AI服務(wù)到電商增長,阿里靈杰的產(chǎn)業(yè)化實(shí)踐

基于強(qiáng)大的基礎(chǔ)設(shè)施和工程能力,阿里靈杰在阿里內(nèi)外都積累了成功案例。達(dá)摩院語音實(shí)驗(yàn)室負(fù)責(zé)人鄢志杰認(rèn)為,AI行業(yè)已經(jīng)進(jìn)入發(fā)展的“下半場”,AI+產(chǎn)業(yè)”將是兌現(xiàn)AI價(jià)值的重要途徑,AI應(yīng)用將形成專業(yè)分工更精細(xì)的產(chǎn)業(yè)鏈生態(tài),“所有人將可使用AI,而AI也將予力所有人”。包含語音、視覺、NLP等能力在內(nèi)的阿里靈杰AI開放服務(wù)正是基于這一愿景誕生,并具備開箱即用、自主定制、成本經(jīng)濟(jì)的特點(diǎn)。

在電商領(lǐng)域,數(shù)據(jù)驅(qū)動下的智能無處不在。阿里巴巴技術(shù)專家郭瑞杰表示,在電商場景中,用戶除了獲取信息,還存在比對、決策、售后等多個(gè)環(huán)節(jié),鏈路更長,并且算法效果也業(yè)務(wù)價(jià)值直接相關(guān)?；诙嗄攴e累的電商智能增長工程平臺,已經(jīng)上云并產(chǎn)品化,并在電商、零售、內(nèi)容社區(qū)、音視頻領(lǐng)域幫助企業(yè)客戶實(shí)現(xiàn)用戶和收入顯著增長。

阿里云天池首屆“英特爾創(chuàng)新大師杯”頒獎(jiǎng)

為引導(dǎo)開發(fā)者創(chuàng)新優(yōu)化技術(shù)解決方案,促進(jìn)AI行業(yè)溝通學(xué)習(xí),今年啟動了由英特爾主辦,阿里云天池平臺聯(lián)合計(jì)算平臺機(jī)器學(xué)習(xí)PAI承辦的第一屆“英特爾創(chuàng)新大師杯”深度學(xué)習(xí)挑戰(zhàn)賽。比賽聚焦OCR及NLP的兩個(gè)經(jīng)典技術(shù)方向,通過多個(gè)實(shí)用場景面向全球廣大開發(fā)者發(fā)布算法挑戰(zhàn)。

經(jīng)過數(shù)月征集和評選,“英特爾創(chuàng)新大師杯”頒獎(jiǎng)典禮也在此次峰會舉辦。阿里巴巴集團(tuán)副總裁、阿里云智能計(jì)算平臺事業(yè)部負(fù)責(zé)人、達(dá)摩院 AI 平臺負(fù)責(zé)人賈揚(yáng)清,阿里云智能研究員、機(jī)器學(xué)習(xí)PAI平臺和大數(shù)據(jù)平臺技術(shù)負(fù)責(zé)人林偉,英特爾公司中國區(qū)超大云計(jì)算軟件架構(gòu)總監(jiān)魏彬共同為獲獎(jiǎng)?wù)哳C獎(jiǎng)。

這次深度學(xué)習(xí)挑戰(zhàn)賽的順利舉行離不開英特爾第三代至強(qiáng)?可擴(kuò)展處理器的強(qiáng)力支持。據(jù)英特爾公司中國區(qū)超大云計(jì)算軟件架構(gòu)總監(jiān)魏彬介紹,英特爾第三代至強(qiáng)?可擴(kuò)展處理器提供了澎湃的計(jì)算性能,不僅擁有VNNI指令集,提供強(qiáng)大的INT8的量化性能,還在新一代的平臺中增加了BF16的指令集,對既要求計(jì)算又要求精度的OCR以及NLP場景尤為適合;在軟件側(cè),英特爾還在框架層面上對Pytorch Tensorflow進(jìn)行了深度優(yōu)化。對本次比賽而言,選手也得以擁有良好的模型訓(xùn)練和優(yōu)化環(huán)境,無論在邊緣或是云端,都能讓工作負(fù)載處于安全狀態(tài),為開發(fā)者的模型研發(fā)保駕護(hù)航。

聲明：本文為廣告信息，不代表本站觀點(diǎn)。如有違規(guī)或侵權(quán)，請聯(lián)系我們。