中國新聞網(wǎng)-上海新聞
上海分社正文
PPIO派歐云發(fā)布全新算力云產(chǎn)品 助力大模型推理千倍降本
2024年09月07日 19:11   來源:中新網(wǎng)上海  

  中新網(wǎng)上海新聞9月7日電(徐明睿)近日,由PPIO派歐云主辦的“Power to Pioneers·2024分布式云計(jì)算論壇暨 PPIO AI產(chǎn)品發(fā)布會”在上海召開。論壇聚焦于分布式云計(jì)算的技術(shù)創(chuàng)新、產(chǎn)業(yè)落地、市場趨勢,及其對AIGC規(guī);瘧(yīng)用的推動力。期間,PPIO推出全新的Serverless和模型API服務(wù)產(chǎn)品,進(jìn)一步完善派歐算力云產(chǎn)品矩陣,標(biāo)志著PPIO的分布式云服務(wù)從邊緣云延伸到AI基礎(chǔ)設(shè)施,將為AIGC創(chuàng)新企業(yè)和開發(fā)者帶來更高性價(jià)比、彈性、易用的一站式AI基礎(chǔ)設(shè)施產(chǎn)品和服務(wù)。

  中國信息通信研究院云大所政企數(shù)字化轉(zhuǎn)型部主任徐恩慶發(fā)表了重要演講。他指出,分布式算力體系已成為支持新一代IT技術(shù)發(fā)展的關(guān)鍵,生成式人工智能的興起離不開新一代超大規(guī)模分布式算力基礎(chǔ)設(shè)施的支持。這些設(shè)施通過分布式計(jì)算確保了人工智能算法的高效運(yùn)行,同時(shí)也需要一個(gè)更強(qiáng)大的操作平臺來融合異構(gòu)算力和智算基礎(chǔ)設(shè)施。

  會上,中國信息通信研究院與PPIO派歐云聯(lián)合多家行業(yè)領(lǐng)軍企業(yè)、科研機(jī)構(gòu)共同啟動《分布式算力發(fā)展白皮書》研究工作,旨在推動分布式算力技術(shù)的發(fā)展,為全球數(shù)字經(jīng)濟(jì)注入新動能。白皮書將系統(tǒng)地闡述了分布式算力的發(fā)展背景、核心技術(shù)、應(yīng)用場景、市場趨勢以及未來發(fā)展方向,全面總結(jié)了近年來分布式算力在全球范圍內(nèi)的實(shí)踐成果與技術(shù)突破,為分布式云行業(yè)從業(yè)者、技術(shù)開發(fā)者和政策制定者提供清晰的方向指引,推動分布式算力技術(shù)的進(jìn)一步成熟和落地。

  上海交通大學(xué)特聘教授陳海波探討了通用智能與操作系統(tǒng)的緊密關(guān)系。他指出,大模型正逐步從應(yīng)用形態(tài)演變?yōu)榛A(chǔ)能力,推動各行業(yè)的數(shù)字化進(jìn)程。通用機(jī)器人技術(shù)的進(jìn)步,結(jié)合多模態(tài)大模型和腦機(jī)接口,正在引領(lǐng)行業(yè)變革。而端側(cè)和邊緣側(cè)的大模型推理優(yōu)化對操作系統(tǒng)提出了更高要求,盡管大模型潛力巨大,但完全替代操作系統(tǒng)仍有挑戰(zhàn)。未來,開源操作系統(tǒng)與大模型的結(jié)合將帶來新的技術(shù)機(jī)遇,并對分布式系統(tǒng)軟件提出更高的要求和挑戰(zhàn)。

  PPIO派歐云聯(lián)合創(chuàng)始人、董事長兼 CEO姚欣在主題演講中指出:“遵循尺度定律的基本原理,計(jì)算能力將決定大模型創(chuàng)新和應(yīng)用的上限。在計(jì)算資源成本高昂而需求爆增的市場格局下,分布式算力將成為引領(lǐng)下一輪科技革命的重要推動力,正在逐步改變?nèi)蛴?jì)算資源的供給和利用方式。我們的核心理念是利用分布式云的優(yōu)勢,三年實(shí)現(xiàn)千倍降本,以算力普惠推動 AI 普惠,助力開拓者創(chuàng)造出全新的發(fā)展機(jī)遇!

  大幅降低AI推理成本,實(shí)現(xiàn)AI普惠

  與模型訓(xùn)練相比,AI推理與產(chǎn)業(yè)應(yīng)用關(guān)系更為密切。大模型在訓(xùn)練后需要通過推理應(yīng)用于實(shí)際場景,這直接影響其可用性和實(shí)用性。然而,目前AI推理面臨的主要問題是成本高昂,尤其是隨著模型規(guī)模增大,計(jì)算需求和成本也隨之增加。此外,推理效率普遍較低,加上復(fù)雜的業(yè)務(wù)場景和應(yīng)用鏈路,進(jìn)一步推高了推理成本。

  為了解決AI推理的成本問題,實(shí)現(xiàn)大模型應(yīng)用算力普惠,PPIO派歐云通過算法、系統(tǒng)和硬件協(xié)同創(chuàng)新,推出了專為AI推理場景設(shè)計(jì)的Serverless產(chǎn)品,提供模型部署、運(yùn)行優(yōu)化、彈性伸縮及API服務(wù),幫助客戶在自定義模型時(shí)獲得高效的彈性效率和極致的運(yùn)行成本。Serverless產(chǎn)品的推出使得開發(fā)者無需再管理和運(yùn)維算力服務(wù)器,而是能夠?qū)⒕杏诤诵臉I(yè)務(wù)的應(yīng)用邏輯開發(fā)與創(chuàng)新,從而幫助企業(yè)實(shí)現(xiàn)降本增效。

派歐算力云Serverless產(chǎn)品提供業(yè)界領(lǐng)先的自動彈性觸發(fā)時(shí)延和單實(shí)例冷啟動速度
派歐算力云Serverless產(chǎn)品提供業(yè)界領(lǐng)先的自動彈性觸發(fā)時(shí)延和單實(shí)例冷啟動速度

  此外,PPIO派歐云還推出了全新的Model API服務(wù)產(chǎn)品,支持 AIGC 應(yīng)用開發(fā)所需的全模態(tài) API,開發(fā)者無需精通機(jī)器學(xué)習(xí)即可快速部署和調(diào)用大模型功能。結(jié)合PPIO強(qiáng)大的分布式計(jì)算能力和派歐算力云Serverless產(chǎn)品的彈性支持,Model API服務(wù)不僅顯著提升了AI應(yīng)用的開發(fā)效率,還通過按需付費(fèi)模式有效降低了企業(yè)的開發(fā)和運(yùn)營成本。

PPIO派歐云聯(lián)合創(chuàng)始人兼CTO王聞宇發(fā)布Model API 服務(wù)價(jià)格
PPIO派歐云聯(lián)合創(chuàng)始人兼CTO王聞宇發(fā)布Model API 服務(wù)價(jià)格

  派歐算力云產(chǎn)品可廣泛應(yīng)用于多個(gè)場景,提供靈活且高效的解決方案。例如,在中國鐵塔的智能算力調(diào)度管理項(xiàng)目中,為了實(shí)現(xiàn)在城市廣泛分布的產(chǎn)業(yè)園、寫字樓、住宅、文娛和高校等園區(qū)進(jìn)行算力入園的管理服務(wù),PPIO通過打造分布式算力網(wǎng)絡(luò),實(shí)現(xiàn)不同地區(qū)、不同時(shí)間、不同業(yè)務(wù)的彈性算力調(diào)度和大模型推理加速,為園區(qū)內(nèi)的AI應(yīng)用提供高性價(jià)比的智算服務(wù),滿足智能數(shù)據(jù)處理、大模型部署、AIGC生成、AI算法加速、渲染加速等一系列應(yīng)用需求。

  產(chǎn)研聯(lián)動、生態(tài)協(xié)同,加速AI應(yīng)用創(chuàng)新

  會上,PPIO派歐云宣布聘請華中科技大學(xué)教授、長江學(xué)者特聘教授、中國計(jì)算機(jī)學(xué)會副理事長金海教授擔(dān)任公司技術(shù)委員會主席。作為中國分布式計(jì)算領(lǐng)域的知名學(xué)者,金海教授將為PPIO的分布式技術(shù)發(fā)展戰(zhàn)略和算力網(wǎng)絡(luò)規(guī)劃提供深入全面的指導(dǎo),為公司未來在分布式云和AI基礎(chǔ)設(shè)施領(lǐng)域的研究和創(chuàng)新發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。

  金海教授表示:“PPIO在分布式云領(lǐng)域的前沿探索和創(chuàng)新實(shí)踐,不僅展現(xiàn)了技術(shù)推動行業(yè)變革的深遠(yuǎn)影響,更預(yù)示著一個(gè)全新的計(jì)算時(shí)代的到來。我期待與PPIO技術(shù)團(tuán)隊(duì)攜手,將分布式云計(jì)算的技術(shù)邊界進(jìn)一步拓展,推動其在更多行業(yè)中的深度應(yīng)用,助力PPIO實(shí)現(xiàn)全球領(lǐng)先的分布式計(jì)算資源優(yōu)化配置和行業(yè)數(shù)字化轉(zhuǎn)型!

  不僅如此,為了推動AI應(yīng)用的持續(xù)創(chuàng)新,PPIO派歐云聯(lián)合PingCap、Zilliz、AscentStream和CSDN,共同啟動“Pioneers AI初創(chuàng)加速計(jì)劃”。該計(jì)劃面向AI初創(chuàng)企業(yè)和開發(fā)者,提供包括分布式算力、分布式關(guān)系型數(shù)據(jù)庫、分布式向量數(shù)據(jù)庫、分布式消息隊(duì)列等在內(nèi)的全面資源和技術(shù)服務(wù),助力初創(chuàng)團(tuán)隊(duì)在分布式云上實(shí)現(xiàn)快速成長,加速其創(chuàng)新成果的落地。

  PPIO派歐云將繼續(xù)依托產(chǎn)學(xué)研深度融合與生態(tài)體系共建的優(yōu)勢,基于分布式云打造創(chuàng)新產(chǎn)品服務(wù),持續(xù)降低技術(shù)基礎(chǔ)設(shè)施成本,使更多AI企業(yè)和開發(fā)者能夠輕松承擔(dān)大模型推理的費(fèi)用和成本,助力企業(yè)在AI應(yīng)用創(chuàng)新中搶占市場先機(jī)。(完)

注:請?jiān)谵D(zhuǎn)載文章內(nèi)容時(shí)務(wù)必注明出處!   

編輯:徐明睿  

本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點(diǎn)。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。
常年法律顧問:上海金茂律師事務(wù)所