精品免费99久久_色www精品视频在线观看_一区二区三区日韩精品视频_亚洲国产高清自拍

第一經(jīng)濟網(wǎng)歡迎您!
當前位置:首頁>正文內(nèi)容

告別算力“整租”時代!華為云柔性智算FlexNPU,打造彈性伸縮“算力金箍棒”

3月20日,華為云中小企業(yè)AI解決方案發(fā)布會上推出了一項算力黑科技——柔智算操作系統(tǒng)FlexNPU,將Token消耗“吞金獸”有效控制在企業(yè)預(yù)算范圍內(nèi),打造面向Agentic時代的極致Token價比,為企業(yè)級智能體的普及突破算力瓶頸。

華為云中國區(qū)銷售伙伴發(fā)展部部長、華為云中國區(qū)Marketing與解決方案銷售部部長郭婷在致辭中表示,2026年華為云將構(gòu)建AI時代更加肥沃的“黑土地”,讓算力服務(wù)更柔、更適配中小企業(yè)的輕量化需求,實現(xiàn)從“調(diào)度靠拍板”到“成本算到精”的轉(zhuǎn)變,解決“用不起、用不好”算力的核心難題。

圖片1.png

(華為云中國區(qū)銷售伙伴發(fā)展部部長、華為云中國區(qū)Marketing與解決方案銷售部部長郭婷)

企業(yè)AI應(yīng)用現(xiàn)狀:一半是海水,一半是火焰

當下,“養(yǎng)龍蝦”成為全民熱點話題,為千行萬業(yè)尤其是中小企業(yè)提供了建設(shè)智能化工作流程的清晰思路。會上,華為云SMB解決方案與持續(xù)運營部部長劉杰用“一半是海水,一半是火焰”生動形容了目前企業(yè)智能化轉(zhuǎn)型的現(xiàn)狀:以O(shè)penClaw為代表的先進生產(chǎn)力工具層出不窮,但AI實際應(yīng)用往往面臨著成本高山、技術(shù)壁壘、場景錯位等挑戰(zhàn)。

圖片2.png

(華為云SMB解決方案與持續(xù)運營部部長劉杰)

對此,華為云發(fā)布中小企業(yè)AI解決方案,涵蓋AI基礎(chǔ)設(shè)施層、模型服務(wù)層、智能體層、智能體應(yīng)用層,幫助企業(yè)打造能對接ERP、能調(diào)用API、能閉環(huán)業(yè)務(wù)流程的“數(shù)字員工”。目前,華為云已深入2600多家企業(yè)、30多個行業(yè),解決500多個AI場景化問題,成為企業(yè)AI創(chuàng)新路上的可靠伙伴。

劉杰介紹,在AI基礎(chǔ)設(shè)施層,華為云提供昇騰多代系產(chǎn)品,以及自研的AI Infra OS,尤其是FlexNPU柔智算技術(shù),一方面滿足中小企業(yè)小模型訓(xùn)練場景,另一方面通過彈調(diào)度能夠大幅提升資源利用率;在模型服務(wù)層,華為云支持業(yè)界主流開源模型,讓企業(yè)既能根據(jù)業(yè)務(wù)需求靈活選擇,也能結(jié)合自有數(shù)據(jù)低成本調(diào)專屬模型;在智能體層,華為云提供易用高效的Agent開發(fā)環(huán)境,助力開發(fā)者和中小企業(yè)面向行業(yè)結(jié)合場景打造企業(yè)級智能體;在智能體應(yīng)用層,華為云聯(lián)合伙伴深入場景,覆蓋洞察分析、營銷運營、協(xié)同辦公、開發(fā)運維、內(nèi)容制作等高頻需求。

劉杰還表示,華為云致力于提供AI解決方案,做好基礎(chǔ)設(shè)施和底座,伙伴則提供AI行業(yè)解決方案、AI行業(yè)場景應(yīng)用、AI專業(yè)服務(wù)交付,實現(xiàn)深度共創(chuàng)。會上,華為云發(fā)布“加速智能化 企業(yè)快成長行動2026”,為中小企業(yè)、開發(fā)者提供從品牌、商業(yè)、技術(shù)等全方位的支持,共贏AI市場,共同加速企業(yè)智能升級。

打造算力“金箍棒”,大幅降低算力成本

“我們的推理池均利用率竟然不足30%,我們花費重金建設(shè)、動輒數(shù)萬、數(shù)十萬卡的AI硬件算力池,竟有超過一半以上的算力在‘摸魚,吃空餉’。”華為云首席架構(gòu)師、華為公司Fellow顧炯炯在現(xiàn)場拋出了一組驚人數(shù)據(jù)。他指出,Agent時代企業(yè)普遍面臨算力痛點:Agent自主規(guī)劃、多輪迭代、長上下文導(dǎo)致Token消耗量呈指數(shù)級增長,如何有效降低Token成本,成為最核心和迫切的挑戰(zhàn)。

為此,華為云發(fā)布了黑科技——柔智算FlexNPU,通過構(gòu)筑強大而靈活的AI Infra層算力調(diào)度技術(shù),大幅提升推理池的有效算力利用率,從而以相同AI硬件算力投入,提供更大的Token吞吐輸出。

圖片3.png

(華為云首席架構(gòu)師、華為公司Fellow顧炯炯)

對于柔智算FlexNPU,顧炯炯以可大可小、變化隨心的“如意金箍棒”生動形容,表示FlexNPU賦予NPU/GPU算力“柔或液態(tài)化”供給與伸縮的能力,可依據(jù)任意業(yè)務(wù)需求動態(tài)變化隨需而動,如同金箍棒一般“可大可小、變化隨心”,通過最大化AI算力投入的利用率,最終實現(xiàn)Token價比的最優(yōu)化。

具體而言,柔智算FlexNPU具備極致共享、極致彈和極致高可用3大屬

大模型推理方面,F(xiàn)lexNPU通過引入基于柔算力的PD動態(tài)混部、在離線推理混部等創(chuàng)新技術(shù),完美解決了傳統(tǒng)PD分離架構(gòu)下Prefill和Decode集群不均衡的AI Core與顯存利用率,以及推理業(yè)務(wù)潮汐變化規(guī)律所導(dǎo)致的大量AI算力空轉(zhuǎn)浪費難題,將帶來至少40%的Token價比提升空間

小模型推理方面,F(xiàn)lexNPU通過實現(xiàn)最小粒度達1% NPU卡及128MB顯存的顆粒度的AI Core時分復(fù)用,以及顯存空分復(fù)用,為小模型提供真正完美匹配其算力訴求、量體裁衣的虛擬NPU資源,將小模型的均算力成本降低2-3倍以上;

推理高可用保障方面,F(xiàn)lexNPU通過軟硬解耦及Token級KV Cache的實時快照,使得上層推理框架不再需要感知底層的硬件故障,即可實現(xiàn)故障秒級快速恢復(fù)及斷點續(xù)推,大大減少了Agent推理會話重計算開銷,提升了用戶的推理體驗

顧炯炯最后結(jié)到,F(xiàn)lexNPU的核心價值體現(xiàn)在:無需再為大模型推理的閑置算力,以及小模型推理的獨占算力浪費買單,更不再需要為昂貴的故障重算買單,真正實現(xiàn)了AI算力分配供給從“資源模式”到“效率模式”的范式轉(zhuǎn)變,“讓每分AI算力投入迸發(fā)最大價值,讓智能體的海量Token人人消費得起。”

深入千行萬業(yè),做好伙伴AI創(chuàng)新的“黑土地”

華為云領(lǐng)先的智能化基礎(chǔ)設(shè)施,正在成為千行萬業(yè)伙伴進行技術(shù)創(chuàng)新、產(chǎn)品研發(fā)和商業(yè)拓展的重要支撐。發(fā)布會現(xiàn)場,華為云伙伴代表分享了多個真實案例。

天寬科技有限公司CTO龔徐建介紹,天寬科技基于昇騰算力打造制造業(yè)Agent解決方案,可實現(xiàn)智能知識問答、合同智能審核、風險識別等功能,合同審核準確率達90%,審核效率提升3倍,生產(chǎn)數(shù)據(jù)查詢時間從1小時縮短到2分鐘,將企業(yè)人力從繁瑣重復(fù)的工作中解放,雙方后續(xù)將在市場洞察、能力共建、成單路徑等方面進行拓展合作。

圖片4.png

(天寬科技有限公司CTO龔徐建)

天津宏達瑞信科技有限公司CEO丁照祥則從零售物流行業(yè)角度,探討AI落地帶來的巨大價值,表示宏達瑞信基于華為云天籌求解能力,打造AI智能路徑規(guī)劃方案,助力商家獲得商品從倉庫到經(jīng)銷商的運輸最優(yōu)解,并且可以根據(jù)復(fù)雜的交通條件靈活配置,排線效率提升60倍以上,減少冗余出車次數(shù)20%,物流成本降低5.8%。

圖片5.png

(天津宏達瑞信科技有限公司CEO丁照祥)

人工智能底層技術(shù)發(fā)展,牽引Al Infra算力基礎(chǔ)設(shè)施、開閉源大小模型、Agent使能框架與工具等快速演進,激發(fā)更多AI創(chuàng)新。面向未來,華為云將秉持“用AI解行業(yè)難題”的理念,在應(yīng)用層、模型層、算力層耕耘AI算力黑土地,攜手伙伴共進共贏,抓住AI時代的機遇。

免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據(jù)。

關(guān)鍵詞: 告別 智算 伸縮 彈性 打造

標簽閱讀

主站蜘蛛池模板: 伊人色综合久久天天五月婷 | 91九色国产社区在线观看| 国产精品自拍视频| 日韩中文字幕不卡视频| 在线天堂一区av电影| 一区二区三区四区欧美| 日韩亚洲国产中文字幕| 久久综合色88| 国产精品一区在线免费观看| 久久精品国产欧美激情| 国产在线视频91| 久久久国产精彩视频美女艺术照福利| 国产综合第一页| 国产精品国产亚洲伊人久久| 国产美女久久精品| 国产精品av一区| 久久精品五月婷婷| 国产成人精品av在线| 国产一级片91| 美女精品国产| 久久精品国产2020观看福利| 91高潮在线观看| 国产精品免费福利| 一区二区在线观| 国产欧美日韩丝袜精品一区| 日本国产一区二区三区| 久久久精品视频在线观看| 伊人久久婷婷色综合98网| 欧美在线视频一二三| 国产精品久久久久久av| 痴汉一区二区三区| 中文字幕人成一区| 91久久久久久国产精品| 激情五月六月婷婷| 成人a在线观看| 精品中文字幕在线| 国产欧美高清在线| 欧美二区三区在线 | 日韩精品一区二区三区外面| 91精品国产自产91精品| 国产精品免费久久久久影院|