虎白女粉嫩在线中国女,日本日本乱码伦视频免费,成人网站色视频免费,中文字幕乱码人在线视频1区,特黄大片做受又粗又硬又大,天天做天天爱天天综合网电影,久久人妻中出按摩

大模型訓(xùn)推一體機(jī):“開(kāi)箱即用”的人工智能

2024-05-22 06:39 來(lái)源:新華網(wǎng)
查看余下全文
(責(zé)任編輯:歐云海)
記者專欄
當(dāng)前位置首頁(yè) > 科技新聞 > 正文

大模型訓(xùn)推一體機(jī):“開(kāi)箱即用”的人工智能

2024-05-22 06:39 來(lái)源:新華網(wǎng)

   新華社北京5月21日電 自美國(guó)開(kāi)放人工智能研究中心(OpenAI)發(fā)布聊天機(jī)器人程序ChatGPT及其背后的GPT系列大語(yǔ)言模型以來(lái),人工智能大模型熱潮持續(xù)蔓延,全球科技企業(yè)競(jìng)相宣布研發(fā)或推出自己的大模型,數(shù)量迅速增長(zhǎng)的大模型如何實(shí)現(xiàn)商業(yè)化落地成為行業(yè)關(guān)注焦點(diǎn)。

   除了OpenAI、谷歌等公司采取的提供云端大模型應(yīng)用程序編程接口(API)的商業(yè)模式之外,另一條備受關(guān)注的商業(yè)化路徑是銷售“軟硬件結(jié)合”的大模型訓(xùn)推一體機(jī)。這種商業(yè)模式在中國(guó)市場(chǎng)上熱度較高,特別是多家中小型科技企業(yè)都推出了大模型訓(xùn)推一體機(jī)產(chǎn)品。這類“開(kāi)箱即用”的人工智能產(chǎn)品可以在企業(yè)內(nèi)進(jìn)行本地化部署,使最新人工智能技術(shù)能夠方便地在工業(yè)場(chǎng)景中落地應(yīng)用,實(shí)現(xiàn)從人工智能技術(shù)到生產(chǎn)力的轉(zhuǎn)化,加速人工智能與產(chǎn)業(yè)深度融合。

   大模型訓(xùn)推一體機(jī)一般指集成了大模型訓(xùn)練和推理功能的“全棧式”人工智能設(shè)備,通常包含中央處理器(CPU)、圖形處理器(GPU)、存儲(chǔ)器、操作系統(tǒng)、深度學(xué)習(xí)模型等軟硬組件,能通過(guò)大規(guī)模數(shù)據(jù)訓(xùn)練掌握數(shù)據(jù)處理和預(yù)測(cè)等能力。

   與通過(guò)應(yīng)用程序編程接口使用大模型功能相比,企業(yè)利用訓(xùn)推一體機(jī)實(shí)現(xiàn)大模型部署具有多方面優(yōu)勢(shì)。首先,訓(xùn)推一體機(jī)可以針對(duì)企業(yè)的特定業(yè)務(wù)需求提供“開(kāi)箱即用”的定制化大模型解決方案,并通過(guò)軟硬件協(xié)同優(yōu)化提高性能,降低大模型部署、業(yè)務(wù)方案建設(shè)和調(diào)適的門(mén)檻。例如,佳都科技基于華為“昇騰AI”基礎(chǔ)軟硬件平臺(tái)推出了“佳都知行交通行業(yè)大模型訓(xùn)推一體機(jī)”,可面向軌道交通、城市交通、城市安全等智慧城市重點(diǎn)建設(shè)領(lǐng)域,提供智能化、高效實(shí)時(shí)的解決方案和決策支持。

   其次,由于訓(xùn)推一體機(jī)將所有計(jì)算資源集中到一臺(tái)設(shè)備上,在大規(guī)模數(shù)據(jù)訓(xùn)練中可大幅減少數(shù)據(jù)傳輸時(shí)間,提高計(jì)算速度和模型訓(xùn)練效率,使企業(yè)能夠更快捷地使用和管理資源。

   此外,本地化部署的訓(xùn)推一體機(jī)能最大程度保障數(shù)據(jù)隱私和模型安全可控,滿足企業(yè)對(duì)數(shù)據(jù)安全監(jiān)管的需求。英國(guó)《金融時(shí)報(bào)》日前報(bào)道說(shuō),在企業(yè)內(nèi)部署的大模型訓(xùn)推一體機(jī)產(chǎn)品正在對(duì)一些大型科技企業(yè)提供的基于公共云的人工智能服務(wù)形成沖擊。

   該報(bào)道說(shuō),近期曝出的人工智能企業(yè)安全漏洞加劇了用戶對(duì)數(shù)據(jù)安全的擔(dān)憂。例如,ChatGPT將用戶的搜索歷史分享給他人,以及韓國(guó)三星的員工在使用ChatGPT處理工作時(shí)無(wú)意間泄露了公司的商業(yè)機(jī)密等。報(bào)道援引中國(guó)科大訊飛董事長(zhǎng)劉慶峰的話說(shuō),機(jī)構(gòu)需要能夠保護(hù)他們的數(shù)據(jù),而建立私有云是防止有價(jià)值數(shù)據(jù)泄露的方法。

   但也有觀點(diǎn)認(rèn)為,訓(xùn)推一體機(jī)的性能會(huì)受到硬件技術(shù)限制,這提高了技術(shù)持有和更新的成本!督鹑跁r(shí)報(bào)》的報(bào)道援引半導(dǎo)體行業(yè)研究機(jī)構(gòu)SemiAnalysis的首席分析師迪倫·帕特爾的話說(shuō),相比于公共云服務(wù)或使用應(yīng)用程序編程接口接入大模型,訓(xùn)推一體機(jī)的效率更低下。該模式對(duì)人工智能大模型的使用非常零散,這意味著企業(yè)持有的昂貴人工智能硬件沒(méi)有得到充分利用。

   許多企業(yè)在衡量利弊后選擇了訓(xùn)推一體機(jī),這正在成為中國(guó)算力行業(yè)的趨勢(shì)之一。2023年7月,華為聯(lián)合多家伙伴共同發(fā)布“昇騰AI”大模型訓(xùn)推一體化解決方案,加速大模型在各個(gè)行業(yè)落地應(yīng)用。目前,科大訊飛等多家中國(guó)科技企業(yè)都發(fā)布了基于華為“昇騰AI”基礎(chǔ)軟硬件平臺(tái)的訓(xùn)推一體機(jī)產(chǎn)品。

   華為董事、ICT(信息與通信技術(shù))產(chǎn)品與解決方案總裁楊超斌在今年3月舉行的華為中國(guó)合作伙伴大會(huì)上表示,2024年中國(guó)區(qū)人工智能訓(xùn)推一體機(jī)市場(chǎng)規(guī)模有望達(dá)到168億元人民幣。

(責(zé)任編輯:歐云海)

友情鏈接:

          虎白女粉嫩在线中国女,日本日本乱码伦视频免费,成人网站色视频免费,中文字幕乱码人在线视频1区,特黄大片做受又粗又硬又大,天天做天天爱天天综合网电影,久久人妻中出按摩 中文字幕日产乱码久久 99热国产这里只有精品 国产永久一区二区 亚洲av无码码潮喷在线观看 无码日韩做暖暖大全免费不卡