參考消息網(wǎng)12月19日?qǐng)?bào)道 德國(guó)《法蘭克福匯報(bào)》網(wǎng)站12月17日發(fā)表題為《我們目前正在進(jìn)入人工智能第三階段》的文章,作者是奧地利科學(xué)院院士、約翰內(nèi)斯·開(kāi)普勒大學(xué)教授澤普·霍赫賴特,編譯如下:
2024年神經(jīng)信息處理系統(tǒng)會(huì)議(NeurIPS)在溫哥華落幕。此次會(huì)議一票難求。今秋兩項(xiàng)諾貝爾獎(jiǎng)都與人工智能相關(guān),人工智能的熱度有增無(wú)減。世界各地越來(lái)越多的私人和國(guó)家機(jī)構(gòu)正投入大量資金開(kāi)展人工智能研究。
事實(shí)是,在此次會(huì)議上很少見(jiàn)到歐洲公司的身影,這里找不到歐洲傳統(tǒng)行業(yè)的人工智能研究實(shí)驗(yàn)室。我們歐洲人尤其應(yīng)該仔細(xì)聆聽(tīng)加拿大的這場(chǎng)討論,因?yàn)槲覀兡壳罢?jīng)歷著不亞于人工智能產(chǎn)業(yè)化的進(jìn)程,而歐洲近年來(lái)主要是在擴(kuò)大人工智能技術(shù)的規(guī)模。人工智能也遵循一定的技術(shù)史規(guī)律,技術(shù)變革通常分為三個(gè)階段:基礎(chǔ)研究、規(guī);凸I(yè)應(yīng)用或者說(shuō)“產(chǎn)品化”。
蒸汽機(jī)或化肥生產(chǎn)工藝哈伯法的發(fā)展就是上述三個(gè)階段的例子,而且二者都對(duì)我們的社會(huì)產(chǎn)生了深遠(yuǎn)的影響。從先進(jìn)人工智能的發(fā)展中也能看到類似的模式。大語(yǔ)言模型從基礎(chǔ)研究到規(guī)模化就是一個(gè)很好的例子。
2017年提出的Transformer模型架構(gòu)主導(dǎo)了升級(jí)階段,也就是第二個(gè)階段。人工智能界對(duì)Transformer架構(gòu)情有獨(dú)鐘,但它是很原始的。該架構(gòu)雖然性能不錯(cuò),卻是以海量數(shù)據(jù)和極高的算力為代價(jià)的。這意味著什么?Transformer架構(gòu)的工作方式是,它會(huì)先閱讀一本書中的每個(gè)字,當(dāng)你向它提問(wèn)時(shí),它會(huì)再次搜索整本書來(lái)尋找答案。
最近,狀態(tài)空間模型和遞歸神經(jīng)網(wǎng)絡(luò)等其他人工智能架構(gòu)也獲得了升級(jí)。例如,長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)已經(jīng)升級(jí)為新的xLSTM架構(gòu)。與Transformer相比,這些替代方案更具優(yōu)勢(shì),例如它們更高效。這些替代性架構(gòu),如我們歐洲的xLSTM,能像人類一樣閱讀一本書,記住故事情節(jié),識(shí)別其中的聯(lián)系,并能根據(jù)人工記憶回答問(wèn)題。xLSTM不僅僅是一個(gè)語(yǔ)言模型,這一點(diǎn)常常被誤解。在此次大會(huì)上,我們展示了“7B語(yǔ)言模型”,從而證明我們也有能力建立大語(yǔ)言模型。我們認(rèn)為,xLSTM-7B模型在速度和能效方面樹(shù)立了新的標(biāo)桿。美國(guó)公司對(duì)此也很感興趣。
從語(yǔ)言到產(chǎn)業(yè)——這是如何實(shí)現(xiàn)的?它與序列有關(guān)。一個(gè)句子包含多個(gè)單詞,這構(gòu)成了一個(gè)序列。我們利用的也是這一點(diǎn)。例如,xLSTM架構(gòu)也可以對(duì)工業(yè)時(shí)間序列數(shù)據(jù)作出預(yù)測(cè),并有望在機(jī)器人技術(shù)或圖像分析(這在醫(yī)療技術(shù)中尤為重要)方面發(fā)揮巨大潛力。
我們現(xiàn)在正進(jìn)入第三階段,即人工智能的產(chǎn)業(yè)化階段。在這一階段,我們會(huì)將人工智能模型全面投入到機(jī)器人、生物技術(shù)或工業(yè)流程的實(shí)際應(yīng)用中。這需要的不僅僅是規(guī);,也不是更多的一成不變。
隨著人工智能模型產(chǎn)業(yè)化的推進(jìn),我們預(yù)計(jì)會(huì)出現(xiàn)許多特定領(lǐng)域限制——幸運(yùn)的是,隨之而來(lái)的將是方法的日益多樣化,這將使我們能夠進(jìn)一步開(kāi)發(fā)我們的模型,使其個(gè)性化,催生新的想法并提供附加值。工業(yè)流程困難重重,所以需要人才。因此該領(lǐng)域?qū)<液腿斯ぶ悄苎芯咳藛T需要合作。例如,他們需要討論制造業(yè)中的運(yùn)行安全和人工智能,討論可用性、穩(wěn)健性、安全性、用戶體驗(yàn)和人類經(jīng)驗(yàn),討論“絕不改變正在運(yùn)行的流程”以及數(shù)據(jù)推斷和能源問(wèn)題。
歐洲可以做到這一點(diǎn)。因?yàn)樵跉W洲,在蒂賓根、慕尼黑、赫爾辛基、阿姆斯特丹、蘇黎世和林茨等地都開(kāi)展了卓越的研究。然而,我們歐洲人并不總能成功地將這些卓越成果轉(zhuǎn)化為產(chǎn)品,并利用其開(kāi)拓新的市場(chǎng)。我認(rèn)為工業(yè)人工智能是我們歐洲大陸的一個(gè)機(jī)遇。但老實(shí)說(shuō),我們已經(jīng)談?wù)撨@個(gè)問(wèn)題好幾年了。我們還要討論多久?我們現(xiàn)在就必須開(kāi)始——大規(guī)模地著手去做。
但企業(yè)正在猶豫并回避投資。當(dāng)美國(guó)的太空探索技術(shù)公司能夠?qū)崿F(xiàn)火箭著陸時(shí),我們感到驚訝,并不得不問(wèn)自己:哪些創(chuàng)新來(lái)自歐洲?
最后一個(gè)在泛歐洲取得巨大成功的是空中客車公司。眾所周知,那是三十多年前的事了。我們做了很多很好的研究,包括在許多學(xué)院和大學(xué)的研究。這是一個(gè)很大的優(yōu)點(diǎn)。
但我們也必須承認(rèn):我們依賴世界其他地區(qū)的人工智能發(fā)展。盡管有歐洲的替代方案,我們目前仍在推行所謂的“單一來(lái)源戰(zhàn)略”,這件事不可能順利進(jìn)行。(編譯/焦宇)
(審核:歐云海)