2022年1月4日，海內外9位院士及12位專家在Science《科學》合作期刊
Intellige
nt Computing
發表長篇綜述論文《智慧計算的最新進展、挑戰和未來》。文章全面闡述了智慧計算的理論基礎、智慧與計算的技術融合、重要應用、重大挑戰和未來前景，將為學術界和工業界的相關研究人員提供全方位的參考和對智慧計算領域的指引性見解。
論文地址：https：//spj。science。org/doi/10。34133/icomputing。0006
簡介
人類社會正從資訊社會進入智慧社會，計算已成為推動社會發展的關鍵要素。在萬物互聯的數字文明新時代，傳統的基於資料的計算已經遠遠不能滿足人類對更高智慧水平的追求。
近年來，計算和資訊科技飛速發展，深度學習的空前普及和成功將人工智慧
（AI）
確立為人類探索機器智慧的前沿領域。自此產生了一系列突破性的研究成果，包括Yann LeCun提出的卷積神經網路和Yoshua Bengio在深度學習因果推理領域的成果。
2016年3月，DeepMind推出的AI圍棋程式
AlphaGo
與世界頂尖圍棋高手李世石對戰，在世界範圍內引起了前所未有的關注。這場劃時代的人機大戰以AI的壓倒性勝利而告終，成為將AI浪潮推向全新高度的催化劑。
AI的另一個重要推動者是
大型預訓練模型的出現
，這些模型已經開始廣泛應用於自然語言和影象處理，以在遷移學習的幫助下處理各種各樣的應用。其中最具代表性的是自然語言處理模型GPT-3，已經證明具有高度結構複雜性和大量引數的大模型可以提高深度學習的效能。
計算能力是支撐智慧計算的重要因素之一。面對資訊社會中龐大的資料來源、異構的硬體配置和不斷變化的計算需求，智慧計算主要透過
垂直和水平
架構來滿足智慧任務的計算能力要求。
垂直架構
的特點是同質化的計算基礎設施，主要透過應用智慧方法提高資源利用效率來提升計算能力。
相比之下，
水平架構
對異構和廣域計算資源進行協調和排程，使協作計算的效果最大化。例如，2020年4月，針對全球COVID-19研究的計算需求，Folding@home在三週內聯合40萬名計算志願者，實現了2。5Exaflops的計算量，超過了世界上任何一臺超級計算機。
儘管在智慧和計算方面取得了巨大成功，但我們在這兩個領域仍然面臨著一些重大挑戰：
智慧方面的挑戰。
使用深度學習的AI目前在可解釋性、通用性、可進化性和自主性方面面臨著重大挑戰。與人類智慧相比，當前大多數AI技術的作用都很弱，而且只能在特定領域或任務中發揮良好作用。從基於資料的智慧升級到更多樣化的智慧，包括感知智慧、認知智慧、自主智慧和人機融合智慧等，也面臨著重大的理論和技術挑戰。
計算方面的挑戰。
數字化浪潮帶來了應用、連線、終端、使用者以及資料量前所未有的增長，所有這些都需要巨大的計算能力。滿足如此快速增長的計算能力需求變得越來越具有挑戰性。智慧社會中的巨型任務依賴於各種特定計算資源的高效組合。此外，傳統的硬體模式不能很好地適應智慧演算法，制約了軟體的發展。
迄今為止，智慧計算還沒有一個被普遍接受的定義。考慮到世界的三個基本空間，即人類社會空間、物理空間和資訊空間日益緊密融合，我們從解決複雜的科學和社會問題的角度提出了智慧計算的新定義：
智慧計算是支撐萬物互聯的數字文明時代新的計算理論方法、架構體系和技術能力的總稱。智慧計算根據具體的實際需求，以最小的代價完成計算任務，匹配足夠的計算能力，呼叫最好的演算法，獲得最優的結果。
智慧計算的新定義是為響應人類社會、物理世界和資訊空間三元融合快速增長的計算需求而提出的。智慧計算以人為本，追求高計算能力、高能效、智慧和安全。其目標是提供通用、高效、安全、自主、可靠、透明的計算服務，以支援大規模、複雜的計算任務。圖1為智慧計算的整體理論框架，它體現了支援人類社會—物理世界—資訊空間整合的多種計算正規化。
△
圖1：基於人類社會空間、物理空間和資訊空間融合的智慧計算總覽
智慧計算基礎
智慧計算是數字文明時代支撐萬物互聯的新型計算理論方法、架構體系和技術能力的總稱。利用智慧計算可以實現許多經典和前沿研究領域的創新，以解決複雜的科學和社會問題。智慧計算的基本要素包括人的智慧、機器的能力以及由萬物組成的物理世界。
在理論框架中，人是智慧計算的核心和智慧的源泉，代表著原始的、與生俱來的智慧，稱為
元智慧
。
元智慧包括理解、表達、抽象、推理、創造和反思等人類高階能力，其中包含人類積累的知識。元智慧以碳基生命為載體，是由個體和生物群體經過百萬年的進化產生的，它包括生物具身智慧、腦智慧
（尤其是人腦）
和群體智慧。所有的智慧系統都是由人類設計和建造的。
因此，在智慧計算的理論體系中，人類的智慧是智慧的源泉，計算機是人類智慧的賦能。我們稱計算機的智慧為
通用智慧
。
通用智慧代表計算機解決具有廣泛外延的複雜問題的能力，以矽基設施為載體，由個體和群體計算裝置產生。生物智慧可以在以下四個層次上移植到計算機上：資料智慧、感知智慧、認知智慧和自主智慧。元智慧和通用智慧如圖2所示。
△
圖2：元智慧和通用智慧
智慧計算面臨大場景、大資料、大問題、泛在需求的挑戰。演算法模型變得越來越複雜，需要超級計算能力來支援越來越大的模型訓練。目前，計算資源已經成為提高計算機智慧研究水平的障礙。隨著智慧演算法的發展，擁有豐富計算資源的機構可能形成系統的技術壟斷。經典的超級計算機已經難以滿足AI對計算能力的需求。
雖然透過演算法最佳化可以在一定程度上降低算力需求，但並不能從根本上解決這個問題。需要從架構、加速模組、整合模式、軟體棧等多個維度進行全面最佳化，如圖3所示。
△圖3：智慧計算的計算能力
智慧計算在理論技術上具有以下特點
（圖4）
：理論技術上的自學習和可進化性，架構上的高計算能力和高能效，系統方法上的安全性和可靠性，執行機制上的自動化和精確性，以及服務性上的協作和泛在性。智慧計算包括兩個本質方面：
智慧和計算，兩者相輔相成
。
智慧促進了計算技術的發展，計算是智慧的基礎。提高計算系統性能和效率的高階智慧技術正規化是
“智慧驅動的計算”
。支援計算機智慧發展的高效、強大的計算技術正規化是
“面向智慧的計算”
。
兩種基本正規化從五個方面進行創新，提升計算能力、能源效率、資料使用、知識表達和演算法能力，實現泛在、透明、可靠、實時、自動化的服務。
△
圖4：智慧計算的特徵
智慧驅動的計算
提高計算的普適性對智慧計算至關重要。現實場景中的問題，例如模擬、圖
（gragh）
（圖5）
等，需要進行各種計算。智慧計算的另一個關鍵點是如何提高計算的智慧化水平。從經驗上來說，我們常常需要向自然界的智慧生物學習，計算也不例外，例如三大經典智慧方法：人工神經網路
（圖6）
、模糊系統和進化計算，都是受生物智慧啟發提出的演算法。智慧計算理論包括但不限於以上幾種計算，以實現高度的泛在化和智慧化。
△
圖5：圖計算的技術架構
△
圖6：典型神經元的結構和人工神經元的結構
智慧系統在開始工作之前，首先要進行
智慧感知
。因此，感知智慧在所有智慧系統中都起著至關重要的作用。感知智慧的重點是多模態感知、資料融合、智慧訊號提取和處理。
典型的例子包括智慧城市管理、自動潛水系統、智慧防禦系統和自主機器人。感知智慧研究中最熱門的領域是模擬人類的五種感覺能力，視覺、聽覺、嗅覺、味覺和觸覺。
此外，智慧感測還包括溫度、壓力、溼度、高度、速度、重力等，需要大量的計算或資料訓練來提高其效能。
近年來，隨著模式識別和深度學習技術的全面應用，機器的感知智慧已經超過人類，在語音、視覺和觸覺識別方面取得了重大進展。由於其日益增長的重要性和日益拓寬的應用領域，智慧感測器受到了廣泛關注。如圖7所示，智慧感測器具有各種形式以滿足不同應用的需求，並且更新更好的型號正在被不斷的開發出來。
△圖7：工業中需要連線到物聯網的的各種感測器型別
認知智慧
是指機器具有像人一樣的邏輯理解和認知能力，特別是思考、理解、總結和主動應用知識的能力。
它描述了智慧體在真實環境中處理複雜事實和情況的能力。
資料識別是感知智慧的核心功能，需要對影象、影片、聲音等各類資料進行大規模的資料採集和特徵提取，完成結構化處理。相比之下，認知智慧需要理解資料元素之間的關係，分析結構化資料中的邏輯，並根據提煉出的知識做出響應。
認知智慧計算主要研究機器的自然語言處理、因果推理和知識推理
（圖8）
等領域。透過對人腦的神經生物學過程和認知機制的啟發式研究，可以提高機器的認知水平，以使其獲得幫助、理解、決策、洞察和發現的能力。
△圖8：知識推理概述
驅動機器從被動輸出到主動創造有兩個關鍵要素：強泛化模型和與外部環境的持續互動。
自主智慧
的發展路徑從學習單一任務開始，舉一反三，逐步達到與環境動態互動的主動學習，最終實現自我進化的高階智慧。當前可以透過遷移學習、元學習和自主學習等技術尋找生成自主智慧的可行路徑。
儘管在智慧的四個層面上
（資料智慧，感知智慧，認知智慧，自主智慧）
取得了重大進展，但目前僅透過計算/統計模型還難以從極其複雜的場景中實現完全的智慧。
在這些場景中，人類應該繼續在解決問題和決策中發揮不可或缺的作用，來探索人類認知過程中涉及的要素，並將其與機器智慧相結合。下一步，將聚焦於人機互動、人機融合和腦機介面等技術。
面向智慧的計算
AI的發現不斷湧現，這在很大程度上歸功於不斷增長的計算能力。AI的快速變化是由新思想或革命性理論推動的。通常，最新的先進模型僅依賴於更大的神經網路和更強大的處理系統。
Open AI研究人員在2018年進行了一項研究，追蹤基於計算能力的最大模型的增長情況。利用AI研究史上訓練的一些最著名的AI模型所需的計算量，他們發現了計算資源快速增長的兩個趨勢。
開發突破性模型所需的計算能力的增長速度與摩爾定律大致相同
，即在2012年之前，單個微晶片的計算能力往往每兩年翻一番。但影象識別系統AlexNet在2012年釋出時引起了人們的新興趣。AlexNet的引入刺激了頂級模型的計算需求急劇增加，從2012年到2018年，這種需求每3到4個月翻一番，如圖9所示。
△圖9：過去十年計算能力需求的增長大大超過宏觀趨勢
當摩爾定律失效時，超大算力主要依賴於海量計算、記憶體和儲存資源的並行疊加。
例如，“高效能計算”是指將大量計算機快速聯網成一個“叢集”以進行密集計算的做法，使使用者能夠比傳統計算機更快地處理大量資料，從而獲得更深入的洞察力和競爭優勢。
此外，得益於雲計算
（圖10）
，使用者現在可以選擇增加其高效能計算程式的容量，從而繼續提高算力。
△圖10：雲、霧和邊緣計算的表示
推進智慧計算架構創新的目標包括更高效的能源管理、更低的功耗、更便宜的總晶片成本以及更快速的錯誤檢測和糾正。當涉及某些無法在CPU上執行的AI操作時，AI加速器可能會大大減少訓練和執行時間。
在短期內，所使用加速器的架構專業化將是保持計算能力增長的最佳方式，如圖11所示為已公開發布的AI加速器和處理器的峰值效能與功耗。
另外，
記憶體計算
（圖12）
是一個非常有效的方案，它能夠使記憶體單元執行原始邏輯操作，因此它們可以在不需要與處理器互動的情況下進行計算，這是記憶體和處理器之間不斷擴大速度差距的主要原因。
△圖11：公開發布的 AI 加速器和處理器的峰值效能與功耗散點圖
△圖12：計算的三種概念方法：（a）傳統數字計算，（b）近記憶體陣列計算（NMAC）和（c）記憶體陣列計算（IMAC）
複雜性
是傳統計算機進一步突破的瓶頸。當今高度複雜的AI模型
（例如深度神經網路）
在邊緣裝置中仍然難以實現普遍使用。這是由於執行這些模型的高階GPU和加速器存在功率和頻寬緊縮的缺陷，導致處理時間長並且架構設計繁瑣。
由於這些問題，研究人員開始創造新的計算模式，主要包括：
量子計算
（圖13）
，因為其具有糾纏或其他非經典相關性帶來的量子優勢，可以在許多複雜的計算問題中實現指數速度；
神經形態計算
（圖14）
的構造和操作受到大腦中神經元和突觸的啟發，因其能源效率高而非常適合計算，神經形態計算是事件驅動和高度並行化的，這意味著只有小部分系統同時工作，所以消耗的功率非常小；
光子計算
（圖15）
與電神經網路相比具有許多優勢，包括超高頻寬、快速計算速度和高並行性，所有這些都是透過使用光子硬體加速來計算複雜的矩陣向量乘法來實現的；
生物計算
（圖16）
是利用生物系統固有的資訊處理機制發展起來的一種新的計算模型，主要包括蛋白質計算機、RNA計算機和DNA計算機，具有並行和分散式計算能力強、功耗低的優勢。
△圖13：顯示覆雜性等級之間關係的圖表（a）以及用於識別和評估可能的量子優勢的流程圖（b）
△圖14：傳統計算系統和類腦計算系統的結構
△圖15：深度神經網路，包括傳統網路和電子光子網路
△圖16：生物計算可能提供優於傳統計算機的效能
智慧計算的應用
如果要跟上當前科學的快速發展，就必須不斷的進行革新。現在正在進行的計算機革命的融合將以前所未有的方式極大地推動科學發現的進步。
幾十年來，
計算材料
（圖17）
已成為研究材料特性和設計新材料的有力手段。然而，由於材料和材料行為的複雜性，它們的應用面臨許多挑戰，包括缺乏許多原子、離子以及原子和離子相互作用的力場和電位，分子動力學模擬中的不同熱力學相，以及最佳化材料成分和工藝引數的巨大搜索空間。作為一種新的研究正規化，AI整合到計算材料中是對傳統計算材料的革命，並且已經在多長度、多時間尺度、多物理場耦合計算方面取得了巨大成功。
△圖17：材料/分子科學正規化的比較
作為最古老的觀測科學之一，
天文學
在歷史上收集了大量資料。由於望遠鏡技術的突破，收集到的資料爆炸性增長。天文學和天體物理學領域的特點是擁有豐富的資料和各種大口徑的地面望遠鏡，例如即將推出的大型巡天望遠鏡和天基望遠鏡。使用高解析度相機和相關工具，資料收集現在更加高效，並且在很大程度上實現了自動化，必須進行更高效的資料分析。因此，需要智慧計算技術來解釋和評估資料集。
藥物設計
同樣受益於AI
（圖18）
，AI可以幫助科學家建立蛋白質的3D結構、模擬藥物和蛋白質之間的化學反應以及預測藥物的功效。在藥理學中，AI可以用於建立靶向化合物和多靶點藥物。利用AI還可以設計合成路線、預測反應產率並瞭解化學合成背後的機制。AI讓重新利用現有藥物來治療新的治療目標變得更加容易。此外，AI對於識別不良反應、測定生物活性和獲得藥物篩選結果至關重要。
△
圖18：不同的基於深度學習的藥物-靶點相互作用預測演算法對應不同的輸入特徵。（a）基於配體的方法，（b）基於結構的方法，和（c）基於關係的方法
隨著大資料和AI技術使用的增長，
作物育種
開始進行融合與突破
（圖19）
。AI技術可以支援服務的建立、模型的識別以及農業食品應用和供應鏈階段的決策過程。AI在農業中的主要目標是準確預測結果並提高產量，同時最大限度地減少資源使用。因此，AI工具提供的演算法可以評估產量，預測難以預見的問題或事件以及發生趨勢。從種植到收穫再到銷售，AI促進了整個農業價值鏈。
△圖19：大資料與AI在植物育種中的結合
智慧計算加速轉型變革，導致經濟和社會秩序的轉變。由於技術進步，商品和勞動力市場正在發生巨大變化，
數字社會
正在逐漸形成
（圖20）
。AI應該成為數字經濟中每一個數據驅動戰略的核心，包括工業4。0。例如，人工智慧可以應用於預測性維護。預測性維護包括涉及通用裝置或生產機械的維護，並使用來自生產線或運營線的感測器資料幫助降低運營費用或停機時間。
另外。AI可以應用於城市治理，透過開發新的策略和方法，使城市更智慧。智慧城市治理旨在利用最先進的資訊科技同步資料、程式、許可權等，造福城市居民，主要包含四個方面：
智慧決策、智慧城市治理、智慧行政和智慧城市合作。
△圖20：數字社會的組成部分
展望
從新興產業生態的角度來看，智慧計算產業仍面臨著一系列挑戰，決定著其未來發展。
第一，與傳統計算理論相比，智慧計算是語言和生物學驅動的計算正規化的應用和發展。
這意味著機器可以根據不同的場景模仿人腦解決問題和決策的能力。然而，矽基和碳基運算的底層邏輯存在根本差異，大腦智慧的機制仍有待進一步探索。智慧計算的下一步是透過深入探索類人智慧的基本要素，其在宏觀層面的相互作用機制以及在微觀層面上支援不確定性生成的計算理論，進行徹底的改革。
第二，探索人類如何學習並將其應用到AI的研究中具有重要意義。
知識驅動的機器智慧可以從人類活動中學習，模仿人腦的決策能力，使機器能夠像人一樣感知、識別、思考、學習和協作。需要探索多知識驅動的知識推理和持續學習的理論和關鍵技術，使智慧系統具有類人的學習、感知、表示和決策能力，促進智慧計算從資料驅動向知識驅動演進。
第三，軟硬體適配面臨著巨大的挑戰，如精度損失、呼叫困難、協作效率低下等。
未來，計算機必須突破馮·諾依曼體系結構下固定的輸入和處理正規化，大力發展交叉學科的智慧計算和仿生學。在演算法層面進行設計，突破現有架構的侷限，以更低的計算和硬體設計成本嘗試更靈活、更人性化的資料處理方式。此外，開發高效能、低能耗的新型元件設計方案，提高軟體和硬體的計算能力和效率，以滿足快速增長的需求和智慧計算應用也很重要。
第四，智慧計算的理論技術架構是一個複雜的系統，具有多個與其他學科相互作用的子系統。
系統中的各種硬體需要更復雜的系統設計，更好的最佳化技術，以及系統調優的更大成本。高維計算理論複雜性的缺乏是大規模計算系統面臨的主要挑戰。
結論
當前，我們正迎來
人類發展的第四次浪潮
，正處於從資訊社會向
人類社會-物理世界-資訊空間
融合的智慧社會的關鍵轉型期。在這種轉變中，計算技術正在經歷變革，甚至是顛覆性的變化。
智慧計算被認為是未來計算的發展方向，不僅是面向智慧的計算，而且是智慧賦能的計算。它將提供通用、高效、安全、自主、可靠和透明的計算服務，以支援當今智慧社會中大規模和複雜的計算任務。
本文全面回顧了智慧計算的理論基礎、智慧與計算的技術融合、重要應用、挑戰和未來方向。
我們希望這篇綜述能為研究人員和從業者提供一個很好的參考，並促進未來智慧計算領域的理論和技術創新。
關於Intelligent Computing
Intelligent Computing是由之江實驗室和美國科學促進會
（AAAS）
共同創辦，是《科學》合作期刊框架中智慧計算領域的第一本開放獲取
（Open Access）
國際期刊。之江實驗室主任
朱世強教授
和中國工程院院士、中國科學院計算技術研究所學術所長
孫凝暉教授
共同擔任期刊主編。期刊以“面向智慧的計算、智慧驅動的計算”以及“智慧、資料與計算驅動的科學發現”為主題，主要刊載原創研究論文、綜述論文和觀點論文。
開啟App看更多精彩內容
