選單

RL向左?幾何深度學習向右?通往第三代人工智慧的理論之路如何走?

目前,機器學習系統可以解決計算機視覺、語音識別和自然語言處理等諸多領域的一系列挑戰性問題,但設計出媲美人類推理的靈活性和通用性的學習賦能(learning-enable)系統仍是遙不可及的事情。這就引發了很多關於「現代機器學習可能缺失了哪些成分」的討論,並就該領域必須解決哪些大問題提出了很多假設。問題來了:

這些缺失的成分是因果推理、歸納偏置、更好的自監督或無監督學習演算法,還是其他完全不同的東西?

RL向左?幾何深度學習向右?通往第三代人工智慧的理論之路如何走?

在 2021 年 10 月份的論文中,強化學習大牛、UC 伯克利電氣工程與計算機科學助理教授 Sergey Levine 提出並對這一問題進行了深入探討。該研究認為利用強化學習可以衍生出一個通用的、有原則的、功能強大的框架來利用未標記資料,使用通用的無監督或自監督強化學習目標,配合離線強化學習方法,可以利用大型資料集。此外,該研究還討論了這樣的過程如何與潛在的下游任務更緊密地結合起來,以及它如何基於近年來開發的現有技術實現的。

與此同時,圖神經網路 (GNN) 領域取得了快速且驚人的進展。圖神經網路,也稱為圖深度學習、圖表示學習或幾何深度學習,已成為機器學習尤其是深度學習中發展最快的研究課題之一。這一批湧現的圖論和深度學習交叉的研究也影響了其他科學領域,包括推薦系統、計算機視覺、自然語言處理、歸納邏輯程式設計、程式合成、軟體挖掘、自動化規劃、網路安全和智慧交通。

雖然圖神經網路已經獲得了極大的關注,但在將其應用到其他領域時仍然面臨著許多挑戰,從對方法的理論理解到實際系統中的可擴充套件性和可解釋性,從方法的健全性到在實際系統應用中的經驗表現。儘管該領域實現了快速發展,從全域性視角瞭解 GNN 的發展卻始終極具挑戰性。

人們已經意識到人工智慧正存在巨大的侷限性,它能夠解決的問題非常有限。第一代、第二代人工智慧只能解決如下條件的問題:存在豐富知識,具有確定性、完全資訊、在確定領域中,以靜態或按照確定領域演化的問題。

在即將到來的一年裡,在人工智慧理論這條漫漫長路之上,將有哪些值得期待的方向呢?

2022 年 1 月 24 日晚 7 點,在機器之心年度特別策劃「驅動未來的 AI 技術 —— 2021-2022 年度 AI 技術趨勢洞察」的「理論專場」來自華為諾亞方舟決策推理實驗室主任郝建業教授、數學科學學院王宇光教授及清華大學智慧產業研究院黃文炳教授三位嘉賓將做客機器之心「2020-2021 年度 AI 技術趨勢洞察」直播間,分別透過技術報告介紹自監督深度學習、幾何深度學習的最新進展與思考、並共同就「通往第三代人工智慧的理論之路如何走?」等話題進行探討。

技術報告:自監督強化學習

郝建業,華為諾亞方舟決策推理實驗室主

RL向左?幾何深度學習向右?通往第三代人工智慧的理論之路如何走?

郝建業博士,華為諾亞方舟決策推理實驗室主任。主要研究方向為深度強化學習、多智慧體系統。發表人工智慧領域國際會議和期刊論文 100 餘篇,專著 2 部。主持參與國家基金委、科技部、天津市人工智慧重大等科研專案 10 餘項,研究成果榮獲 ASE2019、DAI2019、CoRL2020 最佳論文獎等,同時在遊戲 AI、廣告及推薦、自動駕駛、網路最佳化等領域落地應用。

技術報告:幾何深度學習的演算法設計和數學理論

王宇光,上海交通大學自然科學研究院、數學科學學院副教授

RL向左?幾何深度學習向右?通往第三代人工智慧的理論之路如何走?

王宇光,現為上海交通大學自然科學研究院和數學科學學院副教授。2021 年 7 月入職前為馬克斯普朗克研究所研究科學家。2015 年獲新南威爾士大學數學博士。近三年有關於圖神經網路和幾何深度學習的演算法和數學理論有二十餘篇文章發表在數學和計算機頂刊 Appl。 Comput。 Harmon。 Anal。,SINUM,FoCM,JMLR,和機器學習頂會 ICML,NeurIPS。2021 年有兩篇相關 ICML 文章入選亮點文章。其設計的快速向量球調和變換演算法 2021 年被數學軟體頂尖雜誌 ACM TOMS 演算法庫收錄(Algorithm 1018)。

趨勢圓桌:

RL 向左?幾何深度學習向右?

通往第三代人工智慧的理論之路如何走?

郝建業,華為諾亞方舟決策推理實驗室主任

王宇光,上海交通大學自然科學研究院、數學科學學院副教授

黃文炳,清華大學智慧產業研究院(AIR)助理教授

RL向左?幾何深度學習向右?通往第三代人工智慧的理論之路如何走?

黃文炳,現為清華大學智慧產業研究院(AIR)助理教授。2017 年取得清華大學計算機科學與技術博士學位,2012 年取得北京航空航天大學數學與應用數學學士學位。主要研究興趣為圖神經網路理論方法及其在物理系統的表示與決策、智慧化學藥物發現等任務上的應用。在人工智慧領域頂級會議或期刊(NeurIPS、ICLR、TPAMI 等)發表論文 30 餘篇,近 5 年穀歌學術引用近 2700 次。曾獲國際會議 IROS 機器人比賽冠軍、NeurIPS 傑出審稿人、IJCAI 頂級 SPC、騰訊犀牛鳥專項研究卓越獎等獎項。

2022 年 1 月 24 日 —— 1 月 28 日 精彩議程如下:

作為「與 AI 俱進,化時光為翎」機器之心 2021-2022 跨年特別策劃中的重要組成部分,「機器之心 2021-2022 年度 AI 趨勢大咖說」聚焦「驅動未來的 AI 技術」與「重塑產業的 AI 科技」,推出線上分享,邀請行業精英、讀者、觀眾共同回顧 2021 年中的重要技術和學術熱點,盤點 AI 產業的年度研究方向以及重大科技突破,展望 2022 年度 AI 技術發展方向、AI 技術與產業科技融合趨勢。

2022 年 1 月 24 日(週一)至 1 月 28 日(週五)每晚 7 點至 9 點,近 20 位高校教授、技術專家及技術企業高管將做客機器之心「2020-2021 年度 AI 技術趨勢洞察」直播間,共同探討「通往第三代人工智慧的理論之路如何走?」、「通用(大)模型的最後一公里」、「如何突破 AI 實踐中的資源限制與壁壘?」、「構建元宇宙基礎設施的 AI 技術」和「通向可信人工智慧的技術路徑」五個與 AI 技術人息息相關話題,洞察 AI 技術在「AI 算法理論」、「ML 模型架構」、「AI 演算法工程化」及「熱點 AI 應用技術」四大方面的發展趨勢與潮水所向。關注機器之心機動組影片號,1 月 24 日晚 7 點開播!