選單

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

我們在打遊戲、看動漫的時候,遇到過不少這樣的情況:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

感覺哪裡不太對……

現在,這些3D人體模型可以得到改進了~體態更逼真、褶皺更自然、肌肉更飽滿:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

連情緒都顯得更投入了……

甚至

肌肉顫動

也清晰可見:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

這麼一對比,差距很明顯了~

不僅動畫質量更高,這種新方法還大量

減少了人工參與

,製作

速度更快

了。

要知道,以前的動畫需要繁瑣的步驟,比如:搭建骨骼、蒙皮、刷權重等等……動畫師往往要為此修煉數年,效果還常常不盡人意。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

現在,只需一個神經網路就能搞定。

不僅如此,它還可以從形象中

預測骨骼

,並

繫結權重

,更容易地用運動捕捉來製作動畫。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

這一研究成果,由北京大學、北京電影學院等高校和機構合作完成。

相關論文《Learning Skeletal Articulations with Neural Blend Shapes》在

SIGGRAPH 2021

上發表,程式碼現已開源。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

提出神經融合形狀技術

團隊開發了一套神經網路,用來生成具有指定結構的骨骼,並且精準繫結骨骼的蒙皮權重。

它由兩個部分組成:包裹變形分支(envelope deformation branch)和補償變形分支(residual deformation branch)。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

其中,

包裹變形分支

透過間接監督,學習由偏移量組成的特定骨架層次的裝配引數,最後從輸入角色中預測出骨架、蒙皮和權重繫結。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

你可能會說,常用的動畫製作工具Mixamo中,也有繫結和蒙皮。

但是新方法能做的

不只這些

,它還可以準確

預測

與模型高度匹配的骨骼,並繫結權重。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

從而更容易進行動作捕捉,製作動畫:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

並且,利用一種

神經融合形狀(neural blend shapes)

技術,

補償變形分支

可以根據輸入的網格連線,來預測對應的融合形狀(blend shapes)。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

與此同時,根據關節旋轉預測融合係數,然後基於此插值得到

補償變形

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

比如,神經混合形狀會

糾正肌肉的形狀

,準確保留鼓起的肌肉:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

與LBS(線性混合蒙皮)演算法的效果相比,

細節處理

得更好:

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

與三維動畫製作軟體Blender的效果對比:

(小肚腩被完美保留了)

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

除此之外,研究團隊還對

神經混合形狀係數

進行了

視覺化

,可以看到左側輸出的形象,與右側相應的姿勢繫結。

並且,透過

顏色變化

,表現各關節的混合形狀係數

啟用程度

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

利用這一方法,神經網路只需觀察變形後的人物模型進行

間接學習

,而不需要對訓練資料集的變形方法有任何限制,極大擴大了適用範圍。

最終實現了,

實時、高質量

的三維人物模型動畫

端到端

自動生成。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

一作來自北大圖靈班

團隊由來自北京大學陳寶權教授研究團隊、北京電影學院未來影像高精尖創新中心、Google Research、特拉維夫大學,以及蘇黎世聯邦理工學院的研究人員組成。

論文一作,是來自北大圖靈班的一名本科生——

李沛卓

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

他畢業於重慶一中,曾入選資訊學競賽省隊,2017年高考以687分考入北大。

目前,李沛卓師從陳寶權教授,研究方向是深度學習和計算機圖形學,正在北京大學視覺計算與學習實驗室和北京電影學院未來影像高精尖創新中心(AICFVE)實習。

此前,他已有論文登上SIGGRAPH。在與量子位交流時,他曾表示對圖形學特別感興趣。

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

3D人體模型自動生成演算法,一作來自北大圖靈班 | SIGGRAPH

專案主頁:

https://peizhuoli。github。io/neural-blend-shapes/

論文地址:

https://peizhuoli。github。io/neural-blend-shapes/papers/neural-blend-shapes-camera-ready。pdf

參考連結:

[1]https://peizhuoli。github。io/

[2]https://twitter。com/RanaHanocka/status/1391867020732424197?s=05

[5]https://www。youtube。com/watch?v=antc20EFh6k