選單

連續型

神經網路連續知識的持續學習簡介
科技

神經網路連續知識的持續學習簡介

第一類是使用超大規模的資料和模型訓練出一個具有超強能力的預訓練模型,這種方法的目標是用一個模型學習所有的知識,這樣只要儲存一個模型就相當於儲存了所有的連續型知識,這種方法的優點是簡單有效,缺點是對計算資源和儲存資源的要求非常高,例如GPT-...