Transfer Learning 轉移學習
Transfer Learning 轉移學習
What is Transfer Learning?
來自台大李宏毅教程的介紹：
轉移學習就是把已經訓練好的模型、參數，轉移至另外的一個新模型上
使得我們不需要從零開始，重新訓練一個新model
轉移學習的定義
Source Domain : 已存在的知識或已學習到的領域
Target Domain : 欲進行學習、訓練的領域
Task : 由目標函數、學習結果組成，為最終的學習結果。
我們手上有兩種域：Source domain, 有個function叫做 fs
此function的作用是來完成一個名為Ts的任務
另外一個域稱作 Target domain, 一樣存在function叫做 ft
並且需要此function去完成任務Tt
而轉移學習就是需要透過Source domain及Ts的學習，使得能夠幫助Target domain中的ft學習，進而使得更好完成Tt
https://medium.com/%E6%88%91%E5%B0%B1%E5%95%8F%E4%B8%80%E5%8F%A5-%E6%80%8E%E9%BA%BC%E5%AF%AB/transfer-learning-%E8%BD%89%E7%A7%BB%E5%AD%B8%E7%BF%92-4538e6e2ffe4
轉移學習有哪些優點？
TL 為建立 ML 應用程式的研究人員提供以下幾個優點。
提升效率
訓練 ML 模型需要時間，因為它們會建置知識和識別模式。也需要大型資料集，在運算方面也很昂貴。在 TL 中，預先訓練的模型保留有關任務、特徵、權重和功能的基本知識，使其能夠更快地適應新任務。您可以使用較小的資料集和較少的資源，同時又獲得更好的結果。
提高可存取性
建置深度學習神經網路需要大量資料、資源、運算能力和時間。TL 克服了這些建立障礙，讓組織針對自訂使用案例採用 ML。您可以讓現有模型適應成本一小部分的要求。例如，使用預先訓練的影像辨識模型，您只要最小程度的調整，即可建立醫學影像分析、環境監控或臉部辨識的模型。
改善效能
透過 TL 開發的模型通常在多樣化和具有挑戰性的環境中展現更強大的穩健性。它們在初始訓練中暴露在各種案例下，因此可以更好地處理現實世界的變化和雜訊。它們提供更好的結果，並且更靈活地適應不可預測的條件。
https://aws.amazon.com/tw/what-is/transfer-learning/
留言
張貼留言