CubicPower 晶智能中心 教學機器人 電機資訊學院教材  機器學習理論簡介-1

編著: 夏肇毅

初版: 2026/8/9

1.1 機器學習概念 

機器學習是一種讓電腦系統透過資料、自動化演算法與統計推理能力建立模型的方法，其核心目標是在不需要人工明確撰寫所有規則的情況下，使系統能夠從過去資料中學習規律，並對未知資料進行預測、分類、決策或生成。傳統程式設計通常採用「規則加資料產生結果」的模式，而機器學習則轉換為「資料加學習演算法產生模型」，再利用模型處理新的輸入資料。此種方法使人工智慧系統能夠適應複雜環境，例如影像辨識、語音分析、自然語言處理、金融風險評估與智慧製造等領域。 機器學習的基本架構包含資料、特徵、模型、損失函數與最佳化方法。資料是模型學習的基礎，通常包含輸入變數 $X$ 與目標輸出 $Y$。模型則是一組可調整參數的數學函數，例如線性模型可表示為 $y=w^{T}x+b$，其中 $w$ 為權重參數，$b$ 為偏差項。學習過程即是透過大量資料調整參數，使模型輸出的預測結果接近真實值。 在機器學習中，學習任務通常分為監督式學習、非監督式學習、半監督式學習與強化學習。監督式學習利用已標註資料建立輸入與輸出的映射關係，例如利用歷史股票資料預測未來報酬率；非監督式學習則透過資料本身尋找隱藏結構，例如客戶分群；半監督式學習結合少量標註資料與大量未標註資料，提高資料利用效率。 機器學習的重要特性在於泛化能力，即模型不只記住訓練資料，而能對未知資料維持良好表現。若模型過度記憶訓練資料，會產生過擬合問題；若模型過於簡單，則可能產生欠擬合。因此機器學習研究的重要方向包含模型複雜度控制、特徵工程、正規化方法與資料增強技術。透過完整的理論基礎，可以建立可靠且具有實際應用價值的智慧系統。 

1.2 數學基礎
 
機器學習模型建立在數學理論之上，其中線性代數、微積分、機率統計與最佳化理論是最重要的基礎工具。線性代數提供資料表示與模型運算的方法，例如資料通常可表示為向量或矩陣形式。若一筆資料具有 $n$ 個特徵，可表示為向量 $x=[x_1,x_2,...,x_n]^T$。大量資料則形成矩陣 $X$，模型訓練時透過矩陣運算有效處理大規模資料。 微積分主要用於理解模型參數如何調整。在機器學習中，通常定義一個損失函數 $L(\theta)$ 衡量模型預測值與真實值之間的差異，其中 $\theta$ 表示模型參數。最佳化目標為尋找使損失函數最小的參數：$\theta^{*}=arg\min_{\theta}L(\theta)$。梯度下降法利用函數梯度方向逐步更新參數，其更新公式為 $\theta_{t+1}=\theta_t-\eta\nabla L(\theta_t)$，其中 $\eta$ 為學習率。 機率統計則用於描述資料的不確定性。機器學習中的許多模型皆建立於機率分布，例如分類問題可利用條件機率 $P(y\vert x)$ 表示給定輸入資料後屬於某類別的可能性。貝氏方法利用先驗機率與觀察資料更新模型信念，其核心公式為 $P(A\vert B)=\frac{P(B\vert A)P(A)}{P(B)}$。 此外，統計學中的平均值、變異數、共變異數與相關係數也是資料分析的重要工具。例如變異數可描述資料分布程度，避免模型受到極端值影響。高維資料處理時，特徵間的相關性分析能協助進行特徵選擇與降維。 數學基礎不只是公式計算，而是理解模型行為的重要方法。透過數學分析，可以判斷模型是否收斂、是否存在過擬合、如何調整參數，以及如何提升模型穩定性。 

1.3 機率模型 

機率模型是機器學習中用來描述資料不確定性與隱藏關係的重要方法。現實世界中的資料通常存在雜訊、不完整資訊與隨機變化，因此模型需要利用機率方式描述可能結果，而不是只建立固定規則。機率模型透過觀察資料分布，建立輸入變數與輸出結果之間的統計關係。 常見機率模型包括高斯模型、混合高斯模型、貝氏網路、馬可夫模型與最大概似估計方法。高斯分布常用於描述連續資料，其機率密度函數可表示為 $p(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$，其中 $\mu$ 表示平均值，$\sigma^2$ 表示變異數。透過估計資料符合何種分布，可以建立更準確的預測模型。 在監督式學習中，機率模型常用於分類問題。例如朴素貝氏分類器假設不同特徵之間具有條件獨立性，利用貝氏定理計算每個類別的後驗機率，選擇機率最高的類別作為預測結果。此方法雖然假設較強，但在文字分類、垃圾郵件偵測等領域具有良好效果。 在非監督式學習中，機率模型可以用來探索資料內部結構。例如高斯混合模型假設資料由多個高斯分布組成，透過估計每個群組的平均值與變異程度，完成資料分群。這類方法比傳統距離式分群更能處理複雜資料分布。 機率模型另一重要應用是生成式人工智慧。模型不只學習資料分類，而是學習資料生成規律，例如文字生成、影像生成與異常資料模擬。透過機率分布建模，可以讓人工智慧系統具備推理、不確定性分析與預測能力。
 
1.4 學習流程 

機器學習流程是一套從資料收集、資料處理、模型建立、訓練驗證到部署應用的完整程序。良好的學習流程能確保模型具有穩定性、準確性與實際使用價值。第一階段為資料取得，包括收集感測資料、交易紀錄、文字資料、影像資料或其他業務資訊。資料品質直接影響模型結果，因此需要進行資料清理，包括缺失值處理、異常值分析與格式統一。 第二階段為資料前處理與特徵工程。原始資料通常不能直接輸入模型，需要轉換為適合學習的特徵表示。例如數值資料可能需要標準化，使不同尺度特徵具有可比較性。標準化公式可表示為 $z=\frac{x-\mu}{\sigma}$。此外，也需要進行特徵選擇，移除無關資訊，提高模型效率。 第三階段為模型建立與訓練。研究者根據問題類型選擇適合模型，例如分類問題可使用決策樹、支持向量機或神經網路；回歸問題可使用線性模型或深度學習模型。訓練過程透過最佳化演算法調整模型參數，使損失函數逐漸降低。 第四階段為模型驗證與測試。資料通常分為訓練集、驗證集與測試集，利用不同資料評估模型泛化能力。常見評估指標包括準確率、精確率、召回率、均方誤差與決定係數。 最後階段為模型部署與維護。實際環境中的資料分布可能隨時間改變，因此需要持續監控模型效能，進行重新訓練與更新。完整的機器學習流程結合資料工程、數學理論與系統工程，是建立可靠人工智慧應用的重要基礎。