Contents ...
udn網路城邦
AI表面是語言,但核心由數學在支撐(1)
2026/11/21 00:00
瀏覽4
迴響0
推薦0
引用0

我們每天跟AI交流互動,輸入文字並收到語意通順的回應時,很容易做出一個推論:AI學會了語言規則與語意邏輯。

 

這是因為我們很容易把 AI 表現出來的樣子,當成它內部真正運作的方式。但這個推論在論證上有嚴重的邏輯跳躍。

 

AI真正大量處理的東西,是:token、向量、矩陣、機率、微積分、最佳化。也就是說,人眼看到的是語言,AI底下運作的卻是數學。

 

為什麼大量的數學運算,卻能產生如此複雜的語言能力?

 

一、大型語言模型(LLM)在「學什麼」?

人類學語言的流程:學字→學詞→學句子→學文法→理解意思→知道什麼話在什麼情境下應該怎麼說。

 

但是LLM在預訓練階段,是學習:根據前面的內容,預測下一個 token。

 

例如:AI看到這個句子「今天的天氣很……」,會預測下一個最可能出現的是:好、冷、熱、糟。然後根據訓練資料,計算自己的預測和答案差多少。若差很多,就調整。若還差一點,繼續調整。一直調整到LLM越來越會預測。

 

二、LLM把「文字」視為token

AI看到「蘋果」,會先切成模型可以處理的token,轉成數值表示(座標與向量),然後開始大量計算。可以粗略想成:文字 → token → 向量 → 矩陣運算 → 機率 → 下一個 token→把結果轉回人類的文字。

 

整套流程的本質是:字串→離散索引→連續向量→矩陣乘法→條件機率分佈→字串。

 

模型輸出一段論述時,不是進行概念思維,而是在執行特定參數條件下的機率推導。

 

也就是,「AI 看起來很會說話」和「AI 是用人類方式理解語言」,其實是兩件不同的事情。

 

三、透過數學,讓LLM越來越精準

LLM有大量參數,訓練LLM的其中一項工作就是不斷調整這些參數。

 

AI回答越差,損失函數(Loss Function)越高;回答越接近目標,損失函數越低。

 

調整LLM時需要知道:若把這個參數改一點點,結果會往哪裡跑?怎麼調整參數,就需要微積分囉。

 

換言之,LLM 的訓練,本質上是一個非常龐大的數值最佳化問題,讓預測誤差收斂的數值工程。

 

四、對人類而言是「知識」,對模型而言是數值之間的關係。

大量的語言資料經過訓練之後,相關資訊會以非常複雜、分布式的方式存在於模型的參數與內部表示裡。一個詞、一個概念、一種關係,最後都以向量和數值表示。

 

所以,AI 研究者不是從「語言的文法」去想LLM,而是研究:

這些向量怎麼排列?

這些表示之間有什麼關係?

哪些特徵被模型學到了?

 

於是,語言變成數學。

 

未完待續....

 

參考資料:經濟學人2026/09/17

 

#腦科學 #科學育兒   #胡雅茹MonicaHu #心智圖法  #心智圖教學訓練課程  #思維導圖  #思维导图  #mindmap  #mindamapping  #心智圖天后  #mind map  #mind mapping  #超強心智圖活用術  #心智圖筆記術  #心智圖閱讀術  #心智圖高分讀書法  #心智圖超簡單  #極速解決工作難題的心智圖大全

發表迴響

會員登入