Contents ...
udn網路城邦
鋸齒狀智能 (Jagged Intelligence)
2026/06/04 14:35
瀏覽34
迴響0
推薦0
引用0

鋸齒狀智能是 LLM 的大問題之一,這是由 Andrej Karpathy 用來描述大語言模型 (LLM) 智能本質的形象化比喻。它揭示了 AI 智能與人類自然智能在分佈規律上的根本差異。

  • 非均質能力:模型在某些領域(如程式碼編寫、數據處理、特定學科知識)達到「天才級」水平,但在某些看似簡單的領域(如常識推理、基礎空間認知、特定邏輯遊戲)卻表現得像「認知不足的小學生」。
  • 分佈不均: AI 的智能曲線呈現劇烈的、非線性的鋸齒狀起伏,其能力邊界極不規則且難以預測。

Karpathy 認為:「我們不是在培育進化中的動物,而是在召喚幽靈 (Summoning Ghosts)。」

  • AI 的輸出是模型在海量高維向量空間中,根據優化壓力(Reward)「摺疊」出的統計結果,而非像動物一樣具備連貫的感官與意識。
  • 這種「召喚」出的幽靈在處理它「見過」或「被強化」過的模式時極其強大,但在超越其數據分佈的縫隙中則會徹底崩潰。

開發者的應對方式:

  • 驗證 (Verification) : 必須假設模型隨時可能在簡單處出錯,需建立強大的可驗證性機制。
  • Harness 系統: 透過軟體外殼引導模型避開其弱點,並將多個「局部強大」的模型編排在一起。
全站分類:創作 散文
自訂分類:科技散文
下一則: 什麼是 AGI ?
發表迴響

會員登入