鋸齒狀智能 (Jagged Intelligence) - 飛虎行空 - udn部落格
飛虎行空
作家:飛虎行空
文章分類
    Top
    鋸齒狀智能 (Jagged Intelligence)
    2026/06/04 14:35:39
    瀏覽:398
    迴響:0
    推薦:3
    引用0
    鋸齒狀智能是 LLM 的大問題之一,這是由 Andrej Karpathy 用來描述大語言模型 (LLM) 智能本質的形象化比喻。它揭示了 AI 智能與人類自然智能在分佈規律上的根本差異。

    • 非均質能力:模型在某些領域(如程式碼編寫、數據處理、特定學科知識)達到「天才級」水平,但在某些看似簡單的領域(如常識推理、基礎空間認知、特定邏輯遊戲)卻表現得像「認知不足的小學生」。
    • 分佈不均: AI 的智能曲線呈現劇烈的、非線性的鋸齒狀起伏,其能力邊界極不規則且難以預測。

    Karpathy 認為:「我們不是在培育進化中的動物,而是在召喚幽靈 (Summoning Ghosts)。」

    • AI 的輸出是模型在海量高維向量空間中,根據優化壓力(Reward)「摺疊」出的統計結果,而非像動物一樣具備連貫的感官與意識。
    • 這種「召喚」出的幽靈在處理它「見過」或「被強化」過的模式時極其強大,但在超越其數據分佈的縫隙中則會徹底崩潰。

    開發者的應對方式:

    • 驗證 (Verification) : 必須假設模型隨時可能在簡單處出錯,需建立強大的可驗證性機制。
    • Harness 系統: 透過軟體外殼引導模型避開其弱點,並將多個「局部強大」的模型編排在一起。
    回應
    全站分類:創作| 散文
    自訂分類:科技散文
    上一則: 當 AI 躺上精神病治療椅
    下一則: 什麼是 AGI ?
    發表迴響

    會員登入