近日根據韓媒報導，已故女星金賽綸過世後，其遺屬透過YouTube頻道爆料，指控韓星金秀賢曾與當時年僅16歲的金賽綸交往，並陸續公開所謂對話截圖、親密合照及生前錄音檔，引發韓國社會譁然。即使金秀賢隨後召開記者會澄清喊冤，輿論仍持續延燒。更令人震驚的是，事後傳出相關錄音與對話截圖竟疑似皆為AI技術變造生成，真假難辨，顯示人工智慧技術已進入足以混淆社會視聽、摧毀個人名譽的危險階段。
事實上，利用偽造影音影響公眾判斷，並非今日才有。台灣民眾仍記憶猶新的，便是1998年高雄市長選舉期間震撼政壇的「錄音帶事件」。當時有人散播疑似時任高雄市長吳敦義涉及賄選的錄音內容，雖然事後證實錄音內容遭到剪接造假，但選舉結果已造成重大影響，吳敦義最終以些微差距敗選。當年科技尚不發達，僅靠剪接錄音便足以左右選情；如今AI深偽技術（Deepfake）更能模擬聲音、影像甚至人物神情，若遭有心人士運用於選舉操作，其殺傷力勢必遠超過當年。
尤其今年11月即將舉行地方九合一選舉，從縣市首長、議員到里長選舉，競爭激烈，各種抹黑、假訊息與認知作戰勢必更加頻繁。過去選民尚可透過肉眼辨識照片真假，但如今AI生成影像與語音幾可亂真，一段虛假的候選人談話、一張捏造的不雅照片，甚至一則假造收賄錄音，都可能在社群媒體快速擴散，在短時間內改變選民印象。等到真相查明時，選舉往往早已結束，民主制度也已遭受難以挽回的傷害。
因此，選監與司法單位必須及早建立防範機制。中央選舉委員會應與數位發展部、法務部及檢警調單位合作，建立AI偽造影音快速鑑識平台，並要求社群平台於選舉期間對涉及候選人的可疑深偽內容加註警語或即時下架。同時，也應強化媒體識讀教育，提醒民眾切勿輕信來源不明的影音內容，以免成為假訊息散播的幫凶。
此外，現行《公職人員選舉罷免法》對於AI深偽技術的規範仍明顯不足，政府應儘速修法補強。例如可修正現行第104條及第104-1條有關散布謠言與不實資訊規定，將「AI生成深偽內容」明文列為加重處罰事由；同時對104-2「以散布、播送或以他法供人觀覽候選人、被罷免人、罷免案提議人之領銜人本人之深度偽造聲音、影像、電磁紀錄之方法，犯前項之罪者，處七年以下有期徒刑。」加重刑責，同時加強宣導。針對境外勢力或網軍集團利用AI介入選舉，也應增訂加重刑責與沒收不法所得規定，以提高嚇阻效果。
民主選舉建立於真實資訊與理性判斷之上，若任由AI偽造技術氾濫，不僅將摧毀候選人名譽，更可能動搖人民對民主制度的信任。從韓國金秀賢事件，到台灣過去的錄音帶風波，都提醒我們科技若缺乏法律與道德規範，終將成為操弄民意的利器。面對AI時代來臨，政府與社會若不能提前建立防線，年底選舉恐怕將成為深偽假訊息的重災區，民主制度也將面臨前所未有的挑戰。
（作者為大學退休教師、新故鄉智庫協會理事）
※以上言論不代表旺中媒體集團立場※
