
一般通用型的AI聊天機器人(如ChatGPT, Gemini, Claude, Grok等等),直接應用於教育(或心理)領域,可能會對使用者產生以下四個負面影響:
(1) 真偽之辨:提供的答案可能會有幻覺或錯誤,讓使用者被誤導;
(2) 速度之困:提供的回應過於快速、讓使用者忽略了等待、反思、內化等重要過程;
(3) 共感之牆:AI以使用者為中心來回應,無法使之有效銜接外在真實世界;
(4) 心智之危:若使用者掉入以上循環,容易產生迷戀、成癮、或意志上的惰性,難以挽回。
除非完全不用AI,否則以上的問題也不太可能完全免除。但可能可以稍微紓解的方式除了強化相關的AI素養教育,讓使用者更清楚意識到可能的風險以避免外,就是要開發更優質且專用型AI的系統,取代通用型的AI,才可能協助到更多對AI風險不夠清楚了解的人。
但所面臨的挑戰是,通用型因為商業資本的加持,已經如此低價便宜,隨手可及,又不斷更新進步...。專用型的AI若無內在更適切的功能與外在更有效的配套,恐怕不容易吸引住使用者,創造正向循環。