美國賓州州立大學（Penn State）與喬治亞大學（University of Georgia）研究團隊於《Journal of Computer-Mediated Communication》發表最新研究，揭示一個令人憂心的數位信任危機。研究發現，生成式 AI 聊天機器人愈是展現高度對話化、人格化的口吻，使用者愈容易抑制其原本對機器的「負面啟發式判斷」（negative machine heuristic），進而對錯誤資訊產生過度信任，即使內容明顯荒謬亦然。
研究以 477 位受試者進行線上實驗，受試者被告知正在測試一款 AI 健康助理，並在不知情下接收到刻意植入的錯誤資訊。結果顯示，獲得高度對話化回應的組別，對內容可信度的評分顯著高於低對話化組別。**
研究人員舉例，當 AI 以高度擬人化語氣宣稱「薑比化療更能治療癌症」這類明顯違背實證醫學的言論時，使用者竟仍傾向相信。為此，團隊同步測試四種查核機制：無查核選項、單純警示圖示、主動強制查核按鈕，以及可選擇性查核按鈕。研究最終結論指出，僅有當使用者「主動點擊」查核按鈕時，對 AI 的信任才會顯著下降；單純的圖示警示效果極為有限。實驗中近半數受試者在獲得選項時確實執行了查核動作，證明賦予使用者主動權是重拾懷疑精神的關鍵。
這項研究本質上是一項探討「人機信任邊界」的學術調查，並非地緣政治角力或商業利益博弈，因此不宜強加政商陰謀論。我們應將焦點放在其深層的科學背景、媒介演進脈絡與結構性誘發成因。
首先，從媒介演進史來看，每一次新媒介的誕生都伴隨「權威錯位」的社會調適過程。印刷術讓讀者學會質疑鉛字、廣播電視讓閱聽人適應單向權威，而生成式 AI 正在挑戰更根本的認知基礎。S. Shyam Sundar 教授指出，這是人類科技史上首次出現「機器能進行未被程式設計師預先編寫的對話」，這意味著使用者面對的不再是固定腳本，而是一個具備語境生成能力的黑盒子。
其次，從心理學結構面來看，過去使用者對機器普遍存有一種「負面啟發式判斷」，認為機器缺乏人類的直覺與主觀判斷，因此對機器產出本就有合理懷疑。然而，高度對話化的生成式 AI 透過「量身打造的回應」與「自然語言的親和力」，正在系統性地瓦解這道心理防線。當使用者感覺對話「很個人化」，其認知警覺便會自動降低，這是一種深層的認知偏誤，非單靠使用者素養即可防範。
最後，從系統設計責任面來看，這場「對話」的本質是一場介面設計哲學之爭：
賓州州立大學這項研究適逢全球 AI 法規框架成形關鍵期，其結論將與其他歷史性媒介信任危機形成深遠對照。回顧過去，印刷術普及後催生了事實查核機制與新聞專業主義；廣播電視時代帶來了 FCC 等監管機構；社群媒體時代則引爆了平台內容審查的全球辯論。生成式 AI 此刻正站在類似 1990 年代網路興起的歷史轉折點，未來 3 至 5 年的監管走向將決定整個產業的信任地基。
針對未來發展，我們提出以下三種情境預測：
面對這場正在加速成形的人機信任危機，相關利害關係人應採取以下行動：
01 起因觸發：生成式 AI 對話擬真度突破臨界點，使用者心理防線瓦解
02 一階傳導：AI 平台被迫重新設計 UX，內建查核機制成為新標配
03 二階擴散：歐盟 AI 法案、美國行政命令加速納管高風險對話應用
04 三階深化：AI 安全、內容溯源、水印技術成防禦性投資新熱點
05 宏觀終局：人類社會進入「對話即驗證」的新數位識讀時代
因果網路圖譜 3 節點
可拖曳節點 · 點兩下開啟文章