英國作家 Joe Dunthorne 幾乎每天都收到以「讀者」身分寄來的長篇電子郵件。這些信件不僅稱讚其小說與非虛構作品,甚至能談論書中人物、寫作理念及尚未出版的新作,乍看之下如同熱情而具知識的粉絲;寄件者要求作者支付數百美元,藉此在巴塞隆納、法蘭克福、芝加哥與華沙等城市的讀書會及社群中推廣作品。
這類郵件多由生成式AI協助撰寫,可繞過垃圾郵件篩選,並在短時間內大量客製化。Dunthorne一度與假扮《我的休息年》作者 Ottessa Moshfegh 的寄件者深談,最後才發現對方要求他至 Amazon 頁面「研究」。他隨後假意接受柏林讀書會創辦人的推廣邀請,誘使對方提供實體地址;該地址竟位於菲律賓,偏遠道路旁有廢品店、福音教會與高牆建築。作者未寄出現金,並將資料提供菲律賓 cybercrime 機構,但這樁個案凸顯生成式AI已把跨境詐騙從低成本模板推升為難以辨識的工業化流程。
這起事件表面上是一場針對作家的AI郵件詐騙,深層卻連接三組衝突:生成式AI帶來的內容生產民主化、著作權訓練資料的商業化,以及東南亞跨國詐騙園區的產業化。過去的詐騙集團以固定腳本、粗糙文法與破綻較多的身分資訊維運;如今AI可吸收作者作品,模擬其寫作風格、閱讀記憶與私人情感,讓受騙者難以單憑文字判斷真偽。當利害關係人本人成為生成式AI的訓練素材,誰在模仿誰、資料權利歸誰,以及誰應為濫用承擔責任,便不再只是抽象的著作權爭議。
第一,AI平台掌握模型、算力、產品入口與龐大使用者規模,詐騙集團則掌握低成本人力、跨境金流、暴力控制及真實身分規避能力。雙方未必存在正式合作,但形成互補的灰色生態:平台提供極致擬真的內容能力,犯罪組織提供受控人力與收款管道。這也解釋為何即使偵測技術升級,詐騙品質仍持續上升。
第二,菲律賓、緬甸、寮國與柬埔寨等地的詐騙園區,實質上是以網路詐騙為產業的非法園區。受害員工遭人口販運、扣押證件、監禁與暴力脅迫;部分園區設有客服中心、攝影棚、假警察局、虛擬銀行、按摩店與刑訊室。這不是少數駭客的創意犯罪,而是勞動剝削、跨國走私、性暴力與洗錢交織而成的產業體系。
第三,執法面臨結構性不對稱。當地官員可能受詐騙利益賄賂或直接參與其中;前菲律賓反組織犯罪委員會發言人甚至指出,犯罪集團的財力足以腐蝕公職人員。AI企業若僅以使用者規範或品牌譽譽承擔治理責任,也不符現實風險,因為停止服務可能直接衝擊其龐大商業利益。真正有效的防制必須結合支付 intelligence、AI供應鏈責任、跨國情報協作、受迫勞動救援與地方反腐。
AI詐騙不會只是「更多假郵件」,而會演進為涵蓋語音、影像、行為與金流的完整產業鏈。這起作家事件可視為早期預警:個人生成式AI讓複製專業身分與個人敘事的能力急遽普及;東南亞詐騙園區則提供組織、勞動與跨境交易基礎。兩者一旦結合,傳統以「辨識假字」為核心的防範將迅速失效。
01 起因觸發:生成式AI吸收作家作品,使假粉絲信兼具個人化細節與高說服力。
02 一階傳導:作者、出版社與一般使用者面臨更多身分冒充、情感誘導及預付款詐騙。
03 二階擴散:詐騙集團把AI、假影影片、跨境電信與受迫勞動整合為標準化服務。
04 支付與司法壓力:金流節點、虛擬帳戶與現金轉運商成為執法與監管突破口。
05 平台責任升級:模型供應商面臨內容標記、濫用通報及跨境合作責任。
06 宏觀終局:數位信任將由單向內容判讀,轉向可驗證身分、行為偵測與即時資金追蹤。
跨事件因果網路圖譜 1 驗證節點
AI 驗證因果鏈條 · 可拖曳節點 · 點兩下開啟文章