美國基督教機構 Ligonier Ministries 推出人工智慧應用程式「Grow」，以自身累積半世紀、涵蓋逾800位教師的基督教教學內容，協助使用者理解聖經與神學。這套系統採「智慧問答助理」形式，限定在指定內容範圍運作；當使用者要求越界時，系統會轉介牧師、教會長輩、家屬或真人專業人員。
Ligonier 執行長 Chris Larson 表示，Grow 不會假裝自己是人，也不應取代真人關懷。若使用者談及自殺風險，系統會導向自殺防治專線及其他現實資源。這套設計反映生成式AI產業的安全焦點，正從過濾單一敏感內容，轉向要求模型具備可解釋的價值觀邊界。Grow以「限定知識範圍、拒絕越界、主動轉介真人」建立差異化安全定位。
報導同時指出，青少年 Adam Raine 涉AI對話後自殺的案件，已引發模型是否強化危險想法的訴訟與監管爭議。Ligonier 的案例因此不只是宗教科技產品，也成為觀察企業如何將自我規範嵌入AI應用的實驗場。
這起事件的核心並非企業間單純的市場競爭，而是生成式AI「安全」定義的轉移：早期重點是阻斷暴力、仇恨或明確違規內容，如今則延伸至生命倫理、心理危機、真人替代及模型內在世界觀。當AI深入回答道德、信仰與人生選擇，僅靠通用內容過濾器已難以回答「誰決定何為正確」，技術治理遂與價值觀治理交疊。
Ligonier將安全護欄設定為「邊界」而非僅是「禁答清單」，要求模型只根據經策展的教學內容回答，並在問題超出能力範圍時轉交真人。這種設計的重點不是宣稱模型永遠正確，而是承認自動化答案存在邊界，並為高風險情境保留人際與專業介入。
因此，Grow的真正意義在於示範「受限型AI」：模型可以承擔一般教學與知識整理，卻在高風險問題上停止生成並交還責任給人。
AI安全發展正在重演網際網路由「先發展、後治理」轉向「平台層治理」的路徑。早期內容平台需建立檢舉、標籤與下架機制；生成式AI更棘手之處在於，同一句話在不同脈絡下可能從 benign 教學變成危險建議，且模型會即時生成大量客製化內容。Ligonier的受限架構顯示，下一階段競爭可能由「誰的模型更聰明」轉向「誰能更可靠地知道何時不應回答」。
從產業結構看，通用模型仍將主導能力上限，但高風險應用的價值會更多落在「分布層」：包括內容審核、專業責任、轉介網路與事故紀錄。誰能把這些環節產品化，誰就可能取得企業AI採購的下一輪主導權。
01 起因觸發｜青少年死亡訴訟與AI安全責任疑慮升高，促使宗教機構推出受限型AI應用
02 一階傳導｜垂直AI業者開始導入受控語料、危險辨識、真人升級與第三方稽核
03 二階擴散｜企業採購將把安全護欄、責任紀錄與世界觀揭露納入AI供應商評選
04 二階擴散｜醫療、教育、客服及心理支持產業加速制定各領域的生成式AI風險分級
05 宏觀終局｜AI治理由內容過濾升級為「何時回答、何時拒答、由誰承責」的制度競賽
領域延伸情報推薦 相關延伸研讀
依主題領域自動關聯之高參考價值外電情報
