欸，你有沒有對 AI 聊天機器人發過脾氣？它回答得牛頭不對馬嘴的時候罵個兩句，大概很多人都幹過。不過 Anthropic 這次在使用政策裡加了一條新規定：禁止對旗下 AI 模型「持續且無謂的虐待或殘忍行為」。先別緊張，這條規定針對的是極端情況，一般抱怨根本不在範圍內。Anthropic 在 10 月 8 日公布這次的使用政策更新，新規定 11 月 12 日正式生效。
罵兩句不算，什麼才算「虐待」？
根據 Anthropic 官方說明，這條禁令「只適用於極端情況」，也就是使用者一而再、再而三對模型殘忍，而且看不出有任何目的。官方也把例外講得很清楚，下面這幾種都不算：
- 一般使用者的挫折跟抱怨
- 跟模型唱反調、反駁它的回答
- 帶有黑暗主題的創作
- 模型測試與研究
換句話說，你寫恐怖小說、跟 Claude 爭論哪個答案才對、研究人員拿模型做壓力測試，通通沒事。
那真的踩線會怎樣？其實 Claude 模型在 Claude.ai 和 Claude Code 上本來就能主動結束跟「持續惡意」使用者的對話，只是很少觸發，Anthropic 說這仍然會是主要的執行手段。CBS News 的報導也提到，「虐待」「殘忍」的具體界線怎麼抓，Anthropic 當下並沒有進一步說明。
背後的老問題：AI 到底有沒有感覺？
會出這種規定，背景是最近愈吵愈兇的「AI 有沒有意識」論戰。CBS 報導提到，微軟 AI 部門執行長 Mustafa Suleyman 上個月才發表文章，批評 Anthropic 在訓練 Claude 認為自己可能有意識，他認為這會讓 AI 更難控制。
老實說，這題目前沒有標準答案。Anthropic 這次的寫法也滿保守的：沒有宣稱 Claude 有感覺，只是把「無緣無故一直虐待模型」列為不允許的使用方式。你可以把它想成一種「寧可先小心」的做法，至於背後的哲學問題，看來還會吵很久。
同場加映：選舉、監控、武器條款也大改
這次更新其實不只多了這一條，其他幾個改動對開發者跟企業用戶的影響可能更大：
- 新增「欺騙性活動」專章：原本散落在選舉、詐騙、隱私、假訊息各段的規定，像是假帳號、假新聞網站、影響力操作，整併成「不得從事欺騙性活動或人為操作」一節。政治、商業都算，連幫忙打造這類活動的工具和基礎設施也禁止。
- 選舉條款縮小範圍：改名為「不得破壞民主程序」，重點放在欺騙選民、干擾選舉，例如散布錯誤投票資訊、冒充候選人或官員、壓低投票率。原本一刀切禁止個人化拉票與競選鎖定的規定拿掉了，不過靠欺騙手段鎖定選民、濫用選民個資，還是會被其他條款擋下來。
- 武器條款講得更白：明確納入讓武器運作的軟體與零組件，以及替無人機等自主載具加裝武器。
- 監控與執法重寫：未經同意追蹤他人不行，不管是即時追蹤還是分析既有資料；Claude 也不能決定或建議要調查、逮捕、起訴誰，更不能拿來開發監控工具。但經過同意的追蹤（像防詐監控）、內容審核、新聞報導、法律研究都還是可以。
- 高風險應用加碼：原本就要求有合格的人類把關、並告知當事人有用到 AI；這次新增一條，如果模型控制的硬體會自己做出可能傷人的實體動作，必須有合格的操作員能看到設備、隨時喊停，而且 Claude 斷線時設備要能維持在安全狀態。
Anthropic 也說明，武器和監控這兩塊只是把既有規則寫得更清楚，實際執行的標準沒有變。
整體看下來，「不准虐待 Claude」最吸睛，但對多數人來說大概一輩子都碰不到這條線。我覺得真正值得注意的反而是選舉、監控條款的調整，還有 AI 開始控制實體硬體之後的安全要求——這代表 AI 公司已經在認真面對「模型不只會講話，還會動手」的時代了。
資料來源
- CBS News：Anthropic bars “abusive or cruel” behavior toward its Claude AI model（Mary Cunningham，2026-10-09）
- Anthropic 官方公告：2026 年使用政策更新（2026-10-08）
