不要以為跟AI聊天機器人聊天時，可以毫無理由的辱罵，Anthropic針對旗下Claude更新使用政策，首次明文禁止使用者持續辱罵或惡意對待AI模型，新規預計11月12日起正式生效。不過，並不是對AI抱怨幾句就算違規，官方也特別說明了哪些情況才會踩到紅線。
Anthropic這次更新使用政策，除了進一步明確規範不得利用
AI干預選舉、開發武器軟體及監控等行為，最讓人關注的，就是新增一項「禁止虐待
AI」的規定，使用者不能長時間、毫無理由地辱罵或惡意對待
Claude。
AI也能拒絕聊天！這些辱罵行為踩紅線
不過，這不代表以後只要對Claude說一句難聽話，就會被認定違規。Anthropic特別強調，新規定只針對極端情況，例如使用者長時間、反覆惡意辱罵AI，而且毫無合理目的。至於一般使用者因為AI答錯問題而生氣、抱怨幾句，或是直接反駁AI，都不算違規。即使利用AI創作黑暗題材，或進行模型測試與研究，也不受影響。
事實上，Anthropic早在今年8月就已經讓Claude具備「拒絕繼續聊天」的能力。如果遇到使用者持續進行有害或辱罵性的互動，Claude可以主動結束對話，不再繼續回應。
這次政策更新，則是進一步將相關行為正式列入禁止事項。至於違規會有什麼後果？目前主要的處理方式仍是讓Claude直接結束對話，官方尚未明確說明未來是否會進一步採用帳號停權等處罰。
《你可能還想看》
ChatGPT錄音轉逐字稿要付錢！網狂推Google這款免費神器
Anthropic
Claude
禁止辱罵
網路服務