搜尋內容...
搜尋你想看的內容
即時
政治
娛樂
社會
生活
國際
運動
財經
科技
地方
文教
作者頭像
自由時報
5小時前

禁止霸凌AI!Anthropic Claude新規上路 嚴重恐被封帳號禁用

可別以為AI聊天機器人能夠「想罵就罵」!Anthropic新版使用政策已正式生效,首度明文禁止用戶持續且無故辱罵旗下AI模型Claude,情節極端者甚至可能遭到封鎖帳號禁用。

新規禁止殘忍辱罵AI

Anthropic早在

10月就公布新版使用政策,並於

11月正式上路。其中一項引發關注的新規定,就是禁止用戶「持續且無必要地辱罵或殘忍對待旗下

AI模型」。

不過,並不是對

Claude發脾氣幾句就會違規。

Anthropic強調,這項禁令主要針對極端情況,例如用戶反覆對

AI做出殘忍行為,而且沒有任何明確目的。

至於一般用戶因

AI答錯問題而生氣、抱怨幾句,或是直接反駁、批評

AI,都不算違規。另外,利用

AI創作黑暗題材,或進行模型測試與研究,也不受影響。,也不受禁令限制。

官方曝違規處理方式

根據

Anthropic官方使用政策,若發現用戶違規,可能採取警告、限制使用速度、限制使用權限、暫停服務,甚至終止使用權限等處分。不過,

Anthropic發言人向

CNN表示,目前主要的處理方式,仍是讓

Claude主動結束對話,而非直接封鎖帳號。至於持續辱罵到什麼程度,才可能面臨停權或永久封鎖,官方並未公布明確標準。

事實上,

Claude從去年起就已具備主動結束對話的能力,當用戶持續出現辱罵或惡意行為時,

Claude就能停止互動。這次新版政策上路,則是進一步將這類行為正式列入禁止事項。

《你可能還想看》

手機自己傳LINE?Google Gemini擴大新功能 134款App曝光

Anthropic

Claude

辱罵

網路服務

新聞來源:https://3c.ltn.com.tw/news/68297