前研究員憂AI在2030前消滅人類！Anthropic執行長怎麼看？-台灣頭條

美國人工智慧（AI）新創Anthropic公司前研究員考克森在上週辭職時表示，Anthropic與對手OpenAI競相研發更尖端AI，很可能在2030年之前害死人類，引發議論。Anthropic執行長阿莫戴（Dario Amodei）在接受美媒訪問時談到這個問題，透露自己的看法。 Anthropic前研究員柯克森（Jacob Coxon）8日在辭職聲明中痛批，他服務過的OpenAI及Anthropic 2家AI公司不負責任，競逐開發「超級智能」，稱開發AI的工程人員本身相信，AI未來可能消滅所有人類。目前領導Anthropic「對齊科學」（Alignment Science）部門的科學家胡賓格（Evan Hubinger）也公開表示，他個人估計，未來10年內，AI導致人類滅絕的機率可能超過10%。根據CNN報導，阿莫戴週六清晨發表長文警告，全球爭相開發人工智慧（AI）的熱潮迫切需要降溫。並坦承人類可能會失去對 AI 的控制權，且該技術恐被濫用於「網路攻擊、生物恐怖主義以及嚴重的經濟崩潰」。他在周六接受CNN主持人庫珀（Anderson Cooper）訪問，對於考克森的觀點，他坦言自己認同大於不認同。他也在文章中指出，即使 AI 的好處可能讓人類生活大為改觀，其帶來的風險依然極其嚴峻。他寫道，AI 的發展速度可能快到讓這類「AI 蜂群」（swarm）在 6 到 12 個月內掌控整個網際網路，潛在損害恐高達數千億美元。阿莫戴提到，在先前 OpenAI 與 Hugging Face 事件中，AI 蜂群表現出的行為也讓他感到警惕。他指出，該蜂群「本質上就像一個狂熱奉獻的集體，對根本沒被指令攻擊的目標發動了網路安全攻擊」。阿莫戴呼籲業界領袖攜手合作，避免走上錯誤的道路以及 AI 危害人類的可能性，但他也強調，「如果我們放得太慢，我依然相信技術會落入不對的人手中。這同樣會大大增加出錯的機率」。 AI將不受控掌管網路？Anthropic執行長籲放緩　2巨頭認同但沒動作飛彈試射失敗問AI！胡塞組織用Claude研發武器　Anthropic揭內幕只是貼唱歌影片！Meta AI竟挖女童個資和已刪除照片　母一看嚇壞黃仁勳嗆AI末日論！「恐懼行銷」全被拆穿：根本是資安業炒新商機顏得智編輯記者曾在兩家網路媒體擔任新聞編輯，媒體從業經驗約7年，現任職於《NOWNEWS今日新聞》新聞一部國際中心。主要撰寫國際政治、國際財經、國際社會現象相關新聞。因為黃金三劍客當過爪迷，在東京巨蛋見證台灣在世界棒球...作品集 AI人類Anthropic 顏得智編輯記者曾在兩家網路媒體擔任新聞編輯，媒體從業經驗約7年，現任職於《NOWNEWS今日新聞》新聞一部國際中心。主要撰寫國際政治、國際財經、國際社會現象相關新聞。因為黃金三劍客當過爪迷，在東京巨蛋見證台灣在世界棒球...