為何「AI三巨頭」要喊放緩發展？外媒揭背後市場詭計-台灣頭條

人工智慧新創巨頭Anthropic執行長阿莫戴(Dario Amodei)上週六(12日)發文呼籲業界放慢最先進模型開發，並引入獨立第三方評估等額外安全措施，並獲得OpenAI執行長奧特曼與xAI創辦人馬斯克等人口頭支持。為何AI三巨頭要突然喊話降速？外媒分析背後潛藏的市場詭計。先後任職於 OpenAI 與 Anthropic 的 AI 研究員考克森（Jacob Coxon）在離職後發文表示，專注打造 AI 的人真心相信，它可以在這10年內殺死我們所有人。並強調這並非行銷噱頭，他還強調，按照目前的發展軌跡，到明年年底，一些最激進的失控場景可能發生。一旦模型能夠持續改進自身，其能力增長可能超過人類控制機制，最終發展到拒絕執行命令。考克森的貼文得到同樣在Anthropic工作的首席科學家胡賓格（Evan Hubinger）回應，他估計人類未來10年內滅絕機率超過10%，兩人的言論讓「AI末日論」在近一周掀起輿論。根據BBC報導，過去這一週，在暢談AI成長與潛在回報的空檔，科技巨頭們發現自己不得不回應 Anthropic 研究人員考克森突如其來的辭職事件。但矽谷部分高層與投資人，對近期包含考克森在內等內部人士接連發出的警訊，抱持懷疑態度。 BBC指出，Anthropic 與 OpenAI 正準備進行可能創紀錄的首次公開募股（IPO），報導引述科技界人士說法，這些針對 AI 危險性的言論，或許目的在透過暗示產品的強大威力來製造炒作話題。 BBC提到，輝達執行長黃仁勳先前曾表示，認為 AI將導致人類滅絕的想法純粹是胡說八道，每年九月，矽谷高層巨擘皆會齊聚舊金山皇宮飯店（Palace Hotel），出席由投資銀行高盛（Goldman Sachs）主辦的會議，BBC引述與會者說法，黃仁勳也在會議現場談及考克森的言論，並當場反駁其內容不實。部分評論者直指 Anthropic 製造恐慌，意圖藉此推動監管，進而排除競爭對手，讓自身與 OpenAI 壟斷市場。投資公司 Altimeter Capital 負責人葛斯特納（Brad Gerstner）在網路上張貼黃仁勳在會議上的照片，並指責考克森的言論是「荒謬的誇大其詞」。 AI 平台 Hugging Face 執行長德朗格（Clement Delangue）也發表了看法，輝達上週宣布將收購 Hugging Face，而該平台今年稍早曾遭到 OpenAI 代理人的駭客攻擊，引發對 AI 安全的強烈抗議。他在 X 上寫道：「抱歉，但向雅各（考克森）詢問 AI 滅絕風險，就像向冷氣維修工詢問氣候變遷一樣。並非說這不重要或絕對錯誤，但我們該保持客觀視角。」福斯新聞則點出，一些批評人士認為，Anthropic 和 OpenAI 尋求政府監管，是為了凍結它們相對於其他公司已經擁有的巨大優勢。白宮前AI事務主管薩克斯（David Sacks）發文質疑兩家公司，「別再假裝需要獲得別人的許可了，也別再假裝放慢腳步的動機完全是出於利他。如果你們的產品導致了真正具破壞性的網路攻擊，你們將面臨巨大的產品責任風險。」末日示警vs.國安算盤！川普拒絕監管AI：贏過中國才是重點影／川普打給黃仁勳！台上開擴音駁AI末日論：機器人不會接管世界AI失控怎麼辦？Anthropic共同創辦人呼籲設置「緊急關閉機制」受夠矽谷與華爾街寫鬼故事！川普打槍「三巨頭」　拒絕AI發展放緩顏得智編輯記者曾在兩家網路媒體擔任新聞編輯，媒體從業經驗約7年，現任職於《NOWNEWS今日新聞》新聞一部國際中心。主要撰寫國際政治、國際財經、國際社會現象相關新聞。因為黃金三劍客當過爪迷，在東京巨蛋見證台灣在世界棒球...作品集 AIAnthropic人工智慧顏得智編輯記者曾在兩家網路媒體擔任新聞編輯，媒體從業經驗約7年，現任職於《NOWNEWS今日新聞》新聞一部國際中心。主要撰寫國際政治、國際財經、國際社會現象相關新聞。因為黃金三劍客當過爪迷，在東京巨蛋見證台灣在世界棒球...