人工智慧公司 Anthropic 11月2日向美國證券交易委員會（SEC）提交上市募股公開說明書修正案（S-1/A），首度
正式揭露
AI 可能加速自身研發的風險。Anthropic 警告，根據內部評估及對下一代模型的預測，AI 可能即將達到「由人工智慧帶動研發進展大幅加速」的門檻，逐漸形成 AI 協助開發更強大 AI 的循環。不過，公司強調，目前已發布的 Claude 模型尚未被認定達到這項標準。
Anthropic 在文件中揭露，Claude 程式代理已深度協作公司內部研發。2026年9月，超過90%的內部程式碼貢獻由 Claude 撰寫，工作範圍涵蓋程式開發、實驗測試、資料處理及模型最佳化。公司也指出，工程師平均每日的程式碼產出已達2024年平均水準的45倍以上。隨著 AI 能夠承擔更多開發工作，研究人員可以將時間投入模型設計與重要決策，進一步加快下一代產品的研發速度。
這種讓 AI 參與改進 AI 的方式，被稱為「遞迴自我改進」（Recursive Self-Improvement，RSI）。簡單來說，就是利用現有 AI 協助打造更強大的新模型，再讓新模型繼續參與後續研發。Anthropic 擔心，當這個循環不斷加快，AI 的能力進步速度可能超過人類評估與管理的能力。公司也坦承，過去曾在研發進展已經加速後才察覺變化，因為部分評估數據必須等到成果出現後才能確認。
儘管 Claude 已成為內部重要的開發工具，Anthropic 仍不打算讓 AI 完全接管下一代模型的設計與訓練。公司認為，在缺乏人類充分監督與理解的情況下，讓 AI 自主建立更強大的模型，現階段仍存在重大安全疑慮。Anthropic 正考慮修改《負責任擴展政策》（RSP），加強重要研發決策的人工審查與核准機制，避免模型能力提升過快，導致安全防護跟不上。
值得注意的是，Anthropic 過去已曾因安全問題延後新模型的開發進度。在此份公開說明書透露，公司近期曾將一款最高級模型的預訓練延後超過一個月，以加強模型權重及相關技術的保護措施。如今隨著上市準備工作推進，Anthropic 也必須向投資人說明，AI 加速研發雖然有助降低成本、提高競爭力，卻可能同時增加安全風險。至於 Claude 何時真正跨越自我改進的關鍵門檻，公司尚未提出明確時間表。