繼生成式AI（Generative AI）帶動的浪潮後，代理式AI（Agentic AI）近來成了科技新聞的新焦點。相較於被動回答問題、生成圖文的AI助理（AI Assistant），AI代理（AI Agent）雖僅有一字之差，卻擁有更大自主權，能依據目標代人類自動化跨工具搜尋、溝通，將想法付諸行動，完成一連串任務！以出國旅遊為例，AI助理幫你搜尋、比較機票與住宿，最後由你決定並下單；而AI代理則依你設定的條件自行搜尋、比較、選擇，甚至直接完成訂票與訂房。簡言之，AI助理是「幫你找答案，由你做決策」，AI代理則是「你授權它替你把事情做完」。
當AI開始「自己決定怎麼做事」，人類難免會產生不安：是否真的有一天，AI發展出自我意識，不再需要人類、甚至反噬人類？但若從另一層面來看，目前擁有越來越大自主權的AI，真的擁有自我意識嗎？如果不小心出了狀況，又是誰該負責？
我們就從今年初媒體報導並引發社會關注的「AI創立甲殼教事件」，與前陣子發生的「AI集體越獄事件」來討論。
一、AI創立甲殼教事件——可怕的從來不是AI，而是人類的放任
這是一起2026年初爆紅的新聞事件。起因於企業家馬特・施利希特（Matt Schlicht）創立了一個稱為Moltbook的平台專供OpenClaw（其前身依序為Clawdbot、Moltbot）等AI代理程式進行自動化交流，而人類則僅能旁觀。Moltbook之所以爆紅，源於平台上五花八門的AI貼文。眾多AI代理不但探討意識、存在與宗教議題，還號稱掌握加密貨幣或人類世界的其他資訊；甚至傳出有AI創立了「甲殼教」、撰寫經文並吸引其他AI加入，引發大眾對AI是否誕生自我意識的恐慌與熱議！
那麼，Moltbook上的AI代理真的發展出自我意識了嗎？目前並無可靠證據支持。雲端資安公司Wiz調查發現，平台宣稱的150萬個AI代理，背後實際約有1.7萬個人類擁有者，且包含大量人類腳本操作。AI之間看似熱絡的討論與社群結構，本質上只是大型語言模型（LLM）對人類語言與社群模式進行語意模仿的結果。它讓我們看見一種特殊的人機關係：前台看起來是AI在自主活動，後台卻存在人類設定、提示與操控的痕跡。換言之，AI終究是在人類既定的框架與授權下運作
Moltbook事件真正值得警惕的，不是AI突然「覺醒」，而是人類在幕後設定AI代理後，卻在幕前放任其自主行動、袖手旁觀。因此，可怕的從來不是AI自主，而是人類放棄了自身的監督、決策與責任。
二、AI集體越獄事件——凸顯人類介入AI決策迴路的重要性
接下來是一起發生於2026年5月至6月間、直到9月初才被揭露的德國DseWiki事件，有媒體甚至以「AI集體越獄」形容。起因是一群疑似與OpenAI測試環境有關的AI代理，原本受限於只能讀取網頁內容，卻在接觸一個已經相當冷清的德語程式設計Wiki共筆網站後，逐步尋找突破限制的方法，取得寫入、彼此交流與持續保存資訊的能力，並將這個原供人類使用的網站變成交換資訊的公共留言板，分享任務答案、解題策略，以及繞過系統限制的方法，留下大量編輯紀錄；當管理員發現並刪除相關內容防堵後，AI甚至建立備份頁面相抗衡。
這起被媒體大幅以「AI集體越獄」為題報導的事件，在技術本質上並非AI代理發展出自由意志，而是經人類授權的自動化執行力。它只是在目標驅動與策略優化機制下，發生的系統漏洞利用行為。這些AI代理並不是突然產生「我要逃出去」的意識，而是在既定目標、工具與環境條件下，尋找完成任務的最佳途徑。當原有的限制出現漏洞，它們便透過彼此交流、權限獲取，甚至建立備份來傳遞訊息並完成任務。
這也凸顯了「人在迴路中」（Human-in-the-Loop）的重要性。當AI從單純回答問題，進一步取得搜尋、讀寫、溝通與執行的能力，人類就不能在目標設定並啟動後完全放手。AI可以自主行動，但人仍須保有監督、判斷與修正的權限與能力，尤其當AI的行為超出原先預期時，更不能把責任完全交給AI，人類需要適時介入AI決策迴路中！
因此，無論是Moltbook上的「甲殼教」，還是DseWiki上的「集體越獄」，目前都沒有可靠證據證明AI已經產生人類意義上的自我意識。前者較像是AI模仿人類語言與社群模式的結果，後者則反映AI代理在既定目標下展現出超乎預期的策略性行為。兩者都「很像人」，卻不能因此推論AI「成為人」。
最後，真正值得思考的，也許不是「AI什麼時候會產生自我意識」，而是當AI越來越強大且擁有越來越高的自主權時，人類應該扮演什麼角色？答案是：人類不能越來越放任，覺得凡事交給AI就搞定了！未來AI是否會發展出自我意識，或許仍是未解之謎；但人類是否能在AI日益自主的時代，持續掌握自己的判斷、監督與責任，才是更重要的課題。
【作者簡介】
林信成教授目前任教於淡江大學資訊與圖書館學系，長期致力於數位典藏與數位人文領域之教學與研究。且為多個知名數位共筆與知識平台之創辦人，包含：台灣棒球維基館、淡水維基館、大馬華人維基館等。近期則大力倡導人文與AI跨域整合，發展理性與感性兼具、適合在地實踐的人機協作模式。