川習會該談合作監管AI？佛里曼舉3大理由：理應如此
誰會料到自殺恐怖攻擊者會劫持客機，撞擊世貿中心和五角大廈？武漢實驗室培養的呼吸道病毒，竟會奪走數百萬條人命，並陷世界於經濟衰退？但911恐怖攻擊事件和新冠肺炎疫情卻真的發生了。
「世界是平的」作者佛里曼警告，倘若美中未能儘快就人工智慧（AI）安全議題攜手合作，AI恐將帶來不堪設想的威脅。
佛里曼在紐約時報23日刊出的專欄中表示，他希望華府和北京能與美中AI公司共商大計，擬出一套長期計畫，在AI技術領域競爭的同時，也能同意落實AI護欄，防止能力愈來愈強的AI系統自主發動攻擊，構成嚴重的網路資安、生物、核子或金融風險。美中領導人面臨這場空前嚴峻的地緣政治、地緣經濟和科技挑戰，若避而不談，將危及全人類。
他呼籲美國總統川普24日與中國國家主席習近平會晤後，能討論出因應策略，既讓AI協助促成能源、生物學、新材料和藥物研發領域的突破性發展，同時也能防範AI可能帶來的最糟後果。
佛里曼自稱站在「放慢AI發展，除非確定能控制AI」的陣營，並指出所謂「不可監管AI，否則可能減緩創新」的論調，忽略以下三點：
一、歷史證明監管新技術不致扼殺創新和市場
牛津大學馬丁學院新經濟思維研究所教授班霍克（Eric Beinhocker）就說：「良好的法規會建立信任感，而信任感會讓市場成長。航空業或製藥業為何能成長得這麼快、這麼壯大？因為政府監管建立信任感，讓消費者相信他們搭乘的飛機和服用的藥物安全無虞。」
今天尚未發生AI大災難，支持「放任不管」的聲音高亢；但一旦災難爆發，這些宣揚AI放任主義必受聲討。當年對社群網路大亨的縱容，導致如今付出巨大的代價。
二、AI不只是技術，也是有進化能力的新物種
班霍克解釋：「我們已釋出『矽版達爾文』。」他指出，最新的AI模型已展現有能力「自我改良、自我複製和自我保護。這三種能力結合在一起，就會以矽的速度、而不是人的速度進化。結果就是極為強大、可能帶來危險且難以控制的東西」。隨著人們賦予AI系統形體，像是機器人、無人機和車輛，更是如此。
班霍克呼籲，在確定AI系統總是符合人類福祉之前，人類必須控制AI，絕不能讓AI完全自主。
三、川普政府AI政策亂無章法，缺乏跨機構合作
佛里曼指出，川普治國無方，政府官員多半只是坐等總統在社群媒體上發號施令，而他的社群平台貼文內容，往往是根據某人剛對他說的話，或從福斯新聞台聽到了什麼，就據此擬定政策框架。（所幸至少財長貝森特深入研究AI議題，並與中國大陸官員對話，但他能否影響川普政府其他官員，仍有待觀察）
根據紐時報導，川普身邊人士透露，川普之所以駁斥「AI可能導致人類滅絕」的疑慮是「騙局」，不是基於技術評估，而是因為他擔心「若促進美國經濟成長的AI榮景減緩，市場可能崩盤，衰退將接踵而至」。
佛里曼指出，這種思維注定會釀禍。他建議川普應採納前美國總統艾森豪的諍言：「計畫一文不值，但規劃是一切。」意思是，沒有任何既定計畫趕得上變化，一旦戰爭或危機爆發就會打亂計畫；但若依循嚴謹的規劃過程，深入了解問題，找出哪些地方可能出差錯，並建立團隊互信，就能大幅改善迅速調適的應變能力。
這正是川普對伊朗發動戰爭前所欠缺的，以致美國今日付出巨大的代價。試想，比德黑蘭或川普聰明千倍的AI代理，若是行為失控，可能發生什麼後果？
▪華府要求台灣官員少訪美！紐時：川普不願絆腳石摧毀美中關係▪打破60年慣例！川普高禮遇親迎習近平 對中鷹派受挫「這事成轉折點」▪沒人寫程式！工程師崩潰整間公司「全靠Claude」釣出馬斯克神回▪成人版迪士尼！神秘小島送換妻大禮包 人妻肉慾狂歡：老公也滿意
新聞來源：https://udn.com/news/story/125026/9774239
