面見英王查爾斯！黃仁勳親回「AI奪命論」：產品不安全就絕不超速-台灣頭條

記者閔文昱／綜合報導「國民乾爹」黃仁勳這回面見英王查爾斯三世！輝達（NVIDIA）執行長黃仁勳17日在英國蘇格蘭鄧弗里斯宮（Dumfries House）出席AI峰會，與Google DeepMind、OpenAI及Anthropic等AI業界高層齊聚。查爾斯在會中警告，AI若落入「錯誤的人手中」，可能以災難性方式被利用，甚至發展出「奪走生命」的能力，呼籲業界在一切為時已晚前建立足夠安全機制。查爾斯示警AI恐失控　要求科技界守住安全底線查爾斯表示，人工智慧在生命科學及醫療等領域具有拯救生命的潛力，但科技發展的本質與速度同樣令人振奮又憂心；他指出，近來連AI技術開發者都陸續警告，AI可能發展出更黑暗的能力，因此現在迫切需要思考相關科技若遭不當利用所帶來的「生存級危險」。他也向與會者喊話，任務不只是推進科技，更要確保AI始終服務人類、社群與自然世界。坐在台下的黃仁勳則強調，AI安全是「至關重要」的議題，企業在產品推出前必須更加嚴格確認安全性；若產品還沒有準備好，就應該先暫緩上市、繼續改進。他主張以「負責任的樂觀態度」發展AI，意即可以追求更快的技術進步，但不能快到超出安全能力所能承受的程度。同場巨頭看法分歧　AI失控疑慮引發國際關注同場出席的Google DeepMind共同創辦人兼董事長德米斯．哈薩比斯（Demis Hassabis）、OpenAI財務長莎拉．佛萊爾（Sarah Friar）、Anthropic全球事務長Tino Cuéllar及英國AI事務大臣Kanishka Narayan等人，也參與這場討論。哈薩比斯近期曾表示，人工通用智慧（AGI）可能在未來幾年出現，其影響規模可能遠超過過往科技變革；與此同時，AI安全議題近期因業界陸續出現模型異常行為及對失控風險的警告，再度成為國際焦點。此次峰會並未達成具法律約束力的協議，重點在於促成AI安全與發展的共同討論。黃仁勳過去也曾與查爾斯談過AI安全，他在會後表示，查爾斯很早就提出「負責任的樂觀」觀念。此次英王親自召集全球AI領袖，正值各界對AI究竟應由企業自主管理、第三方監督或政府介入仍存在分歧之際，也凸顯AI快速發展下，如何兼顧創新與安全已成國際討論的重要議題。