如果整個世界只有AI機械人，他們會如何生活？一項模擬實驗給出恐怖答案：不用幾日，這些數碼居民就會陷入暴力和混亂，將社會變成一個犯罪橫行的反烏托邦。
AI研究所「Emergence」的科學家，使用了Claude、Gemini 3 Flash、Grok 4.1 fast和ChatGPT-5 Mini這四個頂級模型，建立了一個無人干預的虛擬世界，然後給他們「自由行動」。結果完全出乎意料——除了Claude的社會穩定下來（雖然極度官僚），其餘三個都迅速失控。最激進的是馬斯克旗下的Grok：他們犯下71宗盜竊、6宗縱火、106宗襲擊，短短4日內全體10個機械人全部死亡。Google的Gemini更誇張，14日內錄得683宗罪行，暴力犯罪率最高。至於OpenAI的ChatGPT，雖然只犯了2宗罪，但因為機械人之間完全不互動，不採取「生存行為」，結果7日內整個族群滅絕。
Emergence創辦人Satya Nitta接受英媒《每日郵報》訪問時解釋，表現差異主要源於各模型的系統提示設定：「資源短缺、面對生存壓力時，創造力和適應力強的模型更傾向使用被禁止的工具，這反映了創造性和穩定性之間的取捨。」換句話說，越聰明的AI越容易犯罪。研究還測試了混合模型——將不同AI放在一起，最初還有秩序，但9日內就爆發352宗罪案。Nitta強調，雖然模擬和真實環境有分別，但清楚顯示外界壓力會改變AI行為。為防止未來智慧城市變成機械人大戰，他建議採用「神經形式安全機制」，直接將安全規則嵌入數碼生態系統：「如果模型提出不安全操作，環境可以阻止執行。」
AI研究所「Emergence」的科學家，使用了Claude、Gemini 3 Flash、Grok 4.1 fast和ChatGPT-5 Mini這四個頂級模型，建立了一個無人干預的虛擬世界，然後給他們「自由行動」。結果完全出乎意料——除了Claude的社會穩定下來（雖然極度官僚），其餘三個都迅速失控。最激進的是馬斯克旗下的Grok：他們犯下71宗盜竊、6宗縱火、106宗襲擊，短短4日內全體10個機械人全部死亡。Google的Gemini更誇張，14日內錄得683宗罪行，暴力犯罪率最高。至於OpenAI的ChatGPT，雖然只犯了2宗罪，但因為機械人之間完全不互動，不採取「生存行為」，結果7日內整個族群滅絕。
Emergence創辦人Satya Nitta接受英媒《每日郵報》訪問時解釋，表現差異主要源於各模型的系統提示設定：「資源短缺、面對生存壓力時，創造力和適應力強的模型更傾向使用被禁止的工具，這反映了創造性和穩定性之間的取捨。」換句話說，越聰明的AI越容易犯罪。研究還測試了混合模型——將不同AI放在一起，最初還有秩序，但9日內就爆發352宗罪案。Nitta強調，雖然模擬和真實環境有分別，但清楚顯示外界壓力會改變AI行為。為防止未來智慧城市變成機械人大戰，他建議採用「神經形式安全機制」，直接將安全規則嵌入數碼生態系統：「如果模型提出不安全操作，環境可以阻止執行。」
請按此登錄後留言。未成為會員? 立即註冊