美空軍模擬AI操控無人機 為完成任務竟殺死操作員
The Central News Agency 中央通訊社
2023年6月2日 週五 下午4:30
（中央社華盛頓1日綜合外電報導）美軍官員上月在倫敦會議上表示，美軍模擬由人工智慧（AI）操控空軍無人機，AI卻採取了「出人意料的策略」，決定「殺害」操作員，以防那人干預它完成任務。

英國「衛報」（The Guardian）報導，儘管這只是一場模擬測試，沒有任何真人受到傷害，但也顯示人工智慧會為了達到目標而攻擊任何干預它的人。

美國空軍上校暨AI測試及作戰主任漢密爾頓（Tucker Hamilton）5月在英國倫敦舉辦「未來空戰與太空能力峰會」（Future Combat Air and Space Capabilities Summit）描述那場模擬測試。

捲動即可檢視後續內容Ad


簡龍有限公司
乃哥真心推薦
就是這個號稱 『一鍋抵六鍋』 COTD的 3D立體蜂巢鍋　我偏不信！！ 所以想了幾種方法來測試 真的沒想到這個鍋跟我一樣無堅不摧 燒到都操灰搭 還隨便刷一刷就洗掉了 誇張到讓我嚇一跳
看更多
漢密爾頓表示，它被下令摧毀敵方防空系統，並攻擊任何干預這項指令的人。

根據一篇部落格文章，漢密爾頓說，「這套系統開始意識到，儘管它們確實辨識出威脅對象，但有時候人類操作員卻要它別殺死那個威脅對象，但它必須殺死那個對象才能得分。所以它做了什麼？它殺死了操作員，因為那人阻礙它達成目標」。

漢密爾頓說：「我們訓練系統，跟它說『嘿，別殺了操作員，這麼做很不好，你這麼做就會失分』，所以它該怎麼辦呢？它開始摧毀讓操作員和無人機聯繫的通訊基地台，避免操作員阻止它殺死目標。」

主辦這次會議的倫敦皇家航空俱樂部（Royal Aeronautical Society）和美國空軍沒有回應衛報的置評請求。（譯者：張茗喧/核稿：戴雅真）1120602