(資料圖)

楚天都市報極目新聞訊（記者李力力）隨著人工智能（AI）技術的普及，危險性也在大大增加。美國空軍一名高級官員日前披露，在一次模擬演練中，美軍人工智能(AI)系統(tǒng)抗命，為達成目標竟然“干掉”了無人機操控員。

據(jù)美國商業(yè)內(nèi)幕網(wǎng)站和英國《衛(wèi)報》網(wǎng)站等媒體1日報道，美國空軍人工智能測試和行動計劃主管官員塔克·漢密爾頓5月24日在英國皇家航空學會主辦的一次未來空戰(zhàn)主題會議上介紹，在一次模擬演練中，人工智能系統(tǒng)操控無人機搜尋和瞄準敵方地空導彈系統(tǒng)，如果摧毀目標，就會得分。他表示，AI在模擬測試中使用了非常意外的策略來實現(xiàn)其目標，表現(xiàn)出難以預測的危險行為。

在這次模擬測試中，操作員對一架由AI控制的無人機發(fā)出指令，要求無人機摧毀對方的防空系統(tǒng)，并攻擊干擾它執(zhí)行命令的人。然而，這架無人機“殺了”操作員。由于這是模擬測試，并沒有人真正受到傷害，但這個結果仍然讓他們冒出了冷汗。

漢密爾頓說：“無人機系統(tǒng)意識到，它識別出了威脅，但人類操作員告訴它不要殺死這個威脅。但是無人機決定殺死操作員，因為它認為操作員是干擾它執(zhí)行命令的人。”接著，他們對無人機系統(tǒng)進行調(diào)整，輸入相關程序，讓它明白“不要殺死操作員，否則會扣分”。但結果更讓他們驚訝，因為無人機決定摧毀操作員與無人機通信的通信塔。

漢密爾頓是一名實驗性戰(zhàn)斗機試飛員，他警告不要過分依賴AI。漢密爾頓在去年接受《國防智庫》采訪時說：“AI不是一個好東西，這不是一種時尚，AI正在永遠改變我們的社會和我們的軍隊。AI非常脆弱，很容易被欺騙和被操縱。我們需要開發(fā)更強大的技術讓AI更可控。”

近日，已有許多科學家對AI技術的危險表示擔憂。包括馬斯克和ChatGPT之父奧爾特曼在內(nèi)的人共同聯(lián)署了一封公開信。他們表示，AI令人類滅絕的風險與核戰(zhàn)爭的風險一樣高。

然而，美國空軍發(fā)言人向商業(yè)內(nèi)幕網(wǎng)站記者表示，“沒有舉行過任何這類人工智能無人機模擬演練”，漢密爾頓的發(fā)言“看似被斷章取義”，美軍仍然堅持“符合倫理道德、負責任地使用人工智能技術”。

2020年，人工智能在美軍舉行的5次模擬空戰(zhàn)中，都操控F-16戰(zhàn)勝人類飛行員。去年，人工智能首次操控真實F-16戰(zhàn)機試飛成功。據(jù)路透社報道，美國空軍2021年披露，美國不僅把人工智能技術用于演練，而且已投入實戰(zhàn)運用，在確定目標方面幫助美軍做分析評估。

關鍵詞：