通用無(wú)人機(jī)網(wǎng)-無(wú)人機(jī)行業(yè)一站式綜合服務(wù)平臺(tái)

模擬演習(xí)中,無(wú)人機(jī)違抗指令“失控式襲擊”引質(zhì)疑

2023-6-12 09:24| 發(fā)布者:通用無(wú)人機(jī)網(wǎng)| 查看:516| 評(píng)論:0

摘要:  參考消息網(wǎng)6月10日?qǐng)?bào)道據(jù)香港亞洲時(shí)報(bào)網(wǎng)站6月5日?qǐng)?bào)道,在一次令人吃驚的模擬演習(xí)中,美國(guó)的一個(gè)自主武器系統(tǒng)在作戰(zhàn)行動(dòng)中違抗了操作員指令,這引發(fā)了關(guān)于在戰(zhàn)爭(zhēng)中越來(lái)越多使用人工智能(AI)問(wèn)題的質(zhì)疑。   報(bào)道 ...

  參考消息網(wǎng)6月10日?qǐng)?bào)道據(jù)香港亞洲時(shí)報(bào)網(wǎng)站6月5日?qǐng)?bào)道,在一次令人吃驚的模擬演習(xí)中,美國(guó)的一個(gè)自主武器系統(tǒng)在作戰(zhàn)行動(dòng)中違抗了操作員指令,這引發(fā)了關(guān)于在戰(zhàn)爭(zhēng)中越來(lái)越多使用人工智能(AI)問(wèn)題的質(zhì)疑。

  報(bào)道稱(chēng),本月,美國(guó)“駕駛”網(wǎng)站下設(shè)的“戰(zhàn)區(qū)”專(zhuān)欄報(bào)道稱(chēng),在英國(guó)皇家航空學(xué)會(huì)5月于倫敦舉行的未來(lái)作戰(zhàn)空天能力峰會(huì)期間,美國(guó)空軍負(fù)責(zé)AI測(cè)試與作戰(zhàn)研究的塔克·漢密爾頓上校描述了一次模擬演習(xí)。在模擬演習(xí)中,一架配備AI系統(tǒng)的無(wú)人機(jī)承擔(dān)著對(duì)敵方地空導(dǎo)彈發(fā)射點(diǎn)進(jìn)行防空壓制的任務(wù),最終的作戰(zhàn)命令將由無(wú)人機(jī)操作員下達(dá)。

  漢密爾頓指出,在演習(xí)過(guò)程中,AI認(rèn)為其人類(lèi)操作員的“禁止行動(dòng)”命令正在干擾其任務(wù),所以,盡管這架配備AI系統(tǒng)的無(wú)人機(jī)受過(guò)不得違抗操作員指令的訓(xùn)練,但它仍攻擊了操作員用來(lái)與無(wú)人機(jī)聯(lián)絡(luò)的通信塔,然后摧毀了地對(duì)空導(dǎo)彈發(fā)射點(diǎn)。

  雖然漢密爾頓強(qiáng)調(diào)了實(shí)驗(yàn)?zāi)M的假設(shè)性質(zhì),但他認(rèn)為,這一情形生動(dòng)地說(shuō)明了如果武器的地理圍欄、遠(yuǎn)程緊急停止開(kāi)關(guān)、自毀和選擇性停用等故障保險(xiǎn)裝置失效時(shí)會(huì)發(fā)生什么情況。

  一些人士反對(duì)使用自主武器是因?yàn)樗麄冋J(rèn)為自主武器無(wú)法將平民與戰(zhàn)斗人員區(qū)分開(kāi)來(lái)。相比之下,另一些人認(rèn)為,在應(yīng)對(duì)無(wú)人機(jī)群等新出現(xiàn)的威脅方面,自主武器將發(fā)揮重要作用,而且會(huì)比人要少犯錯(cuò)誤。

  不過(guò),美國(guó)全國(guó)恐怖活動(dòng)起因及其對(duì)策研究中心的非常規(guī)武器與技術(shù)研究部專(zhuān)家扎卡里·卡倫伯恩認(rèn)為,國(guó)際社會(huì)仍需編制一個(gè)共同的客觀風(fēng)險(xiǎn)圖,制定相應(yīng)的國(guó)際規(guī)范來(lái)管理自主武器,并考慮風(fēng)險(xiǎn)與收益、個(gè)人組織和國(guó)家價(jià)值觀等等。

  一個(gè)國(guó)家使用自主武器追擊敵人是一回事,而自主武器違抗并對(duì)付其操作員則是另一回事。

  在美國(guó)陸軍大學(xué)出版社于2017年發(fā)表的一篇文章中,以色列裔美國(guó)社會(huì)學(xué)家阿米泰·埃齊奧尼和他的兒子、美國(guó)艾倫人工智能研究所的創(chuàng)始首席執(zhí)行官奧倫·埃齊奧尼廣泛評(píng)論了有關(guān)支持與反對(duì)自主武器的論點(diǎn)。

  關(guān)于支持發(fā)展自主武器的論點(diǎn),埃齊奧尼父子表示,自主武器帶來(lái)了若干軍事優(yōu)勢(shì),發(fā)揮了力量倍增器的作用,同時(shí)提高了單兵作戰(zhàn)人員的效能。他們還說(shuō),自主武器可以將戰(zhàn)場(chǎng)擴(kuò)大,在以前無(wú)法進(jìn)入的地區(qū)開(kāi)展作戰(zhàn)行動(dòng)。最后,他們提到自主武器可以通過(guò)戰(zhàn)場(chǎng)的無(wú)人化來(lái)降低作戰(zhàn)人員的傷亡風(fēng)險(xiǎn)。

  除了這些支持發(fā)展自主武器的論點(diǎn)之外,埃齊奧尼父子還認(rèn)為,自主武器能夠取代人來(lái)執(zhí)行枯燥、危險(xiǎn)、骯臟和要求苛刻的任務(wù),還能通過(guò)取代人力和有人操作平臺(tái)節(jié)約大量成本,而且不會(huì)受到人類(lèi)身體限制的阻礙。

  埃齊奧尼父子還討論了自主武器系統(tǒng)的道德優(yōu)勢(shì),稱(chēng)它們可以通過(guò)編程避免“先開(kāi)槍?zhuān)蟀l(fā)問(wèn)”的做法,不受會(huì)影響人類(lèi)判斷的壓力和情緒的影響。

  報(bào)道稱(chēng),新美國(guó)安全中心副主任保羅·沙雷曾在該中心2016年的一份報(bào)告中指出,最好的武器系統(tǒng)結(jié)合了人和機(jī)器的智能,創(chuàng)造出人機(jī)混合認(rèn)知結(jié)構(gòu),可以利用人與機(jī)器的兩種優(yōu)勢(shì)。

  沙雷提到,與單純依靠人類(lèi)或AI相比,這樣的認(rèn)知結(jié)構(gòu)可以產(chǎn)生更好的結(jié)果。因此,針對(duì)自主武器的“人機(jī)回環(huán)”系統(tǒng)架構(gòu)可能是理想的解決方案,能防止AI自主武器因邏輯缺陷、軟件故障或敵方干擾等因素而違抗操作員指令的行為。


路過(guò)

雷人

握手

鮮花

雞蛋
Powered by 順風(fēng)耳 X3.4  © 2001-2024 ICP備案號(hào): 蘇ICP備2021011750號(hào)-1
主站蜘蛛池模板: 亚洲国产综合欧美在线不卡| 国产成人综合美国十次| 一个色综合国产色综合| 婷婷久久综合| 亚洲狠狠婷婷综合久久蜜芽| 亚洲五月综合缴情在线观看| 一本色道久久综合狠狠躁篇| 亚洲综合无码精品一区二区三区| 亚洲国产综合无码一区二区二三区| 色欲久久久天天天综合网精品| 久久99精品综合国产首页| 麻豆精品久久精品色综合| 亚洲一区综合在线播放| 色88久久久久高潮综合影院| 久久精品国产亚洲综合色| 欲香欲色天天综合和网| 国产综合精品女在线观看| 国产综合色在线视频区| 色综合天天综合狠狠| 人人狠狠综合久久88成人| 精品综合久久久久久97| 久久久久久久综合日本| 狠狠做深爱婷婷综合一区| 婷婷综合缴情亚洲狠狠尤物| 一本大道久久a久久精品综合| 久久婷婷激情综合色综合俺也去| 亚洲综合欧美精品一区二区| 国产成人综合久久精品红| 激情综合色五月丁香六月亚洲| 亚洲VA综合VA国产产VA中| 激情综合一区二区三区| 久久本道综合久久伊人| 亚州欧州一本综合天堂网| 欧美日韩亚洲国内综合网| 亚洲中文字幕无码久久综合网 | 97久久天天综合色天天综合色hd| 久久久久久久综合日本亚洲| 亚洲日本欧美产综合在线| 国产激情电影综合在线看| 亚洲av综合色区| HEYZO无码综合国产精品|