2018年7月23日，英國國際戰(zhàn)略研究所網(wǎng)站發(fā)布題為“Is assurance the Achilles heel of military artificial intelligence?”的博客文章，作者是地面戰(zhàn)高級研究員本·巴里。博文認為，人工智能有為武裝部隊提供巨大軍事優(yōu)勢的潛力，但處理安全使用問題是一項重大挑戰(zhàn)。

機器學習算法(自學軟件)是新興人工智能(AI)應用程序的核心。這類應用程序通常使用所謂的深度神經(jīng)網(wǎng)絡(luò)，其中軟件將根據(jù)“經(jīng)驗”重寫自己代碼的元素，以更好地執(zhí)行其任務。因此，在這種環(huán)境中可能難以建立明確的輸入和輸出關(guān)系。雖然這在許多民用領(lǐng)域都是可以接受的，但在軍事領(lǐng)域卻存在相當大的困難。處理安全使用問題是武裝部隊和國防部門面臨的重大挑戰(zhàn)。

人工智能不僅對軟件的驗證和人工智能的可靠性提出了挑戰(zhàn)，還存在著漏洞問題。例如，通過利用軟件中的限制，已經(jīng)證明可以“使用看起來與已被訓練識別的對象完全不同的圖片來欺騙圖像識別軟件”。

軟件通過學習重寫自己的部分代碼，但軍事系統(tǒng)卻出現(xiàn)意外行為，這表明不能再采用傳統(tǒng)的武器和國防裝備安全保證方法。如果軍方要充分利用人工智能應用程序，那么就需要克服這些問題。這可能需要修改系統(tǒng)安全保證方法。

在中、俄、英、美等許多國家的武裝部隊中，人們期望自主系統(tǒng)和人工智能可以提供巨大的軍事優(yōu)勢。例如，提高自主性將改善抵抗通信降級的能力，并允許單個操作員控制或監(jiān)督多個無人平臺。人工智能和自主能力的融合可能會產(chǎn)生新的技術(shù)和戰(zhàn)術(shù)可能性。許多倡導者認為，從中長期來看，自主和人工智能具有相當大的“飛躍”潛力。當然，這要求朝著正確的方向飛躍。

在尋求市場機會和降低成本的推動下，民間正對機器人、自動化、自主和人工智能進行投資。在許多領(lǐng)域，商業(yè)投資都大大超過了政府。

毫無疑問，武裝部隊和國防工業(yè)部門都熱衷于利用這項投資，但至少在西方，這方面的投資力度將取決于能否滿足在可靠性和系統(tǒng)行為上提出的具體軍事要求。最近由英國國防部發(fā)展、概念和理論中心出版的《人機組合》，探討了機器人、自主和人工智能的軍事潛力及其局限性。