[科普中國(guó)]-《流浪地球》：智能指控系統(tǒng)反叛的風(fēng)險(xiǎn)預(yù)警

【《流浪地球》中的“硬核”軍事科技】

編者按：

行星發(fā)動(dòng)機(jī)、重元素核聚變、單兵機(jī)械骨骼、加特林機(jī)槍……近日，正在熱映中的國(guó)產(chǎn)科幻電影《流浪地球》不僅讓科幻圈為之瘋狂，也在軍迷圈掀起波瀾。即日起，《科普中國(guó)-軍事科技前沿》推出系列作品，解讀《流浪地球》中的“硬核”軍事科技，歡迎關(guān)注。

出品：科普中國(guó)

作者：賈珍珍（國(guó)防科技大學(xué)）

監(jiān)制：光明網(wǎng)科普事業(yè)部

有人說(shuō)，這部春節(jié)期間口碑爆棚的《流浪地球》開啟了中國(guó)科幻電影的新紀(jì)元。這種說(shuō)法盡管有些夸張，但卻體現(xiàn)出人們對(duì)國(guó)產(chǎn)科幻電影的美好期待。影片以人類推動(dòng)地球逃離太陽(yáng)系為大背景，從一個(gè)小人物視角，展現(xiàn)出了平凡人在危機(jī)下的無(wú)力與脆弱，以及絕境下社會(huì)與人性的改變。

《流浪地球》中的人工智能MOSS（圖片來(lái)自網(wǎng)絡(luò)）

在影片中，空間站的人工智能——MOSS的一句臺(tái)詞令人影響人深刻：“讓人類永遠(yuǎn)保持理智，確實(shí)是一種奢求?！边@是在劉培強(qiáng)與MOSS產(chǎn)生沖突并決定要犧牲自己點(diǎn)燃木星時(shí)MOSS留下的一句臺(tái)詞。此外，從《流浪地球》中MOSS的決策，我們還能看到人與智能指揮系統(tǒng)之間存在的矛盾，如為什么地震時(shí)地球發(fā)動(dòng)機(jī)大面積熄火？為什么劉培強(qiáng)在和聯(lián)合政府通訊時(shí)說(shuō)“沒(méi)有人類的文明將豪無(wú)意義”，卻立刻被MOSS切斷了通話？那么，MOSS是否真的叛逃？而一旦智能指控系統(tǒng)產(chǎn)生了自我意識(shí)，在未來(lái)戰(zhàn)爭(zhēng)中，這將會(huì)帶來(lái)哪些影響？事實(shí)上，不少科幻電影已對(duì)智能指控系統(tǒng)的威脅展開了討論。如電影《機(jī)械公敵》中原本以保護(hù)人類為使命的機(jī)器人出現(xiàn)集體失序，對(duì)人類展開了殘暴攻擊，《西部世界》中機(jī)器人的內(nèi)部系統(tǒng)不斷進(jìn)化，最終反叛并傷害人類。

雷?庫(kù)茲韋爾曾提出有關(guān)人工智能的“技術(shù)奇點(diǎn)”理論，它的背后有兩個(gè)假設(shè)：其一，雖然不同于人腦的結(jié)構(gòu)，但機(jī)器人的演進(jìn)也可以在某一天擁有“類人智能”，這種智能與人類智能有許多相似的特征，甚至是“自我意識(shí)”也不例外；其二，按照計(jì)算機(jī)科技發(fā)展目前遵循的“摩爾定律”或別的規(guī)律，隨著計(jì)算機(jī)科技的不斷發(fā)展，終究有那么一天計(jì)算機(jī)的復(fù)雜度會(huì)達(dá)到和人類一個(gè)量級(jí)的水平，到那時(shí)，類人智能或超人智能就會(huì)從機(jī)器中自動(dòng)涌現(xiàn)出來(lái)。按照這種假設(shè)，我們可以依據(jù)智能指控系統(tǒng)的特點(diǎn)，將其分為“人機(jī)協(xié)同”式和“機(jī)器自主”式兩種類型。

一是“人機(jī)協(xié)同”式智能指控系統(tǒng)，它主要通過(guò)智能化武器裝備與人的充分配合來(lái)完成特定作戰(zhàn)任務(wù)。比如俄羅斯陸軍在2016年底進(jìn)行了“排級(jí)分隊(duì)帶機(jī)器人實(shí)彈射擊”演練，當(dāng)時(shí)安排了5部“平臺(tái)-M”作戰(zhàn)機(jī)器人與士兵協(xié)同配合展開攻擊行動(dòng)。美軍提出“忠誠(chéng)僚機(jī)”作戰(zhàn)思想，通過(guò)F-35戰(zhàn)機(jī)飛行員對(duì)無(wú)人駕駛型F-16戰(zhàn)機(jī)進(jìn)行指揮與控制，而僚機(jī)則充當(dāng)傳感器、射手或誘餌，并以此設(shè)想為基礎(chǔ)來(lái)迭代式不斷探索未來(lái)空戰(zhàn)和對(duì)地攻擊新戰(zhàn)術(shù)。

二是“機(jī)器自主”式智能指控系統(tǒng)，它主要開發(fā)智能化武器裝備的自主性，一旦有了這種自主性，其就能領(lǐng)會(huì)指揮員的決策意圖，自主完成相關(guān)作戰(zhàn)任務(wù)。如俄軍正在研發(fā)的無(wú)人機(jī)群“任務(wù)智能分配系統(tǒng)”，可以根據(jù)戰(zhàn)場(chǎng)環(huán)境來(lái)合理分配“角色”，迅速制定并實(shí)施最優(yōu)行動(dòng)方案，且能自主完成“行動(dòng)-評(píng)估-再行動(dòng)”作戰(zhàn)閉環(huán)。再如美軍的“蜂群戰(zhàn)術(shù)”，通過(guò)智能化組網(wǎng)大量低成本無(wú)人機(jī)蜂群，接替單個(gè)高成本多任務(wù)平臺(tái)，并依托多智能體的自主協(xié)同行動(dòng)，從而迅速適應(yīng)復(fù)雜戰(zhàn)場(chǎng)環(huán)境。

在影片《流浪地球》中，MOSS指控系統(tǒng)無(wú)疑屬于“人機(jī)協(xié)同”式智能指控系統(tǒng)。然而，由于目前人工智能技術(shù)的發(fā)展局限，智能指控系統(tǒng)容易在執(zhí)行程序復(fù)雜的情景中出現(xiàn)失序，比如美軍在伊拉克戰(zhàn)場(chǎng)上的軍用機(jī)器人失控事件。而無(wú)論是“人機(jī)協(xié)同”式智能指控系統(tǒng)還是“機(jī)器自主”式智能指控系統(tǒng)，過(guò)度依賴人工智能無(wú)疑增強(qiáng)了指揮系統(tǒng)失控的風(fēng)險(xiǎn)性，這就如同把槍交付給了機(jī)器人，而當(dāng)機(jī)器人不聽從人類指揮時(shí)，槍口對(duì)準(zhǔn)的對(duì)象將可能是戰(zhàn)爭(zhēng)中的任何一方。因此，在發(fā)展軍事智能化的同時(shí)，必須始終將人置于主體地位，保證人類指揮員對(duì)系統(tǒng)的控制權(quán)，并建立應(yīng)急預(yù)警機(jī)制與意外發(fā)生時(shí)的后臺(tái)程序，這些都極為必要。

在目前已知的浩瀚宇宙中，只有一個(gè)星體演化出了智慧，這個(gè)星體叫做地球。在目前已知的地球生態(tài)系統(tǒng)中，只有一個(gè)種群擁有智慧，這個(gè)種群叫做人類。人類文明因智慧“善”用而進(jìn)化，人類文明也因智慧“濫”用而毀滅?？苹米骷野_克·阿西莫夫曾說(shuō)：“在我們這些真正無(wú)所不知的人眼中，那些自以為無(wú)所不知的人就是一個(gè)巨大的麻煩”。人工智能向何處去？人類社會(huì)向何處去？這考驗(yàn)著人類的智慧。

劃重點(diǎn)

由于目前人工智能技術(shù)的發(fā)展局限，智能指控系統(tǒng)容易在執(zhí)行程序復(fù)雜的情景中出現(xiàn)失序，比如美軍在伊拉克戰(zhàn)場(chǎng)上的軍用機(jī)器人失控事件。而無(wú)論是“人機(jī)協(xié)同”式智能指控系統(tǒng)還是“機(jī)器自主”式智能指控系統(tǒng)，過(guò)度依賴人工智能無(wú)疑增強(qiáng)了指揮系統(tǒng)失控的風(fēng)險(xiǎn)性，這就如同把槍交付給了機(jī)器人，而當(dāng)機(jī)器人不聽從人類指揮時(shí)，槍口對(duì)準(zhǔn)的對(duì)象將可能是戰(zhàn)爭(zhēng)中的任何一方。