為什么我們不用擔(dān)心“殺戮機(jī)器人”？

本文作者：大壯旅

2015-07-31 11:05

導(dǎo)語(yǔ)：自動(dòng)武器還是按人的意志辦事，至于具有自我意識(shí)的機(jī)器人，還早著呢。

近日，超過(guò)12000位知名人士共同簽署了一封公開(kāi)信，他們要求停止人工智能殺戮機(jī)器的研發(fā)。巧合的是，聯(lián)合國(guó)最近也就這一問(wèn)題進(jìn)行了激烈的爭(zhēng)論。因?yàn)樗麄冋J(rèn)為這類機(jī)器人的研發(fā)有些走火入魔了，未來(lái)可能會(huì)帶來(lái)不可估量的后果。

走火入魔？不可估量的后果？有那么嚴(yán)重嗎？澳大利亞新南威爾士大學(xué)的研究員Jai Galliott是一個(gè)機(jī)器人研究者，他整個(gè)職業(yè)生涯都跟軍用機(jī)器人打交道。他認(rèn)為這實(shí)在是過(guò)于敏感了。

在這場(chǎng)大討論發(fā)起之初，他也與簽署公開(kāi)信的人持一樣的觀點(diǎn)，站在國(guó)際機(jī)器人武裝控制委員會(huì)（ICRAC）這一邊。不過(guò)現(xiàn)在他改變了觀點(diǎn)，并給出了以下幾個(gè)原因。

機(jī)器與人的關(guān)系

那些簽署公開(kāi)信的人都是為了擾亂民心，目的是要禁止自動(dòng)武器，因?yàn)樗麄冋J(rèn)為一旦武器鎖定和攻擊目標(biāo)時(shí)不再需要人類干預(yù)，機(jī)器就會(huì)有自主意識(shí)，過(guò)不了多久就會(huì)對(duì)人類大開(kāi)殺戒。

不過(guò)你細(xì)想一下就會(huì)發(fā)現(xiàn)，這種假設(shè)現(xiàn)在根本不能成立，人類不可能不參與到殺戮的過(guò)程中。確實(shí)，機(jī)器人也許已經(jīng)強(qiáng)大到可以殺人，不過(guò)就像人類平時(shí)所做的那樣，機(jī)器也需要遵守一個(gè)復(fù)雜的機(jī)制，這就意味著人類沒(méi)必要天天盯著這一致命系統(tǒng)。不過(guò)歸根到底，機(jī)器人的一切活動(dòng)都會(huì)有人類的身影。

當(dāng)今的科技已經(jīng)讓機(jī)器人可以模仿人類的大腦，進(jìn)行學(xué)習(xí)和做決定，許多人便擔(dān)心機(jī)器人可以擁有“自主意識(shí)”，從而對(duì)人類大開(kāi)殺戒。不過(guò)這一過(guò)程人類可是深度參與了的。

程序員、認(rèn)知科學(xué)家、工程師等在這一自動(dòng)系統(tǒng)研發(fā)過(guò)程中扮演了重要角色，如果我們忽略他們的作用，是不是就有些荒謬了？即使去除這些人的影響，難道將軍、軍隊(duì)和政府也會(huì)不作為嗎？這些人的作用我們也能無(wú)視嗎？

我們已經(jīng)有了自動(dòng)殺戮機(jī)器

這些人一心想要禁止的機(jī)器我們?cè)缇脱邪l(fā)出來(lái)了。

澳大利亞海軍的艦載近防武器系統(tǒng)（CIWS）早已高度自動(dòng)化了。這一系統(tǒng)可以每分鐘發(fā)射上千發(fā)彈藥，在反艦導(dǎo)彈來(lái)襲時(shí)，可以為水面艦艇提供最后一層防護(hù)。另外，除了士兵進(jìn)行手動(dòng)操作之外，電腦也可以自動(dòng)控制其完成作戰(zhàn)任務(wù)。

當(dāng)處于自動(dòng)作戰(zhàn)狀態(tài)時(shí)，這一近防系統(tǒng)的表現(xiàn)完全可與士兵手動(dòng)操作相匹敵。它可以自動(dòng)執(zhí)行搜索、探測(cè)、威脅評(píng)估、目標(biāo)獲取和鎖定和擊毀目標(biāo)等一系列戰(zhàn)術(shù)動(dòng)作。

如果這一近防武器系統(tǒng)已經(jīng)屬于殺人機(jī)器了，也應(yīng)該被禁。但我們沒(méi)聽(tīng)說(shuō)過(guò)誰(shuí)對(duì)這一系統(tǒng)有過(guò)異議，因?yàn)樗鼈冞h(yuǎn)在天邊，眼不見(jiàn)心不煩，而且只有在敵方武器高速來(lái)襲時(shí)才會(huì)進(jìn)行反擊。

正因?yàn)槿绱?，與常規(guī)戰(zhàn)斗相比，它們失手殺人的幾率幾乎為零。

所以為什么我們不把著力點(diǎn)放在現(xiàn)有的法律上呢？制定相關(guān)法律條款限制這類武器的使用范圍不就好了？

為什么我們不用擔(dān)心“殺戮機(jī)器人”？

真正應(yīng)該擔(dān)心的是擁有自主意識(shí)的機(jī)器人

這樣看來(lái)，真正促使這些人強(qiáng)烈反對(duì)機(jī)器人的原因，并不是殺戮過(guò)程沒(méi)有人類干預(yù)，而是怕機(jī)器人未來(lái)?yè)碛凶灾饕庾R(shí)。

考慮到上個(gè)世紀(jì)以來(lái)人類科技的發(fā)展速度，有這樣的疑慮也無(wú)可厚非。從萊特兄弟第一次試飛到飛向太空，我們只用了不到七十年，所以如果有足夠的時(shí)間，創(chuàng)造一個(gè)真正的智能機(jī)器人并非不可能。

不過(guò)也許我們完全不用擔(dān)心，因?yàn)闄M在研發(fā)人員面前的困難很難克服。首先，我們每個(gè)人都擁有獨(dú)一無(wú)二的靈魂，機(jī)器人無(wú)法復(fù)制這一點(diǎn)。另外，通過(guò)邏輯論證我們了解到人類的腦活動(dòng)并沒(méi)有固定的算法，這也是機(jī)器人無(wú)法習(xí)得的。

現(xiàn)在我們所能構(gòu)想的系統(tǒng)，無(wú)論是否具有自主學(xué)習(xí)能力或者高度復(fù)雜的操作，都是編程和人工智能的產(chǎn)物，其背后都是程序員和系統(tǒng)設(shè)計(jì)師，擁有自主意識(shí)的智能機(jī)器人永遠(yuǎn)不會(huì)出現(xiàn)。一旦人們意識(shí)到這一點(diǎn)，對(duì)所謂殺戮機(jī)器的反對(duì)就完全是無(wú)源之水無(wú)本之木。