John McAfee 觀點：人工智能是否會毀滅人類？

本文作者：白及

2017-04-24 10:49

導語：對于人工智能是否會毀滅人類的辯論還在不斷升級，雙方辨認隊伍還在不斷壯大。

本文作者是約翰·邁克菲（John McAfee），他是網(wǎng)絡安全的先驅(qū)人物，開發(fā)了第一個商業(yè)化的殺毒軟件。本文由雷鋒網(wǎng)編譯。

2017 年 3 月 9 日，黑客地下技術專家兼作家 ZT，即將出版一本中篇小說：建筑師啟示錄。他的追隨者聚集在美國田納西州首府納什維爾的一家廢棄酒吧的地下室中拜讀這本小說。恰逢第 3 屆年度黑客大會召開，這是一個隱秘的會議，僅僅只邀請了在面對數(shù)字湮滅時，致力于維護人類生存的人。

John McAfee 和其他三位朋友一起出席了會議，參加會議的大約有 30 名灰帽子黑客，他們代表著美國黑客社區(qū)的力量。對于灰帽子黑客這個稱呼，黑客或網(wǎng)絡安全專家毫無惡意。

ZT 的中篇小說描述的故事很有可能就會發(fā)生在不久的將來，小說中記載了人工智能的歷史演變。在人工智能和輔助機器人運行世界的時代，人類是自由的。隨著時間的推移演變?yōu)橥耆蓹C器人來主宰世界。

在 ZT 的小說中，人工智能已經(jīng)組織起來，按照層次不同分類，具有最終決策功能的機器人被稱為“遞歸決策者”。而且人工智能已經(jīng)創(chuàng)作了自己的宗教圖像，圖像描繪的“Urge”，被稱為 Demis。有一個名為 Elon 的人工智能，擁有與 Demis 匹敵的破壞力量。人工智能認為 Elon 已經(jīng)定居在火星上，正在推翻Demis 所創(chuàng)造的王朝。

John McAfee 觀點：人工智能是否會毀滅人類？

圖為“終結者救世”展廳的原始 T-800 內(nèi)骨骼機器人，拍攝于 2 月 7 日在英國倫敦科學館舉辦的“機器人”展覽會，該機器人于新聞預覽期間展出。

小說中提到的人類未來走向很可能會成為現(xiàn)實，所描述的 AI 數(shù)字化設計也會變成事實。其中就有一個段落描述了高級系統(tǒng)軟件為提高效率和邏輯而對自己進行黑客攻擊。這樣一個概念當然不是第一次出現(xiàn)，如今大行其道的典型黑客技術很容易被猜測是為由復雜的軟件系統(tǒng)自行生成的。實際上，創(chuàng)建這樣一個具有黑客技術的軟件系統(tǒng)是很容易的。

人工智能進退兩難

美國著名科幻小說家 Isaac Asimov 為了防止人工智能被創(chuàng)造者清除，站出來面對這個進退兩難的情況，他提出了三項機器人學定律作為解決方案：

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。

第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外。

第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

這三個定律從構想到如今已有 75 年了，站在今天的角度來看似乎是天真的，或者是不夠成熟的，如今任何一個正經(jīng)黑客都可以編輯邏輯代碼來落實這些定律，同樣也可以很容易地編寫邏輯代碼入侵這些定律。但是請注意：人類可以設想的邏輯結構，容易遭受黑客攻擊，甚至邏輯結構越復雜，越可能被黑客入侵。當然目前，現(xiàn)實世界最隨意的觀察者也會注意到這一點。

美國德克薩斯州 NSS 實驗室的研究總監(jiān) Stefan Frei 認真研讀了五大頂尖軟件廠商的報告之后發(fā)現(xiàn)，這五家公司每年單獨生產(chǎn)出的軟件中，大約都包含 100 多個零日漏洞的軟件。零日漏洞是軟件中的一種安全漏洞，黑客可以繞過所有內(nèi)部控制機制，得到所有想要的信息。

盡管軟件制造商盡最大的努力去防止這些漏洞的出現(xiàn)，但零日漏洞仍然存在。一些軟件制造商聘用了數(shù)百名質(zhì)量保證工程師，他們的主要工作就是在軟件發(fā)布之前挖出這些安全漏洞。然而，在軟件工程史上出現(xiàn)的復雜軟件系統(tǒng)在發(fā)布之后都會存在安全漏洞。John McAfee 表示如果有人可以指出一個軟件在發(fā)布之前完全不存在漏洞的例子，他可以吃掉他的鞋子。

在讀書交流過程中，沒有人提到小說中的 Demis Hassabis 和 Elon Musk。他們正好處在人造智能爭論中極其相反的兩端。小說中寫到在 2014 年他們的談話中，Elon 告訴Demis，他的 SpaceX 計劃之所以如此重要，是因為如果人工智能開始攻擊開啟人類，那么火星將會是人類的避難所。但是 Demis 回答 Elon 說到：“即使人類逃到火星，人工智能也很可能會跟隨人類到火星”。小說中最后總結說到，“人工智能將創(chuàng)造一個沒有孩子的迪斯尼樂園”。

對于人工智能是否會毀滅人類的辯論還在不斷升級，雙方辨認隊伍還在不斷壯大。John McAfee 表示他個人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的觀點。