0
喬治亞理工大學(xué)的AI研究員Mark Riedl表示，不擔(dān)心AI反噬人類。圖片來源：喬治亞理工學(xué)院。
許多科技大牛對人工智能技術(shù)都有些談虎色變，硅谷鋼鐵俠馬斯克就是其中之一，2014年他在公開場合表示“AI技術(shù)正在召喚惡魔”，稱AI技術(shù)將像《2001太空漫游》中的HAL 9000人工智能電腦一樣殺死所有“船員”。無獨(dú)有偶，著名物理學(xué)家霍金也表達(dá)了自己的擔(dān)憂，他認(rèn)為人類不斷在AI領(lǐng)域探索“是個(gè)極大的錯(cuò)誤，該錯(cuò)誤甚至可能是人類有史以來犯過的最愚蠢的錯(cuò)誤。”
不過也有人不信這一套，來自佐治亞理工學(xué)院交互計(jì)算系的人工智能研究人員Mark Riedl就是其中之一。
“我認(rèn)為人們大可放心，人工智能反噬人類的情況不太可能發(fā)生，”Riedl說道?！拔艺J(rèn)為科幻片中的天網(wǎng)不太可能誕生，而且AI也不會(huì)將人類看成它們的威脅?！贝送?，以現(xiàn)在的技術(shù)水平來看，想要打造馬斯克和霍金眼中那種覺醒后會(huì)毀滅人類文明的AI還不太現(xiàn)實(shí)。
不過，未雨綢繆總不是壞事，在AI的發(fā)展之路上，許多專家已經(jīng)開始了行動(dòng)。舉例來說，未來自動(dòng)駕駛汽車載著我們出行時(shí)，就需要替人類做出許多選擇。那么如何調(diào)教AI，讓其符合人類的價(jià)值標(biāo)準(zhǔn)，以保證我們的安全不受侵害就成了需要考慮的問題之一。
Riedl認(rèn)為要想讓AI理解人類，最好的辦法就是讓它閱讀那些飽含人類價(jià)值觀的書目。簡單來說，如果AI能閱讀《圣經(jīng)》等作品，就能通過學(xué)習(xí)樹立正確的三觀，分清善惡的界限。
Riedl表示，人工智能即使會(huì)傷害人類，也不是因?yàn)槠湫员緪海且驗(yàn)樗静焕斫獾降资裁词莻?。此外，我們也很難給AI列出一個(gè)清單，告訴它什么可以做，什么不可以做。因此，我們要讓AI適應(yīng)人類文化。
“問題在于我們手中并沒有關(guān)于道德和不道德行為的完整資料庫，”他說道?！安贿^人類幾千年的文明孕育了太多的善惡故事，即使我們?nèi)祟?，也是通過學(xué)習(xí)樹立自己的三觀。在人類文化方面，我們可沒有用戶使用手冊，不過智慧的前人已經(jīng)將精華放進(jìn)了許許多多的故事中。”
Riedl和他的同事Brent Harrison最近在一篇名為《用故事給AI灌輸價(jià)值觀》的論文中提到了上述觀點(diǎn)。他們的研究基于一個(gè)名為Scheherazade的人工智能項(xiàng)目，在這里，AI可以寫出交互式小說（即通過不斷選擇來決定故事的發(fā)展方向），當(dāng)然，在開寫前AI需要從其他故事中取經(jīng)。在研究過程中，Riedl和Harrison洞悉了AI從大量故事中學(xué)習(xí)寫作技巧的方法，他們將其制成了名為Quixote的系統(tǒng)，該系統(tǒng)可以教會(huì)AI用合適的方式完成任務(wù)。
舉例來說，Riedl和Harrison會(huì)下令讓AI從藥房拿些藥?！叭绻鸄I只是以效率為先，它肯定會(huì)沖進(jìn)藥房搶走所需藥品并逃之夭夭。”Riedl說道。
AI會(huì)犯這種大錯(cuò)不是因?yàn)樗硇孕皭?，而是它根本不知道去藥房拿藥需要排?duì)和付款。而這些約定俗成的習(xí)慣可不是學(xué)校學(xué)來的，而是人們在生活中耳濡目染慢慢習(xí)得的。不過AI可沒有父母，也沒人肯花大量時(shí)間來培養(yǎng)它，因?yàn)樗鼈兩鷣砭褪且瓿扇蝿?wù)的。
“不過如果我們能通過一系列真實(shí)的故事讓AI學(xué)會(huì)社會(huì)準(zhǔn)則，那么它們一定會(huì)有很大的進(jìn)步，跑去藥房搶藥的事就再也不會(huì)發(fā)生了。”Riedl說道。
雖然需要許多限制性因素，但Riedl和Harrison通過實(shí)驗(yàn)驗(yàn)證了自己的理論。當(dāng)然，在實(shí)驗(yàn)中去藥房買藥的AI并沒有獲得機(jī)器外殼，而且它們參考的故事都直接與去藥房買藥一事息息相關(guān)（可能那個(gè)故事很無聊，因?yàn)槭菍ｉT為這次實(shí)驗(yàn)撰寫的）。
在實(shí)驗(yàn)中，如果AI表現(xiàn)出色，就會(huì)得到獎(jiǎng)勵(lì)，但如果違反了社會(huì)準(zhǔn)則，就會(huì)受到懲罰。
“這種做法非常明智，”生物倫理學(xué)家兼美國進(jìn)步中心研究員Jonathan Moreno說道?！巴ㄟ^小說，我們可以接觸他人的實(shí)際生活。同時(shí)，小說也是作者眼中社會(huì)價(jià)值和期待的集中體現(xiàn)，Riedl的做法值得點(diǎn)贊?！?/span>
如果我們真能做出天網(wǎng)級別的AI，恐怕Riedl和Harrison的AI培養(yǎng)法會(huì)成為救世主，不過到時(shí)我們還要考慮用什么故事來教育它們。
當(dāng)然，不是所有小說都能成為AI的老師，有時(shí)人類世界的故事善惡不是特別分明，一個(gè)人可能是罪犯，但在人性中他卻有自己的閃光點(diǎn)。此外，世界上有許多反英雄形象，而且圣經(jīng)中的許多準(zhǔn)則也并不符合當(dāng)下的價(jià)值觀。
這些問題又給我們引出了另一個(gè)在道德上模棱兩可的問題，那就是：誰有權(quán)為AI選擇它們要學(xué)習(xí)的故事呢？
“可以說這是一個(gè)政治問題，”Moreno說道?！霸谖铱磥?，這問題根本沒有正確答案。如果想走這條路，我們就需要從各個(gè)方面進(jìn)行分析和決斷?！?/span>
“如果你想成為AI的老師，那就得擁有圣人般的學(xué)識，”Riedl說道，“但如果你在教材中刪掉了反英雄形象，那就說明你這圣人當(dāng)?shù)貌缓细?，因?yàn)槟銓@個(gè)社會(huì)根本沒有深刻的理解，而這正是我的擔(dān)心之一。我們已經(jīng)進(jìn)入了大數(shù)據(jù)時(shí)代，經(jīng)驗(yàn)告訴我們，超量數(shù)據(jù)總比剛好夠更安全，因此只要是合規(guī)的，就可以加入供AI學(xué)習(xí)的數(shù)據(jù)庫中，只有這樣我們才能不偏不倚的判斷出到底什么是善什么是惡。”
讓AI變得比人類更加善良絕對是件好事，但僅通過代碼是無法完成這項(xiàng)偉業(yè)的。即使是阿西莫夫，也是憑直覺寫下不朽的機(jī)器人三定律的。因此，眼下能讓AI在三觀上比肩人類已經(jīng)是個(gè)復(fù)雜的任務(wù)了。所以我們只能寄希望AI從故事中多學(xué)好品質(zhì)，少學(xué)點(diǎn)人類的爾虞我詐了。
via MotherBoard
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
