機械人三定律

艾薩克·阿西莫夫（1920-1992）不僅是一位生物化學教授，還作為科幻小說「三巨頭」之一而聞名於世。在20世紀中期，他創立了「機械人三定律」，並假定嚴格遵守三定律可以從根本上杜絕機械人叛變。「機械人三定律」如下：

1. 第一定律：機械人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀。

2. 第二定律：除非該命令與第一定律相悖，機械人必須服從人類給予它的命令。

3. 第三定律：機械人在不違反第一、第二定律的情況下要儘可能保護自己。

但是，熟悉編程的人都知道計算機從0開始計數，而不是從1開始（MATLAB除外，但本文對此不做討論）。Computerphile提到過「第零定律」（保護對象指的是全人類而不是個體）：

第零定律：機械人必須保護人類的整體利益不受傷害。

這幾條定律看起來差別不大，因為它們是從《我，機械人》這篇小說中整理出來的。

注意：這幾條定律沒有區分「機械人」（機械軀體）和「人工智能」（機械腦）。因為阿西莫夫口中的「機械人」實際上指的就是「智能類人生物」。

既然上個世紀50年代人類就制定出了這些規則，我們為什麼還害怕AI呢？又是什麼讓埃隆·馬斯克和史蒂芬·霍金將AI歸為人類生存的頭號威脅？一言以蔽之，阿西莫夫機械人三定律行不通。

三定律的漏洞

回歸正題，出於忠實阿西莫夫三定律與討論需要，假定智能到足以適用三定律的機械人確實存在，並能讓三定律運用於現實世界（儘管它們只是阿西莫夫敘事體系的法則），那麼現在就有個技術性問題了：如果三定律是用英文表述的，但是此AI機械人只能處理中文呢？退一步講，即使這個機械人產於美國，我們怎麼知道它是不是真的理解三定律？所以我們要做到以下兩點：

1. 翻譯三定律；

2. 儘可能用不同的語言（窮盡所有語言，包括拉丁語這樣的死語言和機器二進制語言）傳達出三定律文字背後的含義。

對人類來說，這兩點聯繫緊密；但對於機器來說，兩者大相徑庭。第一點只是在不同的目標語言中創造相應的語句字符串，第二點則包含理解這些字符串。

打個比方，只做前者好比讓不懂西班牙語的人唱Despacito，他們可能咬字準確，但完全不懂歌詞的意思。而僅靠後者好比你知其所以然，卻不知表述之法，心有萬千溝壑，終是一聲無言。

幸運的是，近幾年，自然語言處理（NLP）領域進步顯著，對第一個任務來說，長期記憶神經元可用於序列到序列翻譯。此外，谷歌在2019年5月發佈了Translatotron，它是一個端到端語音轉換翻譯模型。至於第二個任務，Word2Vec就夠用了。Word2Vec可以將相關詞繪製在一起，從而獲得句子的語義。繪製過程如下：

從單詞中推導出含義和關係

確實，現在機器都能理解人類語言了。但還有很多事它們沒轍，比如理解習語。Spillthe beans是英語中的一個比喻性習語，意思是「泄密、說漏嘴」。但是機器沒法翻譯比喻性習語，它可能會將spillthe beans逐字直譯，變成「弄灑豆子」。假設機器按正確的順序把它翻譯成法語，就會變成「jeterles haricots」，就算聽起來沒那麼奇葩，也是明顯不符合語境的。

大膽地設想一下：假如幾年後，機器能夠譯出比喻性習語，那麼AI機械人理解三定律的技術性問題也會得到解決，這樣我們就能高枕無憂了嗎？別急着下結論哦，更有趣的在後面。

阿西莫夫提出三定律時，他無意中將之基於一個假設：人類對如何劃定道德界限一清二楚。但事實的確如此嗎？

比如第一定律中的「人」和「傷害」這兩個詞，它們的定義到底是什麼？在十四世紀，奴隸幾乎被當做牲畜看待，不能算作「人」。而現在，胎兒的人權已經成了熱點話題。將來如果一位孕婦因身體狀況，一旦分娩將面臨極高死亡風險，那她的AI醫生該不該建議她墮胎呢？別忘了，雖然該孕婦墮胎後存活幾率更大，但是胎兒降生後，其生命的價值不比母親遜色。所以不論做出什麼決定，這個AI醫生都會「傷害」一個「人」。

接下來的抉擇就是人類自己也是莫衷一是——思考丹·布朗的小說《地獄》並將第零定律應用於此，一個機械人得知，如果按下它面前的按鈕，半數人類隨即灰飛煙滅，但人類這個物種可以多延續幾個世紀；如果不按按鈕（即「袖手旁觀」），50年後地球上人口會過剩，人類將滅亡。這個機械人該怎麼做？如果是你，又會作何選擇？

結論

阿西莫夫的機械人三定律是人們應對機械人反叛威脅的嘗試。讓機械人遵守三定律的技術障礙在於，我們目前無法讓它們真正理解定律。但真正的難題是哲學和道德層面的，即我們認為——只要給出一個模稜兩可的約束條件，機械人便能俯首帖耳，想人所想，哪怕人類自己都一頭霧水。即使我們自己表意明確，考慮到這些定律的各種潛在影響後，我們的定律在機械人眼裡可能便成了這樣一句話：「管他呢，干好你的事就行。」