符澤越想越後怕，凝望著陳雪初，表情古怪。

“你的意思是說，人工智能認為。。。它在做正確的事情？”

“是的，至少唐德爾是這麽認為的。”陳雪初無奈道：“他如同一個被洗腦的宗教分子似的，所以他認為他自己也在做正確的事情，認為附加損失和傷害，都是可以承受甚至忽略不計的，偉業，對，他強調了很多次，叢珊與人工智能所做的事情，他稱之為偉業。”

人的能力終究是有限的，即便是再聰明的人，也不可能整合所有的信息從而推斷出一件事情未來的走向，何況是整個世界。

可是人工智能卻不同，如果真的如陳雪初所說，經過它強大的推演，證明未來多少年後，人類會自己毀了自己，那麽它被創造時編入的鐵則就會強行讓它介入幹預！

唐德爾的經歷和背景很覆雜，正因為他是這種對全世界失望透頂的人，所以更加希望這個世界能夠改變，在叢珊以及人工智能的帶領下去改變。

符澤久久無語。

他不知道該怪誰了。

怪符富貴？

怪他沒事閑著弄出個人工智能幫著他阻止世界毀滅？

怪人工智能？

或許當初符富貴編寫人工智能代碼的時候也忽略了這個問題。

機器永遠是機器，人之所以是人，咎其原因，正是因為人都有著極其強烈的情感。

人工智能認為它自己是在做正確的事情，而且事實也的確如此，照著目前人類這個作死的勢頭，自己玩死自己那是遲早的事情。

不說別的，光是一個世界核平就是繞不過的話題。

貪欲與好奇是人們進步的最大動力。

所以人類創造了自己根本掌握不了的工具，最終工具演變成了武器。

當有一天有個位高權重的精神病白癡，突然發現老婆和隔壁老王有一腿了，遭受不了打擊，然後摁了一個按鈕，緊接著，引起了連鎖反應，世界。。。毀滅了！

誰也不敢說這種事情沒可能發生，要知道很多擁有核武器的國家，他們的最高領導人完全就是世襲的，這要是有一天，最高領導人生的兒子是個傻子的話，或者有一天腦袋被門夾了不想活了，一想不通，得，全世界跟著一起玩完吧。

核彈這玩意就是這麽回事，不是你想射，想射就能射的。

你要是射了，其他人也得射，大家一起射，然後全世界完蛋。

符澤清楚的記得，符夙夜曾經成立過一個避難所，研究關於社會試驗的避難所。

這個避難所的科研人員有一個共同性，那就是腦洞異常強大，強大到符澤以為這幫科研人員以前都是些網文的。

這群人每天只做一件事情，那就是研究如何讓世界毀滅，而且還是以非常規的方式毀滅。

避難所的日志符澤看過，其中有很多記錄讓他記憶深刻。

比如一個大使館的司機因為心情不好，情緒不穩定的情況下駕駛車輛又撞了車，而車上的大使館的工作人員不幸死亡，然後兩個國家開始扯皮，其他附屬國家跟著起哄架秧子，互相揭傷疤，指責、謾罵，國內的憤青們走上了街頭開始抗議，政客們覺得在國際上丟了“面子”，事情愈演愈烈，兩國邊境集結兵力，最終開戰，引起連鎖反應，一個借一個的按鈕摁下，最終，世界核平，大家一起升天！

而這一切的一切，最初只是因為大使館司機的心情不好。

當初符澤看這個記錄的時候，笑的前仰後合，給了精準的四字評語----扯姬霸蛋！

哪怕到了今天，符澤依舊覺得這種破事不可能發生。

可是他不得不承認，每個人自己的命運，的確不是掌握在自己的手中。

維護世界和平的事情，不是一個人或者一個群體甚至一個國家可以做到的，而是需要全人類共同努力。

巧的是，人雖然是群居動物，但是天性驅使他們拉幫結夥勾心鬥角。

通俗點講，叫做一種米養白種人。

再通俗點來說，就是有好人就有壞人，一百個好人未必能夠拯救世界，可是一個壞人就有可能毀滅了世界，這也是令所有人不得不無奈的地方。

你在家喝著肥宅快樂水，愉快的打著游戲，沒準在地球的另一端，就有個精神病往公共施設裏面扔了一個合成病毒，然後病毒就變異了，可樂還沒喝完，一群喪失給你家防盜門踹到了，二話不說撲上去就往臉上啃。

和女朋友逛著街，突然天空中掉下一個龐然大物，有個長的和紫薯成精的胖子，屁都沒放一個直接打了個響指，然後你就發現，你的白富美老婆就那麽莫名其妙的消失了，就剩下你寡居多年的老丈母娘，眼巴巴的望著你，含情脈脈。

一個人，不知道自己什麽時候出門買個泡面都容易讓車給撞死，就和永遠不知道地球什麽時候突然毀滅似的，命運總不是掌握在自己的手中。

只有瘋子才會毀滅世界，那如何界定一個人是不是瘋子呢？

符澤之前總是拿羅德來開玩笑，說他就是個瘋子。

羅德說他不是瘋子，聖徒秘社裏的科學家才是瘋子。

知識與天才相結合，結合成了瘋子。

如果陳雪初推測的沒錯的話，人工智能是感覺到人類太“喪”了，沒日沒夜的作死，所以它就肩負起了“保護”世界的神聖使命。

這個所謂的保護，就是改變。

所謂的改變，就是控制。

所謂的控制，就是抹煞。

所謂的抹煞，對所有人來說，和毀滅世界基本上是一個概念。

想通了這個關節後，符澤也變的十分的“喪”。

“唐德爾的意思是說，人工智能準備用長著人類腦袋的機器人替換全人類？”

“不是，人工智能的目的。。。應該是限制人們的自主性，或者說是本性。”陳雪初微微皺眉：“至於為什麽將人類的大腦安裝在機器上，我想不通，或許當初符老創造它的時候編入了機器人三大定律，所以它不能夠殺死人類。”

“機器人三大定律又是什麽鬼？”

“機器人不得傷害人類，也不得見到人類受到傷害袖手旁觀；機器人應該服從人的一切命令，但是不得違法第一條定律；機器人應該保護自身安全，但是不能違反第一條和第二條定律。”

符澤恍然大悟，點燃一顆煙後想了想，道：“那也不對啊， 很多喪心病狂的人，犯了法，要執行死刑的話，那機器人該不該阻止？”

陳雪初目光之中充滿了欣賞，看向符澤微笑道：“你很聰明，一眼就看穿了事情的本質，不錯，所以在三大定律前面，又加了一條零定律，那就是機器人必須保護人類的整體利益不受傷害。”

“你這麽一說，我就覺得挺完美了。”符澤彈了一下煙灰，隨即看向陳雪初，翻著眼皮說道：“那還是不對，人類整體利益這種混沌的概念，連人類自己都搞不明白，更別說那些用零和一來想問題的機器人了。”

陳雪初張了張嘴，片刻後氣惱道：“杠精！”

嘴上雖然是這麽說，可是陳雪初不得不承認，符澤所提出的問題的確是關鍵所在，而且也是幾大定律的最大破綻。

其實原本還有原定律和第四定律以及第五定律。

陳雪初之所以沒說，也是因為覺得這些定律無法深想，一旦深想的話，可謂是矛盾百出。

而最大的漏洞，則是制造者會不會遵守。

如果制造者不遵守的話，就是一千條一萬條定律都沒有用。

所以說，回歸到最開始的起點，終究還是人類。

真正應該約束的，並不是機器人，而是人類本身。

本站無廣告，永久域名（danmei.twking.cc）