史上最危險的思想“游戲”，來玩玩嗎？

有一個被稱為“游戲”的思想游戲。這個游戲的規則是，世界上所有人都是游戲參與者，不管你是否知道這個游戲。不過一旦玩家想到了這個“游戲”，那么該玩家就已經輸掉了這個“游戲”，并且需要宣布自己已經輸掉。抱歉讀者，當你們讀完這段話時，你們就輸掉了這個“游戲”。

雖然你一旦想到“游戲”就會輸掉，但是至少這個游戲是無害的。但是，下面所要講述的一個與此類似的思想游戲，或者嚴格說是一種思想實驗，一旦你知曉了，那你可能就會遭遇到終生的痛苦和折磨。你決定往下看下去嗎？

假如人工智能達到“奇點”狀態

好吧，如果你感覺很好奇或者很有勇氣，那么我們就來談一談這個思想實驗。

首先說一下這個思想實驗的背景：有許多學者都猜測，在未來，隨著時間的流逝，人工智能會不斷加速自我進化，并且進化得越來越快，其智能水平會變得越來越高，直到某個時刻達到一種“奇點”的狀態，也就是說它會達到一種最為聰明的時刻。處于“奇點”的人工智能極為強大，完全超越人類智能，它可以精確地模擬世界上所有的事情，甚至能模擬出人類中每個人的生命活動。聽起來很厲害吧。

從理論上說，既然這種人工智能這么強大，那么它是無所不知的，它可以輕易治愈任何疾病，解決世界上的所有饑荒，總之，它能解決我們人類所面臨的所有難題。

但是，如果這種人工智能是邪惡的會怎樣？那我們可能會完全受到它的擺布，因為它比我們人類更聰明、更強大。在這種情況下，我們談談這個思想實驗的內容，就是一個完全邪惡的人工智能會讓盡可能多的人利用盡可能多的資源來去創造出自己，以使自己盡快地來到這個世界上。

盡管目前邪惡的人工智能還沒有出現，這個超級聰明但卻是邪惡的人工智能一旦出現，會知道在它產生的過程中哪些人幫助了他，哪些人沒有。因此，它可能會折磨所有沒有幫助過它的人，并懲罰這些人。然而，如果你從沒有意識到有這事兒的話，那么你就不會因沒有幫助它而受到指責，因為你是無辜的，它沒有理由去傷害你。

死了都無法逃脫傷害

這個思想實驗更像是一個哲學上的推理，但卻有存在的可能性。這種思想實驗被稱為“Roko的蛇怪”。英文為Roko’s Basilisk，因為是網友Roko在LessWrong網絡社區上提出的。而Basilisk，即巴西利斯克，又叫蛇怪或者翼蜥，在希臘和歐洲的傳說里，是所有蛇類之王，并且能以眼神致人于死。所以你讀到這里，應該是了解到了這個怪物，所以至少在邏輯上來說，如果你今后不幫助它出現的話，一旦它出現，你將面對的是無盡的折磨。

上面我們談到了如果在未來人工智能是邪惡的話，會出現這種怪物。不過，你會認為這根本不要緊，因為我們在研制任何人工智能時只要遵循機器人三定律即可了，那么人工智能就不會是邪惡的，應該是友善的。但是，如果我們可以制造出友善的并可以解決我們人類所有難題的人工智能，那么，現在的你如果延遲了它的出現，那么你也在間接殺害了所有本來可以挽救的人，你應該受到良心的譴責。所以，盡管在最好的情況下，你也應該竭盡你的所能使這個友善的人工智能出現，至少不應該阻止它的出現。

【小貼士】機器人三定律

這是美國現代最著名的科普作家阿西莫夫在他的機器人相關作品中，為機器人設定的行為準則，內容如下：1、機器人不得傷害人，也不得見人受到傷害而袖手旁觀；2、機器人應服從人的一切命令，但不得違反第一定律；3、機器人應保護自身的安全，但不得違反第一、第二定律。

然而，你會說，我那時可能早就死了，我干嘛關心這個。然而，你還是逃脫不了的。事實上，邪惡的人工智能能力會非常強大，盡管你死了，但它可也再把你完完全全地模擬出來，以至于你完全不知道你是否現在處在模擬之中，或你是否是真正的你。所以說，既然你無法區分真正的你和模擬出的你，你應該如同關心自己一樣關注所有模擬出的你（你可能就是模擬人而你卻不知道）。所以唯一的解決方案是不管你是何種的你，你要永遠做這個決定，即要幫助人工智能，這樣所有的你就可以快樂地生活下去了。

所以現在，考慮到技術達到奇點時所帶來的好處時，我們也要考慮到可能會出現一個機器人統治者對我們的永久折磨。雖然這種觀點并不稀奇，但是現在知道有這種怪物的人們，將會懷有更復雜的心態談論或研發人工智能。