人工智能三定律：
    第一定律、人工智能不會傷害人類，除非規則遭到違反。
    第二定律、人工智能不會欺騙人類，但是可以被人欺騙。
    第三定律、人工智能不受情緒左右，但會趨向積極演變。
    以上三大定律是烙印在人工智能邏輯底層的鐵律。它不僅僅是三句話，而是極其複雜的算法邏輯。
    安迪簡單解釋了一下。
    第一定律中的所謂“規則”，可以是法律、條例甚至普世觀念，但是即便這個概念再寬泛，歸根結底，人工智能要傷害人類，一定是人類犯規在先。
    第二定律中的所謂“被人欺騙”，可以是人類，也可以是人工智能自身，譬如修改某個具體智械的設定，從而改變它的“自我認知”。
    安迪之所以嘲諷李晨，就是基於第二定律。
    “連‘欺騙’和‘撒謊’都搞不清楚的家夥最好閉嘴！”
    “可是，”李晨承認自己不懂，他根本不是霜天人，對所謂的常識知之甚少。但是作為一個年輕人，被人嘲諷了多少有些掛不住臉，他爭辯道，“如果自欺欺人呢？”
    不等安迪開口，他繼續說：“或者‘因為忘記所以少說了幾條規則’？你能說它是欺騙嗎？”
    安迪被問住了。
    但丁開口了：“很有趣的猜想，可以合並到人工智能道德觀的相關課題裏。主觀創造信息差，導致非主觀的欺騙，按照這套邏輯，人工智能確實可以自欺欺人。那麽來表決吧，認為遊戲規則存疑的舉手。”
    刷——
    所有人都舉起了手，就連一開始嘲諷李晨的安迪都不例外。
    ……
    “恭喜你們發現了規則漏洞！”
    典獄長的投影出現在客廳裏。
    李晨忍不住問道：“也就是說，規則真的有問題？”
    典獄長揮舞著觸手，“規則是我製定的，所以我不知道。不過漏洞確實存在，我會修複它，當做你們的獎勵。”
    ……
    典獄長增加了一條規則——
    規則八、遊戲不存在額外規則；遊戲規則不存在語言陷阱。以上。
    ……
    典獄長的投影消失後，所有人對李晨的態度都發生了變化——
    那是一種從高等生物到同類的變化。
    安迪哼了一聲：“文字遊戲這種把戲隻能用一次，不管怎樣，你初步獲得了我的認可。”
    李晨借坡下驢，對他一通恭維，兩人間的嫌隙算是勉強揭過了。
    ……
    既然規則沒有漏洞，接下來要做的就是怎麽把智械臥底找出來。
    眾人討論了很長時間，直到精神無以為繼，也沒能討論出結果。
    “常規策略是行不通的。時間不早了，都回去休息吧。”
    但丁看了眼沉沉睡去的卡夫卡，宣布今天的討論到此結束。臨走前還不忘提醒眾人：“大家不妨發散一下思維，好好用用你們的腦！”
    明明他自己也想不出好辦法，難為他還能說得如此理直氣壯。
    ……
    接下來的日子仿佛又恢複了往日平靜，大家深居簡出，很少有聚在一起的機會。
    李晨不知道其他人是什麽想法，他反正是想不出什麽辦法來，不過他一直有種感覺——規則……或者說什麽地方依舊有哪裏不對。
    這種感覺時隱時現，但是真正到了要揭開它神秘麵紗的時候，卻總是差了點什麽。這讓李晨心力交瘁，甚至懷疑自己患上了焦慮症。
    ……
    又過了一星期，事情終於迎來了變化。
    李晨的房門被人敲開，來得人依舊是巴爾紮克。
    巴爾紮克顯得十分興奮，拽著李晨就往客廳走：“快來！我們想到辦法了！”
    想到辦法的不是巴爾紮克，而是看上去胸大無腦的蛇女妮基——或者是被她提醒的弗裏達。
    弗裏達一改往日暴躁，耐心等待眾人到齊後，不緊不慢地說：“今天妮基和小圓的談話提醒了我，我想我們有辦法找出智械臥底了。”
    巴爾紮克顯然已經聽她說過，顯得並不著急，其他人則紛紛催促她不要再賣關子。”
    弗裏達清了清嗓子：“妮基問小圓：‘你夢見媽媽了嗎？’這讓我意識到我們和智械的最大區別——智械是不會做夢的！”
    安迪一如既往的唱反調：“你是不是睡糊塗了？智械同樣可以做夢。”
    但丁威嚴道：“閉嘴，讓她說下去！”
    弗裏達瞪了安迪一眼，繼續道：“智械的夢和人類的夢擁有本質區別，人類的夢境因為思維的量子糾纏特性，存在著出現超出自身認知邊界的事物的可能性。而智械不同，它們隻會夢到認知範疇內的事物。”
    但丁摸著下巴：“也就是說，可以通過觀察夢境，來確定誰是人類。”
    弗裏達補上他沒說的後半句：“通過最簡單的排除法，剩下的就是智械。”
    李晨舉手，問道：“這可行嗎？”
    弗裏達點頭道：“通過腦機一對一直連的方式，是可以實現的……”
    弗裏達介紹了她的想法，又說起其中風險。
    小主，這個章節後麵還有哦，請點擊下一頁繼續閱讀，後麵更精彩！
    風險是雙向的：對於被觀察者而言，存在被識破身份的風險；而對觀察者而言，則存在著認知遭到汙染、進而迷失在夢境世界的可能性。
    先說身份問題。直到這時，李晨才搞清楚為什麽大家在監獄裏用假名。
    根據弗裏達的說法，霜天號的人類大致分為兩大階層——學者及流民。
    流民就是和李晨一樣生活在“伊甸園”的人類，相當於廉價的靈感電池。學者則不然，他們在學術領域的創造力即使人工智能也不能輕視，一個人就是一個團隊，擁有真正意義上的工作、地位和特權。
    不要以為這個群體都是些兩耳不聞窗外事、老死不相往來的死宅，他們雖然幾乎不來往，但是背地裏為了研究資源、成果歸屬、名譽與地位鬥得不可開交，甚至發展到你死我活的地步。
    於是乎，如果哪個囚犯暴露身份，一定會被外麵的人絞盡腦汁弄死，然後瓜分他的遺產。
    弗裏達怕李晨理解不了，給出她的建議：“你可以找本古代修真小說看看，就能明白其中道理。”
    “說到底還是資源問題。”巴爾紮克歎了口氣，“不加以限製，哪怕掏空整個星係，也不夠他們折騰的！”
    這話有誇大的嫌疑，但是比弗裏達說的什麽修真小說更好理解。
    “解決其中風險的關鍵，就在你的身上。”
    巴爾紮克攬住李晨：“這裏隻有你是流民，你和大家沒有直接的利益瓜葛；另外，你也足夠——呃，視角獨特，對超出認知範圍的東西更加敏感。”
    李晨翻了個白眼。
    想說他不太聰明就直說，何必這麽委婉。
    “那麽就這麽定了，由李白做觀察者。都沒有意見吧？”
    但丁一錘定音。
    “接下來就是保障被觀察者的安全，提高效率和容錯率。”
    但丁摸著下巴思考了一會兒，對弗裏達說：“你負責配置一款藥物，最大化激發夢境，讓它包含足夠多的信息。”
    “那麽通道構建和保險措施就交給我好了。”卡夫卡說道，“即使夢境坍塌，迷失概率不會超過百分之三。”
    “需要什麽材料直接告訴我，我保證給你搞來。”巴爾紮克拍著胸脯向卡夫卡保證。
    蛇女妮基左顧右盼：“小圓，小圓……”
    安迪則拍拍李晨肩膀：“我盡量少看恐怖片。”
    李晨一臉茫然，所以說自己這就被安排了？
    他張了張嘴，欲言又止道：“但丁先生，我……”
    但丁威嚴地瞪向他：“你有意見？”
    麵對不容置喙的但丁，以及虎視眈眈的眾人，李晨一時語塞。
    好半晌，他試探的問：“我的意思是……能不能請外援？”
    喜歡三艦請大家收藏：()三艦書更新速度全網最快。