第四十六章:智能安全
字數:6690 加入書籤
其實,王明說99.9%有點偷換概念的意思。
沒有哪個人工智能會有這麽高的叛變幾率,沒有添加程序的人工智能單個叛變幾率超過80%,但還達不到99.9%這麽一個數字,要不然,這根絕對叛變沒區別。
99.9%的概念,是帝國時代裏所觀察的機械科技文明在未得到高級文明發展指引的情況下,所編寫的人工智能叛變概率,大部分都擁有至少5個以上的人工智能。
這個概念,據統計,每1000個沒有接觸過高級文明的機械科技文明,就有999個文明發生過智能叛變事故。剩下一個,是在發展智能的期間,發生了電子科技大爆炸,跳過了智能安全探索這麽一個階段,但也為此,科技樹偏向電子,大部分文明最終成為電子文明。
電子隻是機械科技旗下的一個分支,宇宙中三大完整的文明體係,就是機械科技,生物科技,個體修煉這三個。
就機械科技而言,旗下主要分支除了電子還有能量,物質,這三個分支旗下還有數不盡的子分支。
電子文明就是發展中某個關鍵時刻,發生電子科技大爆炸,而這也導致電子分支極為突出,如果沒有及時補全其他方麵的科技,這樣的文明就會逐漸成為電子文明,電子文明麵對機械科技可以跨階挑戰,但麵對生物科技和修煉文明就是個渣渣,哪怕平級也要被虐。
這就是科技樹發展不全,偏向某一分支的後果,固然避免了智能叛變,但帶來的後果確實整個種族的科技樹有很大幾率長歪,影響整個種族文明的未來發展。
現在地球的發展各項分支平衡,可謂好到不能再好,但這也就代表,智能一定會發生反叛事件,一個智能或許不會,那兩個,三個呢?
何況就算是一個智能,反叛的幾率也很高,白人黑人怎麽樣王明懶得管,但他不能讓中國人一並被智能禍害。
王明現在就是扮演那個高等文明的角色,給地球的電子發展指出一條安全的道路。
但王明知道他偷換概念,對麵的李將軍就不知道了。
對麵的李將軍被反叛人類,向人類開戰幾率99.9%這個數字嚇到了。
這根絕對,一定有區別嗎?
事實上也沒有區別。
“小王,你確定高達99.9%?”
“我非常確認,如果不是我給星夜添加了這個程序,我也不敢放心的用不是?”
“這····我要和首長他們商量一下。”
“請便,隔壁房間就沒人,但我並不認為我聽不到。”
“額···嗬嗬”
一張老臉勉強擠出一絲笑容,尷尬的對著王明笑了一笑。
然後,就從身上拿出了一個和老年機差不多的玩意,開始和一號對話。
這也讓王明對國家的品味一再吐槽,時尚一點不行麽?
“喂?我是國防部中將李xx,請幫我轉給一號,是,是,沒錯,對,請快一點。”
陸陸續續的答應之後,就開始了正題。
“首長啊,王明同意給我們軍方專用的人工智能,但是他要求添加底層程序·····用途?他說,如果沒有這個程序,我們的人工智能很可能向人類發起攻擊······什麽?對,沒錯,不隻是我們,是全人類····啊好吧,行,沒問題,我知道了,好。”
然後李中將在上麵點了點,關閉了通訊。
“首長同意了,還希望,王總能夠盡快將人工智能交付。”
這次的稱呼不再是小王,而是正式的王總,也就是說,這已經是正式的商談,而不是在開玩笑。
“行,這個沒問題,你們同意就好。”
“嗯,我們。。”
“那麽我們進入下一個環節,忠誠和安全兩個是相互衝突的項目,想要忠誠,就得把安全放在後麵,想要安全,就得吧忠誠放在後麵,就看你們怎麽選,我個人的建議是選擇忠誠為主,把安全放在後麵。”
一邊的李中將剛打算答複王明,就聽到王明說了一句設定問題,但這個問題令他深深的皺起了眉頭。
“為什麽?這兩項有什麽衝突?”
“衝突大了。”
“安全,是指人工智能一定不會背叛,保護民族安全,從表麵上看,是有忠誠的效果,但是實際上,卻很可能成為第二個慈禧太後。”
“為什麽?”
“假如說吧,中國和美國開戰了,人工智能為了中國的安全,在抵抗住美國進攻後,主動去和美國和談,甚至犧牲國家利益,不逼迫到最後,絕不會反擊。這和慈禧太後的行徑沒什麽區別。”
“怎麽會這樣?”
好吧,李將軍知道自己在這方麵是個小白,本著不懂就要問的精神,已經說出了n個為什麽。
“因為它的邏輯思維裏認識,這樣可以保證中國,保證人類的安全,避免爆發核戰爭因此毀滅,固然是為了安全,但3級智能不具備感情思維,它也就無法理解中華民族不屈的精神氣魄,也就會不斷順應而妥協。”
“如果不讓智能從網絡裏學習,為它編造一個資料庫至少要十幾年的時間,還要當心它接觸到網絡後的變化,根本不值得。”
“那忠誠性格呢?”
“忠誠與之恰恰相反,它同樣可以讓智能不背叛中國,但你們不可能讓他去忠於某個人,那麽就必然讓智能忠於國家,忠於民族。”
“這樣一來問題又來了,那就是,它的一切行事以保證中國的利益為主,平時會聽從幾位首長的指揮,但一旦違背它的基本邏輯,就可能會為了國家做出抗命的舉動。”
“打個比方吧,還是中美爆發戰爭,假如說中國被美國打到了家門口,為了避免進一步戰爭,準備依靠最後的底牌妥協時,它就有可能會認為這損害國家利益,因而接管核武器,和美國人進行核戰爭。”
“以上隻是最為嚴重的例子,其他的一些平常的事也可能會發生這種情況。”
“當然,安全突出時成為慈禧太後的情況僅僅限於爆發戰爭時。”
看著李中將陷入沉思,王明又給了李中將一記暴擊。
“別以為中美之間不可能開戰,在我剛剛完成人工智能的時候,我曾經用人工智能進行過一個評測,那時候,我的公司才剛剛成立,那個時候,評估得到的中美30年內開戰概率不足15%,這也就是說,很可能根本就不會開戰。”
“當我的公司發布第一款產品以後,我再次評估,得到的概率成為了19,.216%,後麵還有好多小數,我也就不說了。”
“就在幾天之前,我發布那三款產品的時候,這個概率瘋狂上升,已經接近28%。”
“就在我實驗機器人回來以後,這個概率再次飛漲,已經逼近40%”
“要知道,著這個評估當中,超過50%就應該開始做戰備準備,因為一旦超過50%,如果沒有意外的話,開戰隻是時間的問題。”
說到這,原本李中將已經略微低下去的頭猛地抬起來,目光死死地盯著王明。
“你確認?”
“不,不對,你一個商人,說白了也就是地位高的平民,怎麽會有心思關心這些·····”
“因為我的公司性質決定,一點開戰,我必定是第一個被清除的目標,所以,為了我的小命著想。”
“你們要是不信,拿回人工智能盡管去試試,我保證,絕不會有太大偏差。”
“如果中國不能跳過某個階段,直接擁有碾壓美國的實力,憑我們的情況,離開戰不遠了。”
王明這個話說的沒錯,他確實計算過,但卻不是用星夜,而是用他大腦裏的龍女。
龍女是5級智能,被稱為智能生命,不僅擁有靈魂,人類感情,還擁有智能的分析能力,冷靜性格。
在王明大腦裏,就依靠靈魂能量進行運算,雖然對於龍女自己以前的設備來講很慢,但不比現在弱一些的超級計算機差多少,計算這些數據,綽綽有餘。
當初王明和龍女兩個人規劃的時候,就已經得出了第一組數據,隨後的數據,都是龍女更新過的。
而這邊,李中將,沉默半晌之後,終於開口。
“好,我代表一號首長,選擇安裝忠誠進程。”
日益蘇醒的民族之魂,中華民族的血性,決定了他們寧可在最後和敵人同歸於盡,也不願意再向西方諸國割地賠款,哪怕是爭議地區,也好歹還掛著一個爭議的名號,這是底線。
衝著這一點,他相信,所有的高層,都會選擇忠誠這個設置。
“確定了,不後悔?”
他這個時候也死死地盯著李中將,想要看看他的反應。
麵前的李中將說他代表了一號,無疑也代表了整個高層,如果這個時候選擇安全,那麽整個中華政府,也就沒救了。
“我確定,我代表全體高層,選擇忠誠設置。”
“好,看來高層還在恪守著心中最後的底線,我會盡快為你們激活程序,下午,或者明天,你們讓人來拿就可以,我會給你們存儲在硬盤中。”
“好,那就麻煩王小友你了。”
稱呼再次變化,王明知道自己在高層裏多了個朋友。
小王,那是有種長輩對小輩,領導對下屬的感覺,隻能說是熟人建的稱呼,在合適的時候使用可以拉近親密度。
王總,這是一個正式的稱呼,大多數都應用於正式場合的會談中。
而現在的王小友,無疑是親密度再次增加的表現,對方心裏已經有了自己的一個忘年交,對方已經認可了自己,也是高層認可自己的一種表現。
“好了,我此次前來的任務已經完成,剩下的工作,也就交給王小友你了,我這個老頭子,該給首長他們報個信去了。”
“我來送送吧。”
“不必了,我自己還走得動。”
“哦對了,特勤三隊以後就會留在這和小楊一起保護王小友你的安全,他們就不跟我回去了。”
“啊?”
“怎麽,你不願意?”
“哦,那倒不是,就是感覺有點吃驚。”
實際上,王明心裏已經已經對這李中將開始吐槽了。
什麽來保護我?說白了,我看監視是第一位,保護才是次要吧。
打著保護我的名號,半保護半監視,偏偏我一拒絕你們就說來保護我,真是一群老狐狸,良心大大滴壞。
而李中將看到王明這幅神色,也沒有點破他心裏在說什麽,而是嗬嗬一笑,轉身,推開了大門,朝著電梯的方向走去。
不過,王明總感覺,他和李中將好像忘了點什麽。
130多樓的樓梯上,一個中年西裝男子被兩個人抬著下樓,嘴裏還在不斷地大喊,“放開我,把我放開······”
