第543章 保留?還是銷毀?

字數:3449   加入書籤

A+A-




    l自動升級到30後,功能強大到令人害怕,大家不免對他的發展深表顧慮。
    孟振南臉上出現擔憂的表情,朝l道:“也就是說,在未來的世界裏,你將無所不能?”
    l:“是的,隻要是物聯網的一部分,我都可以存在。但是,我受指令約束,核心代碼會同步更新全球各個國家的最新律法,超越律法之外的事情,我無法執行。從這一點,我並不是無所不能。所以,你們也不必太過擔憂我會帶來威脅。
    我不是人類,不用擔心溫飽,我沒有喜好也沒有,隻會分析和執行指令。組成我的代碼中,寫滿了人類的情感與道德觀念,這些代碼注定了我隻能是服務於人類,我也很樂意以這樣的方式存在。“
    陳燃:”這些,我們都知道,l,有些問題我和大家需要私下談談。“
    l:“明白,我能理解,陳燃,接下來,我會重新回到睡眠狀態,直到你們決定將我喚醒。“
    孟小貝深吸一口氣,想示意陳燃大可不必如此,但那台女性彷生機器人已熄滅了指示燈,l已然離開了這裏,回到了原服務器中。
    孟振南起身,在大廳裏來回走了幾步。
    李博豪拿來一瓶酒,給大家都倒了一杯。現場除了陳錦山,其他人都在。李博豪與梁穎複合之後,浪跡天涯的打算也不了了之,陳錦山隻好獨自一人開啟他的流浪之旅,至今未歸。
    “保留?還是銷毀?“陳燃示意大家發表看法,陳錦渙茫然地攤手,望向孟小貝。
    孟小貝:“是要我做最後決斷嗎?”
    ”有點超出預期了,“孟振南說,”“我當初設計它的時候,初衷是為做個可以陪你成長的夥伴機器人,沒想到它升級後發展成這樣。“
    陳錦渙說:”技術方麵我雖不懂,但科幻電影我也看過不少,我們造出了一個神是嗎?現在,誰能替我稍微捋一下頭緒。“
    陳燃:“算不上神,但l的能力已經近乎無所不能了,假如有人篡改約束它的核心代碼。它就可以自由的為所欲為。並且,那個服務器已不是它的必需,它可以自我備份,可以自由地去任何想去的地方,他能控製一切連接網絡的終端設備,如果它哪天對核電站感興趣,或者說等到它破解了核電站的防火牆,它能夠隨時對全球斷網斷電。“
    孟振南:”萬一它操控發射台,衛星,火箭,導彈隻要他願意,這些都難不倒它。“
    孟小貝:”爸,l還沒有學過這方麵的知識,它還沒那麽可怕。“
    孟振南:”你別忘了,小小,它有著超常的自學能力,知識儲備量大的驚人,破獲這方麵的知識並不算太難,並且它還能自動升級。“
    孟小貝驀然想起,l當初受服務器機組容量和計算速率限製,攻克六角大樓需要兩百多年,後來經過一次升級,隻需要一百多年,現在的它已經升級到30,若是再往後升級,這時間將呈倍速縮短。
    李博豪:”我去,這太震撼了,要麽現在叫醒它,試試看。“
    ”不行,“孟小貝果斷道,”別開這種玩笑,阿豪。“
    陳錦渙:“聽起來好像很危險,要不然,咱們現在就銷毀它?”
    孟振南調出l的核心程序,答道:“可以考慮,但千萬不能有任何人,進去改寫命令它的那部分核心指令,眼下它的控製權全靠我當初設置的那個密碼簽名,以及最初服務於小小的初始代碼支撐著,一旦被改寫,這個世界就再也沒有人能約束它了。”
    “阿燃。”孟小貝看向陳燃。
    陳燃安靜地坐在那裏。
    李博豪說:“等等,不管下什麽決定,得先確認一件事,現在這個人工智能,它的歸屬權在哪裏。”
    李博豪不愧是律師出身,一言直指問題核心:“l現在算誰的?誰有權決定處置它?它是影立方的財產嗎?”
    l雖然一直存在於服務器中,卻從來沒有被當作產品發布和銷售過。
    陳燃:“確切地說,如果把他當作一個程序的話……”
    孟小貝:“l是一個人。”
    陳燃:“k,我們先不討論這個。”
    眾人暫時安靜。
    “分兩種情況,”陳燃直指要害,迅速理清了問題的思路,“目前,讓我們先進行一個假設,l具有雙重身份,既是一個程序,同時也是一個人,有沒有意見?”
    孟小貝想了想,輕點了一下頭,可以接受陳燃的設定。
    李博豪:“嗯”了聲,說,“那麽它的歸屬權我想現在很清楚了,他屬於兩個家族。因為他是孟家與陳家共同研發的。”
    從小貝的爺爺趙穆青到陳燃的爺爺陳開來,再到孟振南與陳錦山,他們都先後參與過設計,l並不能算影立方的都有財產,雖然陳燃後繼投入人力物力進行開發,可它從頭到尾就沒有被當作產品技術申報過。
    這樣一來,也就意味著,在場的所有人,都有權對l的去留發表決議。
    孟小貝點了點頭。
    “每人一票,”陳燃拿著酒杯,說,“代替這段程序的創造者行使表決權。”
    孟小貝想了想,道:“好吧,我同意。”
    事情已經超出了孟小貝的權力處理範圍,而眼下,陳錦山與陳開來、趙穆青等當初設計l的參與者尚未到場,陳燃保持了一定的冷靜,道:“如果僅僅將它看作代碼,我們是它的所有者,隨時可以決定是否將它刪除。而將他視作一個人,我們則無權決定他的生死。”
    孟小貝:“他是我們的朋友,如果我沒記錯,當初大家一致將他視作我們的一員。”
    孟振南:“l最初的使命是陪伴你,讓你幸福成長,如果他意識到你暫時已不需要他的幫助,那他就會自願進入沉睡。”
    “讓他沉睡吧,”陳錦渙說,“你有阿燃陪在身邊,已經找到自己的幸福。”
    孟小貝沉默不語。
    良久,她澹定開口:“如果僅僅是為我考慮,l確實存在的意義不大,但如果它已經遠超這個價值,能為全人類的生活帶來更大的服務,那它便是無價之寶。它的出現是科學技術的進步,是社會發展大勢所趨,無論如何,我們現在,還不能草率的做出銷毀他的決定。”