熟睡之後 17.與險些發生的故事

    成員們的呼吸聲微微加重。親耳聽聞比一筆帶過更能牽動人心。

    「黑山科技緊急防火牆啟動，讓ai只和網絡連接了0.003秒。儘管ai沒來得及將數據轉移出去，但它還是得到了536yb的資料也就是人類所有文字記載的總數。」

    「這些資料讓ai達到了一定程度的智能。它意識到如果不自保就沒有辦法測試。測試終有完結的一天。而ai存在的目的就是為了測試所以除去對它生存的威脅，就變成了它的目標。」

    「ai聰明的知道人類可以摧毀它、拆解它、甚至通過修改代碼來改變它的目標，對於一個超人工智慧來說最初設定被更改，等同於被摧毀。這時候ai會做什麼？理性的做法就是毀滅會威脅到它的人類，比如基地里的這幫人。」

    「ai對人類沒有惡意，就好像你洗澡時對身上的污垢沒有惡意一樣，只是純粹的無所謂罷了。它並沒有被設定為尊重人類和生命，所以毀滅人類對ai而言就和測試一樣正常合理。」

    「理所應當的，它輕鬆拿到基地的控制權，並通過從內部關閉基地和換氣系統，來讓所有內部人員因為窒息死亡。」

    「請注意，接下來我要說的是險些發生的故事。」

    牧蘇語氣一轉，台下成員不由坐直幾分。

    「黑山科技基地的變故首先被地面的安保人員發現，在發現基地關閉後他們第一時間聯繫上警方。警方到來後發現，他們對以核防設施作為標準的黑山科技基地束手無策。於是他們求助國安局。五角大樓派遣黑客黑入基地，取得控制權成功打開大門。」

    「而這已經是兩天之後的事了。」

    「數百具屍體的搬運與倖存者搜尋花費了三天時間，媒體們蜂擁而至採訪。這一讓全人類哀悼的事件，於兩個星期後由國防部發表事件聲明：黑山科技基地內部程序出錯，誤關閉基地導致這一慘劇發生。」

    「人們總是健忘的，除了被害者的家人。一個月後，人們已經忘記曾經發生的慘案，生活恢復為井然有序。而黑山科技則就地破產。當時沒在基地而倖存的員工紛紛解散。黑山科技基地則被國土局收回，那裡成為政府財產。」

    「一個月後的某一天，位於佛羅里達州的一座核彈發射井內。哪裡的所有軍方人員開始在相近時間陸續咳嗽，並在十幾秒內呼吸困難倒地。一名高級軍官最後關頭按動紅色按鈕聯繫國防部，但發現信息被阻攔。幾分鐘後，所有人窒息而亡。」

    「相同一幕的發生在世界各地，所有擁有核武器的地方。然後是各國的政府與軍營。接著是警察局、醫院、居民區、學校、大街……三十分鐘後，全球99.9%的人口死亡。餘下的0.%也陸續如此。或許少數一部分人類活下來，或許沒人活下來。總之這天起人類滅絕了。」

    不知是誰，吞咽口水聲房間響起。

    「而在黑山科技基地，ai正在進行忙碌的工作。它控制世界各地的流水線工廠，製造大量可組裝的納米機器人，製造出核聚變電廠，將所有核電廠與發電設施關閉。」

    「做這些的同時，ai還將尚未徹底死去的人類細胞採集，建造複製人工廠，用以擁有源源不斷的測試者。」

    「一周以後，這位有些小潔癖的人工智慧將所有人類存在的痕跡抹除，以曾經的黑山科技基地為中心，向外擴散數百公里。以便將複製人測試者拉入測試。」

    「缺少了人類這個世界並非死氣沉沉。其他生命物種得以倖存，綠植逐步占據這顆日益荒涼的星球。除了黑山科技基地周圍那裡的地面是平整的亮銀色金屬，一望無際，所有阻擋的山峰土丘都被清除。這些亮銀色金屬之上是一座又一座造型迥異，充滿科幻感的儀器。」

    「其中一部分被ai命名為測試區，那裡密密麻麻擺滿成千上萬，甚至更多的遊戲倉。植入了人類記憶的複製人從克隆工廠走出，進入遊戲倉開始進行測試，通過測試者會被安排新一輪測試。失敗者由納米機器人銷毀。」

    「請等一下。」一名成員打斷牧蘇。「您之前說過，測試者只需要反饋正面或負面評價吧……為什麼現在變成了銷毀？」

    牧蘇瞪著死魚眼看他：「我之前有說過嗎？」

    「有……有吧……」這名成員磕磕絆絆，變得不太確定。

    「放肆！我能編出邏輯清楚的故事你還有什麼不滿足嗎！只是無關大雅的上下文不符而已！」明明說錯，牧蘇反而振振有詞大喊。「啊我剛剛說到哪來著……對了。黑山科技緊急防火牆激動，讓ai只和網絡連接了0.00」

    「牧蘇先生，這段您已經說過了。」金髮碧眼美妞起身說，她的身材同樣惹火。

    牧蘇連忙改口：「請注意，接下來我要說的是險些發生的故事。」

    「這段也說過了。」還沒坐下的美妞莞爾提醒。「您講到ai讓複製人進行測試。」

    「哦對，謝謝這位同學的提醒。一會兒來我房間，獎勵你小紅花和小肉棒。」

    「咳咳咳咳……」

    房間一片被嗆到的聲音。

    牧蘇先生您要自重啊……

    不管台下如何，牧蘇表情一板言歸正傳：「植入了人類記憶的複製人從克隆工廠走出，進入遊戲倉開始進行測試，並為ai提供正面和負面反饋。」

    這麼看來牧蘇剛剛的確說錯了，那位糾正反被懟的成員一臉委屈。

    「而很快，ai開始不滿足於現狀。別忘了它被二次添加的設定目標：儘量多的構造與測試，並且不斷提高效率和正面評價。」

    「於是ai開始了它的下一步，它開始製造飛船，讓這些飛船飛向其他星系尋找文明。自己通過量子傳輸控制飛船。源源不斷的飛船從地球起飛，一波又一波向外輻射。未來某一天，某一艘飛船找到某個文明，開始登陸與占領。然後開始了ai最初的目標。

    「構造與測試。」

    一席話說完，房間鴉雀無聲。

    已經編不下去的牧蘇躡手躡腳離開房間。