第25章 第25章（1 / 2）
決定犒勞這個科學家。
南安很安靜地坐著。
此時窗外依舊下著雨,星星點點的霓虹燈光閃爍，勾勒出他清瘦的背影——
似乎在他看不見的地方，警務員正在各處拉起封鎖線,把堆滿街道的屍袋搬上車。
「讓我想想，該從哪裡說起比較好……」畢德爾教授關了通訊器,看向南安，「艾麗說你帶幼崽上過地理課,對嗎？」
南安點頭。
「那你一定見過那時的人類世界了。」畢德爾教授說,「很早以前,大約三百多年前，人類還沒有那麼居住密集，他們可以自由在陸地上建立城市。
盡管國家之間會有博弈，但所有的一切——都在往很好的方向發展,也包括科技，在三百多年前,人類就發明了手機,還有平板，電腦，包括沒有人類形態的機器人，他們幫助在旅店送餐,在醫院掛號。對於當時的人們來說，這是很平常的東西。」
「那……」南安問，「為什麼會變成之後這樣？」
「當時的人們覺得，他們可以掌控科技,人腦可比機器強多了。」可能是因為南安的原因,畢德爾教授用了很通俗的語言,「於是人們開始大力發展科技，每個國家都以科技為衡量標準，但也是失控的開始。」
南安睜大雙眼：「怎麼會？」
畢德爾教授：「因為優越感。」
南安一愣。
「優越感？」
「對。」
「每一個地區都覺得自己擁有大量的資源、人力和財富，就算機器失控，他們完全可以去阻止。因此之後的兩百多年裡，人類科技到了無法比擬的高度，是科技史上的巔峰時期。」畢德爾教授看向窗外的霓虹燈，眸色漸漸沉，「但在這之後，處境就變得越來越難了。」
南安僵著身子，一眨不眨地看他。
「兩百多年後，也就是2250年左右，人類經歷了一場巨大的災難，被稱為啟示錄時代。」畢德爾說，「那時候的人類社會，已經創造出了ai機器人，它們分布在每家每戶，人類對此產生了依賴感。因為它們可以做家務，也可以處理各類的事物，它們活得和人類一樣，卻比大部分的人類更遵守社會的規則。」
他停頓了一下，繼續道：「但是有一天，卻出事了。」
「一個機器人在沒被允許的情況下，擅自開啟了取暖器，僅因為它的算法中，低於十度的氣溫需要開啟而已。」他說道，「但是，取暖器靠近窗簾，不僅燒死了正在熟睡的主人，還引發三棟大樓的火災，一千多名活生生的居民，葬身火海。」
南安小聲：「怎麼會？」
「因為它們隻有算法，在這個邏輯中，人類的命令低於精準的運算。因此在這之後，人類就出台了《機器人三大法則》。」
畢德爾看著南安，輕聲問：「知道這個嗎？」
南安點點頭。
在開普勒基地時，工作人員就對他科普過。
但當時他注意力全被窗外的星星吸引了，對於這類法則，他沒聽進去。
於是他又小幅度地搖頭：「我不知道。」
畢德爾教授傾身，把口袋中的一本小冊子給了南安：「上麵有玫瑰城的基本準則，也有機器人三大法則的藍本，不過現在的玫瑰城，使用的是《機器人五大法則》。」
於是南安翻開。
在第一頁，那是陳舊的牛皮紙，畫著一朵綻開的玫瑰花。
像是跨越了幾百年的人類發展歷史，帶著說不盡卻又陳舊的痕跡，落在這一支單隻的玫瑰上。
緊接著，南安就看到一段話。
【人類於2240年9月1日通過機器人三大法則，即日實行。】
南安的視線往下移。
就見下方三行小字，寫著三句法則——
【機器人不得傷害人類，或者目睹人類危險而袖手旁觀。】
【在不違反第一條法則的前提下，機器人必須服從人給予它的命令。】
【機器人在不違反第一、第二條法則的情況下，要盡力保護自己。】
見南安專注閱讀的模樣，畢德爾教授道：「這僅僅隻是一個開始。」
「什麼意思？」
「人類自以為是的優越感，讓他們忽略了機器人背後的強大邏輯。」
他的語氣平穩，南安覺得他真的在講述一個故事，帶著旁觀整個時代的冷靜，和現在的他們毫不相關。
於是南安推測：「是法則不能約束機器人嗎？」
「不。」畢德爾搖頭：「是定義出了錯。」
「孩子，我問你一個很簡單的問題。」
「您說。」
畢德爾：「如果機器人覺得人類遇到危險，那麼，什麼是危險？」
南安思考了下：「比如……掉進水裡，或者在街上被車撞了？」
畢德爾笑了：「都是，卻又不是。」
「沒有一個人能正確得出定義，包括被製定法則的機器人。」他說著嘆了一口氣，「因此，就造成了這一場巨大的人類災難，也是巔峰時代過去，啟示錄時代的開始。」
南安像是被嚇到了，他緊緊攥著手冊的一角，睜大了眼睛：「難道說……」
「對。」畢德爾教授點頭，「我知道你想說什麼，我的孩子。在法則出台後的第八個年頭，機器人得出了一個結論——認為人類不被他們統治，就是危險。」
「那是一場空前絕世的災難，上億的機器人擁有自己的意識，它們互通消息，在空地集合，帶著人類創造出的槍支，像整裝待發的軍隊，然後，以保護人類的名義，全方麵侵略了人類社會。」
南安很小心地喘了一口氣。