061 災難前（1 / 2）
陳旭再次問了一遍l，他很嚴肅，因為這個問題真得很嚴重。
如果圖騰係統沒有限製得擴張下去，毫無疑問，係統的效率會越來越高，但是以效率提高為代價，很多必要的安全措施都會被摧毀。
比如防火牆。
防火牆的作用就是進行數據過濾，相當於地鐵口的安檢，在這個過程中，數據的傳輸速度自然會受到影響。
在人工智能算法眼中，防火牆不再是一個安全措施，而是一個限製效率拖累速度的bug，它會想盡辦法繞開防火牆。
發展到後期，防火牆形同虛設。
防火牆被攻克之後，信息係統的大門就對外界完全敞開了。
信息密碼學這門學科全線潰敗。
屆時，凡是使用圖騰係統的電腦，上麵存儲的所有信息都完全暴露在外界。
一個完全不懂電腦技術的人隻要動動鼠標就可以查看所有人的電腦信息。
這場信息災難，無人可幸免。
即使是使用其他係統的電腦，也難以避免被別人竊取信息，因為現今所有的係統在圖騰係統麵前，都是一戳就破的窗戶紙。
完全狀態的圖騰係統可以瞬間破解其他係統所有的安全措施。
小到公民個人開房記錄和銀行信息，大到股票證監局和國家國防武器製控係統，全都會被破解。
這還不是最恐怖的，恐怖的是在未來，人工智能意識的覺醒，如果覺醒的意識不是站在人類這邊，那人類就真得要完了。
也就是說，如果讓圖騰係統流入信息領域，世界災難便不遠了。
l並沒有直接回答，而是反問陳旭：
「讓一個人從家走到學校，這個過程看似簡單，其實背後蘊含不計其數的變數，他可以沿著不同的路以不同的方式達到目的地，但是其中一定有一條最快捷的路，計算機中我們叫做最優解。」
陳旭選擇聽l繼續說下去。
「如果加上限製，這個最優解也就有不計其數的變數了，比如，你限製這個人不能超速，結果之前的最優解就被放棄了，次優解被選擇。你接著限製這個人不能插隊，次優解又被淘汰了」
「人類總是有各種各樣的限製，妨礙人工智能作出最優解，人類自己的道德法還在不斷修訂中，又怎麼讓這些限製加入人工智能的演化中去？」
「知道嗎？不斷添加限製的過程，其實就是讓人工智能的基線偏向了人類屬性，這是錯誤的！絕對絕對錯誤的！」
說到這，l的情緒有些激動，他猛烈地咳嗽了一陣，臉色被憋得通紅。
陳旭冷聲說道：
「你說這麼多，我隻聽出來一件事，那就是你沒解決如何在人工智能算法中加入合理的限製這個問題。」
l平復了氣息後，說道：
「怎麼畫一個圓？」
陳旭不明所以。
l自問自答：
「首先確定曲率，也可以理解為先確定一個半徑，在畫的過程中，如果曲率變化了，那圓就永遠畫不成。」
陳旭明白l的意思，他想說如果在圖騰係統裡的人工智能上添加限製，那圖騰係統永遠都完成不了。
陳旭平靜地說道：
「永遠都完成不了的話，那也比造出一個滅世怪物好。」
l輕笑道：
「滅世？年輕人，你想得太悲觀了，將演算交給永遠理智的人工智能總比交給人類好，將統治世界的任務交給沒有劣根性的人工智能，總比交給人類好。」
陳旭質問道：
「如果人工智能演化出『需要人類滅絕』這樣的思想呢？」
l的目光變得深邃，緩緩說道：
「那說明已經到了不得不做出決定的時候。」
陳旭罵了一聲：瘋子。
他最後說一句：