第7章 AI現身（1 / 2）
張九問認為孔祥東一個人搞不出強人工智能原因無他，代碼工作量太大了，以孔祥東一個人的力量根本不可能在短時間內完成這種項目。
「那個……經理，絕對不會出問題的，這個程序我加了最底層的規則，所有代碼的執行都躲不過這一條件，ai絕對不會做出對人類不利的事情。」
一提到安全性問題，孔祥東立即來了精神，開始向張九問吹噓ai的安全性：
「我設計的底層非常安全，在程序中是最高權限的存在，而且被封在了不可觸及的底層，不可能被篡改！」
然而張九問隻說了一句話就讓孔祥東閉了嘴：「如果程序被停掉了呢？非運行狀態怎麼保證自身不被篡改？」
張九問所問的問題是非常重要、非常典型的一個問題，那就是沒有不會被篡改的程序文件！
因為運行環境本身在某些情況下也是可以任意修改的，原有環境下是多高的權限都沒有用。
舉個簡單的例子，有自己給電腦做過係統的朋友可能會有體會。
在正常操作係統下，有一些文件是無法人工刪除或是覆蓋、修改的，但是當你用光盤或是u盤起動ne這類簡易係統後，你係統盤內的一切文件都可以任意處置了，係統文件也根本沒有受到應有的保護。
因為在當前的簡易係統下，你電腦硬盤裡的任何文件對其而言都不過是普通文件，無論進行怎樣的操作都不會對當前係統構成任何影響，因此當前的簡易係統會將其當成普通文件，並不會對其進行保護。
一句話：視而不見！或是也可以講成一視同仁！
而且孔祥東所設計的程序按照其描述也不是完全沒有問題，「絕對不會做對人類不利的事情」這條看著沒有問題，實際上問題卻非常大。
這玩意一個火車悖論就能讓其無法做出判斷，甚至根本不是簡單的數量問題。
在火車悖論的基礎上，我們可以進一步假設一下那個會死一個人的選項。這個人如果是個科學家或是醫術高超的醫生，總之他活下來可以救活更多的人，這樣會使選擇變得更加復雜。
這問題人類自己都搞不定，放給人工智能也許會演變成災難。
擴展一下，如果要保護一群人而傷害另一群人呢？保護多數而犧牲少數，這類問題問樣存在邏輯漏洞。
單個人類個體的能力是有限的，即使有所選擇在很大程度上也隻能停留在自己的心理層麵。
即便付諸行動，其可憐的執行力所造成的危害也是有限的。
然而ai程序呢？就其遠超人類的運算速度就讓其有更充分的時間做出人類所無法做出的選擇。
而且通過互聯網ai可以操縱更多的機器設備，造成更大的範圍的影響也不是不可能的。
總之，真正具備思想的智能ai將會是非常可怕的，至少潛在危險性很大。其即使是善良屬性的也很難保證其不被利用。