2008/02/14

《電腦生命天演論》記疏

這本書我看了第二遍,並沒有很多更進一步的獲得。
我猜譯者缺乏Computer Science素養,所以無法清楚表達出原作者的想法脈絡是主要原因。另一個原因,也可能是因為本書主軸在討論機器是否可產生心靈?而心靈的探討往往易被帶入哲學的討論層次,東一塊西一塊,虛無飄渺,總是令人難以掌握。

不過本書倒是把整個電腦發展史,描繪串接的相當生動。你會發現原來以前計概聽過的那些傢伙,真是怪胎到一整個不行,他們不只在電腦科學上有所貢獻,而是在生物學、腦科學、經濟學、物理、數學、控制學等領域都佔有一席之地。只是他們彼此之間的互動,描述的實在不多,有些是師徒關係,有些曾短暫合作,有些則是競爭對手,若能把當時這些天才的互動網絡重現,肯定可以挖掘更多有趣的八卦。

雖說本書東借一句,西借一句,拼拼湊湊的集成一本書,但是作者其實從頭至尾都在強調一個概念,那就是人類與機器最終將成為共生演化的集體智慧。

第一次看完這本書時,我有個悲觀想法。
電腦就像單細胞生物,雖然它目前無法自我繁殖,但它確實與人類共生演化的。以前我以為邪惡的超級電腦會因為幾個瘋狂科學家所創造而誕生,但研究過人工智慧就知道要有這一天是非常困難的。我倒認為人類與電腦的共生演化比較符合邏輯,人們為了自己的需求,於世界各地架設電腦,並連上網路,透過網路的連結,每台電腦加速演化,最後湧現出群體行為、自我組織、自我適應、人類與電腦網路串連之下不知覺得開始共生,並且開始累積力量、累積知識。而任何的生命體在開始集結後,便會為了維護自身利益,與其它種族展開對抗,誰知道電腦串連網路演化到一種程度後,會不會與人類爭奪世界。

雖然我現在並不認為前述的猜想有可能發生,但由本書我們可以深深感受到人類與機器之間的確好似是在共生演化,而且演化的速度比過去任何己知的演化都快。本書於2001完稿,故作者著書之時並未見到近幾年竄紅的web2.0與social network。其實我們從web2.0的發展,就不難預見一些人機共生演化群體智慧的趨勢了。相信web3.0的時代,我們會有更深刻的人機演化體驗。



記疏

寫書與真實人生一樣,敵人比朋友還有用。

突現(Emergence)的行為,就是拆解系統、仔細分析後仍然無法預測的行為。只有將系統當作一個整體,才能理解那些行為,任何低層次的分析都沒有幫助。對於突現的解釋,必然是幻象,想做得好,得用魔術手法。這並不是說突現不是真實的。根據定義,突現行為就是每一個東西都解釋了之後,仍然解釋不了的現象。

生命難道不會源自一個極其複雜的機制?由於這個機制,複雜的結構出現了,最後就是生命。那麼,要是人類不算是生物,只不過是複雜的機器,複雜到我們不難說那種機制是活的,為什麼機器最後不會變得像我們一樣複雜?或不會複雜到足以算是活的-而且任何東西只要有那麼的性質就是活的?如果說到底,複雜程度是唯一的關鍵,那我們必然會傾全力讓機器變得更複雜。(Hobbes的想法)

individual:基因型
emergence:表現型

就生命的起源或繁衍而言,自我複製是充分條件,而不是必要修件。

我們的身體是細胞組成的,那些細胞對它們組成的身體與人格,不可能有概念,它們對我們的身體大概只有部分或不完全的感受,而我們對它們卻有完全的感受。

萊布尼茲想發展一套定義明確的符號,以及一套明確的操作規則,然後以這套符號與規則,建構一個形式系統,它可貫通涵蓋邏輯、語言與數學。

萊布尼茲的計算機器,一六七三年一月二十二日在倫敦皇家學會展示,開啟了一個新的時代-以機器執行數學運算。

萊布尼茲心懷宏大願景:利用「普遍符號」就能將理性的有理化約成一種數學運算,儘管他對這個願景只有片段的描繪,卻無異預言:終有一日,理性思維也能化約為數學運算。

萊布尼茲將二位元記數法,歸功於中國人的發明,在他《易經》八卦圖中看出一直遭到忽視的數學睿見。

在萊布尼茲的筆記裡,他已發展出十進位數與二進位數相互轉換的演算法,以及二位元數基本算術功能的演算法。

牛頓想將自然界納入自然律的數學表述中;萊布尼茲想以數學真理建構上帝的王國,那個王國是沒有邊界的。

打孔卡片的點子,是Babbage從Jacquard的織布機得來的靈感。

Babbage為分析機器設計了兩種卡片:操作卡片,上面是機器必須執行的程式;以及變數卡片-讓機器知道儲存在內建記憶體中的資訊在哪裡。

Babbage雖然未能在有生之年完成計算機的實作(只完成了差分機, 分析器只實作了一小部分),但一九九一年,由Doron Swade率領一組專家,依據Babbage一八四七年的算術機器設計圖,造了四千多個零件,並組裝起來,這個重達三噸的計算機,第一次執行繁複的計算,就完美無暇。

一百年後,Alan Turing證明:即使非常簡單的分析機器,只要供應的卡片數毫無限制,就能計算任何可計算的函數-雖然那也許要耗費很長很長的時間。換言之,Babage預見了Turing Machine。

Babbage在自傳中結論道:使一架有限的機器做無限的計算,必須滿足所有的條件...我己經將其中的一個條件,就是無限的空間,轉化為無限的時間。

Babbage已經將萊布尼茲算術機械化的雄圖實現了,而萊布尼茲將心理過程形式化的目標,也由Boole發展到接近完成的階段。

Boole沒有受過大學教育,是自修出身的數學邏輯家。

Boolean logic的組態與傳統邏輯和二位元算術完全對應,因此邏輯與算術可以雙向溝通。使用Boolean Algebra,算術式可以寫成邏輯式,邏輯式也可以寫成算術式。兩者功能上相等是數位計算機的基礎。

Boole的《Laws of though》一書中的最後兩節討論fuzzy logic,一直遭到忽視。

萊布尼茲預見了數位計算的原理,Smee預見的是神經網路理論的草創階段。

Afred Smee《由自然律演繹出的人類心靈原理》一書說道:「觸動外在感官而產生的意象同時在大腦中造成反應;那麼,那個意象就是實在物(reality)。要是一個意象浮現心頭,而沒有同時觸動身體,就叫做念頭(thought)。分辨實在物與念頭的能力,就叫意識。」

霍布斯的推理、萊布尼茲的推理算術、Babbage的Machine Notation、Boole的Laws of though、Smee的符號樹狀圖,目的都在建立機器系統、符號的數學系統、我們的思想和觀念系統三者間的形式對應。

萊布尼茲在《單子論》主張:「知覺以及倚賴知覺的事物,無法以機械原因說明」

霍布斯(普通物質經過精心安排之後,就能創造出暫時的人工物-心靈)與萊布尼茲(心靈是宇宙的基本元素,是所有事物的內在本質,無法以事物本身的組織、構造解釋)的不同意見,過去三百年來一直是敵對陣營的主要燃料。他們兩人都相信建造有智慧的機器是可能的;他們爭論的是,機制中是否會出現靈魂,而不是智慧。

霍布斯的上帝是由物質構成的;萊布尼茲的上帝是心靈構成的。

Hilbert學派基於邏輯與數論,相信所有數學理都能以一系列精確的邏輯步驟取得。

Hilbert學派希望建構一個完全的系統,包括所有數學真理,Godel卻證明了:即使尋常的算術都不可能以一個數學系統囊括。

Hilbert的決斷問題-是否有一個精確的機械程式,可以用來分別特定系統中的「可以證明」的與「不可證明」的命題?

機械程序與有效計算之間的對應,過去並沒有形式化,Turing成功地將它們的對應形式化-就是將它們與遞迴函數的定義連繫起來;遞迴函數是Godel一九三一年提出的概念。

Turing想做的是:證明「不可計算的」函數是存在的,但是他必須先界定「可計算」(computability)。可計算的函數就是它的值可用機械程序求得的函數;而那個機械程序可以使機執行,只要那個機器的行為可以用數學預測-從某一時刻到下一時刻機器會做什麼,我們都能知道。可以計算與可以用機械計算似乎成了同一件事,相互定義。

Hollerith畢業後走入美國人口統計局,為解決人口普查的耗時問題,研究以打孔卡片來登錄資訊,最後以此為基礎,創辦IBM公司(前身Tabulating Machine Company)。

搜尋那些線索往往得利於小抄,也就是德文中最常出現的字母串;搜索程序倚賴對德文所做的某種細緻統計分析,這個過程一直是英國戰時緊守的秘密。

根據學者的分析,Turing的<發展自動計算引擎擬議>綜合了好幾個概念:有內建程式的通用計算機、浮點子程式庫、人工智慧,還有許多硬體的細節,如程式自載器。預示了後世的精簡指令集計算機(RISC)架構-五十年之後成為主流。

生物形態生成過程(morphogenesis)

Turing認為:研究真正的智慧機器,演化計算(evolutionary computation)是最佳途徑。

Turing說:我們可以一點一點地讓機器做愈來愈多的選擇或決定。最後我們會發現,我們有可能寫出程式讓機器依據數量相當少的普遍原則行動。一旦這些原則足夠普遍,我們就不再需要干預,於是機器就能成長。

Turing強調:建造大型、可靠、有彈性的機器,秘訣在於使用大量的單獨組件,或者讓它們以那些組件建造自己,每個組件都有犯錯的自由、隨機搜尋的能力、大體而言無法預測,這樣一來,在層級組織的最高層這個機器才看起來像是正在做有聰明的選擇。

只有在量子計算的理論裡,離散組態的Turing machine才使不上力。

催化計算機證生的要素:解碼、核彈、氣象預測、彈道、氫彈。

von Neumann證明了:在危險的不穩定情勢中,令人相信的威嚇姿態可能可以穩定大局-關鍵是支持行動的決心。

von Neumann的弟弟記得父親(銀行家)投資過一家紡織廠,有一天帶回家一架由打孔卡片控制的Jacquard自動織布機,他相信哥哥後來對電子計算機十分熱中,其來有自。

von Neumann曾在德國哥丁根大學隨Hilbert做研究。

許多廣泛採用的計算機演算法直接源自當年安排人手計算的方式。一開始得把大問題化解為小而可以計算的步驟。

Reynolds number可用來區別線性與非線性流,而且一旦逼近臨界數值,微小、不穩定的渦流就會突然形成自足持續的渦流。

像圓周率與自然對數的底之類的小數值很常見,可以Reynolds number卻是個數量級上千的大數值,而且它沒有向度,是個純量:它當然會激起我們的好奇心。Von Neumann後來指出在computational complexity中也有同樣的分野,一方面是有序、確定的系統,由相當小的單位組成,另一方面是個統計系統。

英國物理學家Lewis F. Richardson想像地球表面可以畫分為幾千個氣象細胞,每個細胞的觀測資料隨時傳送到地面上的氣象中心,那裡有六萬四千個人從事計算,由於緊鄰細胞的關係可以寫成公式,那些人不斷以那些公式計算資料,建構氣象的online real time數值模型。此方法將一個複雜的問題分解成一群可以計算的細胞,不只適用於氣象預報,流體力學,分析引爆原子彈的衝擊波和原子彈引爆後的衝擊波都用得著。

一九三七年,Turing在普林斯頓從事博士論文研究,與Von Neumann過從甚密。但是他畢業後婉拒擔任Von Neumann的助理,決定返回英倫。

發展數位計算機的方式有兩種。第一種是萊布尼茲、Turing所採用的,就是從最基本的層次出發,只使用0和1,別的全不用。另一種是Ortvay倡議的,從相反的方向出發,以已知最複雜的計算機為起點,就是人類的大腦。

Game Theory與Neural Network的關連,von Neumann從未發展成熟,不過有些線索指出:他的自動機理論的確有意朝那個方向發展。

一九四三年,神經心理分析家W.S. McCulloch與數學家W. Pitts發表的論文《普遍存在於神經活動中的觀念的邏輯算術》顯示:原則上,對極為簡化的理論神經元而言,任何一個神經網路的計算行為都能以一個等價的Turing machine完全複製。

這些年來,對計算機科學-以及整個科學-持續而可靠的支持,一直是國防部門。

普林斯頓高等研究院是民間捐贈。

研究院的目標是避免沈悶且日漸增加的會議,名目不一而足,什麼委員會啦、研究群啦、甚至教務會議啦。組織與正式諮商的趨勢一旦上路,就停不下來了。

Von Neumann不會是個好的工程師,為了落實他的邏輯計畫,他需要別人協助,那些人不但能設計、建造邏輯控制、運算組件、高速記憶體,他們什麼都得自己做,例如穩定的電源供應器、散熱器、資訊存取裝備。

Julian Bigelow(曾是Von Neumann的主任工程師)指出一個事實:必須回饋的只不過是資訊-關於前一個行動的結果的資訊,於是控制學就成立了。

Bigelow的任務是:將von Neumann抽象的邏輯設計,以機器活靈活現地表演。Bigelow比較像物理學家、理論家,而不像工程式。以現代的術語來說,Bigelow是那架計算機的建築師。

Von Neumann計算機架構在世上以令人驚訝的速率增殖,掩蓋了他許多重要的貢獻,例如大規模的平行計算、分散型資訊處理、演化計算,以及神經網路。

一九四八年,馮紐曼評論道:資訊理論與熱力學有類似之處,要是以數學研究這兩個學科相似處就會愈發鮮明。他過世前幾年,開始研究一大群互相連繫的自動機,以理論描述它們的行為,那是個與熱力學(以及流體力學)相通的領域。

生物複雜到不可能設計、簡直不可能自動發生的程度,因此最高能的解釋是:它們是由比較不複雜的現成零件結合成的。

以演化迅速的生物(病毒或細菌)做測試,難以避免的嚴重缺點是:適應或演化的原因難以確定,難以排除拉馬j克式的或其他解釋。

就像Turing以通用機器模糊了智慧與非智慧的分野,Barricell以數字共共生生物模糊了生物與非生物之間的分野。

不同生物組成同盟發展出更高層次的複雜組織是生物演化成功的關鍵。

長距通訊系統在歷史上出現、消失、又出現-火炬、反射日光、原始的旗語。

但是你別認為他的記憶也很好,因為創意與記憶就像兩個水桶,一個上,另一個就下。毫無疑問,他是世上最偉大的技匠。(他指虎克)

一六七三年,一月萊布尼茲在皇家學會展示了一架計算機,虎克抱怨:「我覺得它的結構太複雜了-我無法想像它有什麼大用-大人物才買得起,大力士才搬得動、操作得了,大智慧才參得透。」相對地,虎克宣布:「我正在製造一架儀器,它有同樣的功能,但是零件不超過這架的十分之一,體積只有二十分之一。」虎克的發明乘除大數字最方便,一個人抵得上二十個人以傳統方式計算,但他沒有留下詳細的文件,說明這架機器的原理與構造。後來這架機器失傳了。

最後,虎克對於別人剽竊他的作品愈來愈怨忿,所以他晚年的發明都以變位字(anagrams,將字母變換位置)記錄,使旁人不易看懂。其實有些剽竊事件只是他的想像。

對虎克來說,令人不解的,不是我們可以知覺、記憶,以及隨時產生新的觀念,而是心靈不僅以時間作為意識內容的組織原則,還能在既有的資料庫中隨機提取資訊。

由於美俄雙方瘋狂擴充軍備,RAND公司力圖尋求穩定的核子策略,促成數學的博戲理論中身。von Neumann一九二八年發表一篇論文,是Game Theory的基石,後來他與經濟學家摩根斯坦(Oskar Morgenstern)合作,出版《博戲論與經濟行為》(1944)

嚇阻策略有兩種:一、一發現敵人攻擊的跡象就立即發射核彈;二、即使遭受攻擊也有還擊能力。「警兆出現就發射!擺樣子還可以,真這麼做無異自殺,因為錯誤的警訊遲早會出現。因此防止核子夢魘成真,最佳策略是建一個禁得起第一波攻擊的報復系統。隱藏、分散、保護核彈頭飛彈還算容易,困難的是建造一個禁得起折騰的控制系統。

要是我們能夠等到遭受攻擊後才反應,而不必在壓力下作決定,世界會更穩定。

Baran 說:「技術發展的過程就像建造一座教堂。在好幾百年間,新人不斷出現,每個人都在前人的基礎上放置磚石,每個人都說:「我在建一座教堂。」下個月,另一塊磚石又置放在前一塊的頂上。然後來了一位歷史學者,「嘿,這座教堂誰建的?」但是實情是:每個人的貢獻都必須循前人的成就。每一件事都與每一件其他的事緊密地連繫在一起。

von Neumann為動態資訊的統一理論奠定了基礎,應用範圍包括:自由市場的經濟體、自我繁殖生物、神經網路,最終目標是大腦與心靈的關係。

人類神經系統的運作,在von Neumann看來,與一個經濟體的統計性行為比較相似,與數位計自機精確的邏輯行為反而較不相似。

大腦是個統計性演化意義的機制。

von Neumann說:「為了了解非常複雜的自動機(automata),特別是中樞神經系統,我們需要新的理論。這個理論骨子裡是個邏輯理論,不過,在我看來,為了發展這個理論,邏輯必須適應神經學,而不是神經學必須適應邏輯。」

Marvin Minsky在《The Society of Mind》這本書寫道:「你可以用許多小零件建造心靈,那些零件都沒有心....任何大腦、機器、或著其它有心的東西,必然是以無法思考的小零件構成的。」

宇宙中任何一個角落,要是出現了生命或智慧,就可以偵測到當地的亂度(entropy)有降低的趨勢,這可以籠統地當作生命和智慧的目標。說明生物與智慧有自我組織的傾向,這是一個客觀的方法。

所有大型動態系統也許都有如下的性質:一旦組件間的連結達到臨界程度之後,系統就會呈現穩定狀態;然後,要是連結程度繼續增加的話,系統就會突然陷入不穩的狀態。

Richardson將大氣運動視為一個微分方程式系統的解,這些微分方程式將相鄰細胞的條件連繫起來。這個計畫結合了戰前他對數學物理的兩項貢獻:渦流擴散理論與有限差分法(無法用分析法解開的微分方程式系統因而可以求出近似值)。


第一章(利維坦)的主角:
霍布斯(Thomas Hobbes),人可以製造人工動物。

第二章(機器演化的遠景)的主角:
巴特勒(Samuel Butler, 1835-1902),預見機器演化的可能。
依拉士摩(Erasmus Darwin),達爾文的祖父影響達爾文甚多。
拉馬克(Lamarck),後天獲得的性狀可以遺傳。

第三章(大塊噫氣,其名為風)的主角:
萊布尼茲(Leibniz),利用符號來建構一個形式系統。
巴貝奇(Babbage),嘗試建造世界第一台計算機。
Afred Smee,把大腦的神經網路知識帶來機器上。
(Ada, de Morgan, Boole都與Babbage同時代)

第四章(計算理論)的主角:
David Hilbert,提出是否有一個決斷程序存在,可以以有限的步驟證明它的真假?
Turing,提出Turing Machine。
Herman Hollerith,以打孔片機器起家,成立IBM。

第五章(試驗場)的主角:
John von Neumann
Lewis F. Richardson,預見了大規模的平行計算。

第六章(馮紐曼架構)的主角:
John von Neumann

第七章(共生)的主角:
Nils Aall Barricell,研究生物共生起源說(symbiogenesis)

第八章(散布式通訊)的主角:
Robert Hooke,證明了長距通訊與密碼學有密切的關連。
Paul Baran,RAND公司的電子工程師,對ARPANET有莫大貢獻,尤其是提出了分散式網路架構及packet-switch。

第九章(博戲論與經濟行為)的主角:
John von Neumann

1 comment:

  1. [...] recognition。 有興趣的人,可以參考 "電腦生命天演論(Darwin Among the Machines)" 與 "創智慧(On Intelligence)" 這兩本書。 [...]

    ReplyDelete