余江｜香農(nóng)的極限

余江I香農(nóng)的極限【德不孤必有鄰】作者：余江/【開卷有益05】男子甲與女子乙，互相愛慕卻異地相隔。為表達思念之情，男子甲決定書信寄予女子乙。男子甲把心中的愛意滿滿地寫在三張信紙上，他把郵件鄭重地交給了快遞，開始期待著情書能夠快快送到女子乙的手里。不料，途中碰到陰雨天，信件受了潮，字跡也變得模糊。當女子乙收到信，打開來，許多內(nèi)容已經(jīng)無法辨認。其中的—句，看上去無比關鍵，卻是這樣的：“這個月下旬的X5日，老時間，我們在老地方見°”X5,是這個月的15日？還是25日？她捧著信箋仔細琢磨，驀地注意到“這個月”后面的“下旬”二字，女子乙欣喜地斷定，25日就是她與愛人相見的美麗日子……這不是一個普通的愛情故事，是有關一個偉大的信息理論的通俗解釋，而創(chuàng)造這個理論的人，漢譯的中文名亦極具詩意，他就是將“比特”概念引入信息領域的、現(xiàn)代信息論的創(chuàng)始人、密碼學的鼻祖--克勞德■香農(nóng)(ClaudeElwoodShannon)。漢語中最早關于“信息”的記載，是在南唐詩人李中《暮春懷古人》一詩中，有“夢斷美人沉信息，目穿長路倚樓臺”的佳句。如今,“信息”一詞，早就被普遍熟悉。全球網(wǎng)民30億，手機用戶量將近74億，互聯(lián)網(wǎng)每天產(chǎn)生的信息量可以達到1EB，人們的衣食住行無不都與之相關，人類正以爆炸性的速度全面進入到“信息社會”。信息社會里的“信息”，看得見，摸不著，卻有大有小，可以計量。比如，我們經(jīng)常會說，“這個文件有56KB”；“我今天買了一個U盤，容量是15GB的”；“電腦硬盤容量是1TB”等等。KB也好，GB、TB也好，說的都是信息量的大小多少。在19世紀末、20世紀初，信息量的計量與共同單位是什么的課題，困擾著該領域的深度鉆石的科學家們。特別是到了20世紀三、四十年代，電話電報、無線通訊的發(fā)展，讓如何計量信號中信息量的問題更加迫在眉睫。直到克勞德■香農(nóng)(ClaudeElwoodShannon)將“比特”的概念引入信息領域，并由此系統(tǒng)性地闡釋了信息量的概念。然而，這個在世人眼中影響整個信息技術領域的大發(fā)現(xiàn)，卻只是香農(nóng)的眾多偉大成就中的一部分。香農(nóng)，到底是什么樣的一個人？他又有著怎樣的人生軌跡呢？香農(nóng)的高度■Shannon-香農(nóng)天資卓越，家境良好，通才碩學，成就斐然。他的婚姻順利，子孫滿堂……沒有大起大落的人生，卻收獲了無比的高度和豐厚。1916年4月30日，香農(nóng)出生在美國密西根州的Petoskey,并在Gaylord小鎮(zhèn)長大。他的家境不錯，有著良好的教育環(huán)境，父親是小鎮(zhèn)上的法官，母親是鎮(zhèn)里中學的校長，祖父是一位農(nóng)場主，也是發(fā)明家。香農(nóng)從小受祖父影響，也熱衷于小發(fā)明小創(chuàng)造。1936年，20歲的香農(nóng)從密歇根大學畢業(yè)，進入麻省理工攻讀研究生，四年后，他成功取到了博士學位。求學期間，香農(nóng)曾師從布什，專事“繼電器邏輯”相關研究，博士畢業(yè)后，隨即進入貝爾實驗室工作。香農(nóng)人生的大部分時間是在貝爾實驗室度過的。在這里，香農(nóng)與數(shù)據(jù)分析員瑪麗(MaryElizabethMoore)相識相知相戀，最終走到一起。完美的婚姻，支撐著他的研究事業(yè)，也為他帶來了三個兒子和一個女兒。哈里特博士論文《信息的傳輸》觸動并啟發(fā)了香農(nóng)，他由此走上長達八年的研究之路，潛心在信息領域中的關鍵性難題。終于，1948年，香農(nóng)在《貝爾系統(tǒng)技術雜志》上發(fā)表了244頁的長篇論著，這就是《通信的數(shù)學理論》。而一年以后，他又發(fā)表了《噪聲下的通信》。這兩篇論文的發(fā)表，經(jīng)典地闡明了通信的基本問題，在文章開頭的故事中“男子甲與女子乙飛鴻雁傳書”恰好形象地描繪出了何謂信息論。男子甲是信息源頭，快遞是傳輸信道，女子乙是接受信宿，即通信過程中接收和處理信息的設備或計算機，途中陰雨天氣是信道中的干擾，男子甲聰明地增加了富裕的文字表達，有利于女子乙解析情書內(nèi)容，這個過程可以類比為編碼和糾錯。香農(nóng)的信息論所主要講述的，就是信息源通過信道將信息傳輸至信宿的過程。香農(nóng)同時給出了簡明數(shù)學公式，說明信息傳輸?shù)乃俾逝c信道的寬窄（道路寬窄）、干擾（道路平坦度）等因素相關，這便解決了精確地傳送通信符號的基本技術問題。《通信的數(shù)學理論》和《噪聲下的通信》成為現(xiàn)代信息論的奠基著作，標志著信息論的正式創(chuàng)立。事實上，信息論雖然給出的不是編碼算法的具體實現(xiàn)路徑，卻明確指出了通往編碼“成功之路”上需具備的“優(yōu)秀品質(zhì)”，以及在特定的“優(yōu)秀品質(zhì)”下能夠?qū)崿F(xiàn)的“成功高度”。由此，香農(nóng)確立了信息傳輸?shù)臉O限，這就是“香農(nóng)極限”，在他的以后，無數(shù)的研究者為逼近“香農(nóng)極限”而絞盡腦汁、夜以繼日。香農(nóng)的信息論極大地促進了信息技術的發(fā)展。這個結(jié)論首先應用于電話電報，然后是光纖通信，現(xiàn)在又用在無線通信上。今天，當我們拔通越洋電話或是衛(wèi)星電話，能夠與遠在千萬里之外的親朋話說家常，是因為通信傳輸質(zhì)量的有效改善，而這些改善都與香農(nóng)的信息論密切相關。香農(nóng)的豐厚■Shannon-貝爾實驗室，不僅是香農(nóng)甜美愛情和美滿婚姻的福地，也是科研成就的幸運寶地。他在這里工作了31年之久，其中專攻通信數(shù)學原理領域?qū)⒔四?，并取得令世人矚目的成就，奠定了信息技術發(fā)展的未來方向。不過，香農(nóng)的成就遠非如此。在信息論創(chuàng)立之后不久，他又證明了“不可破譯的密碼是可能的”，從而驗證信息安全傳輸?shù)睦碚?，最終在量子物理技術中得以實現(xiàn)，因此人們又稱其為現(xiàn)代密碼學鼻祖。香還是貝爾實驗室知名的“雜?！边_人。他從小就熱衷于平衡與控制穩(wěn)定性相關的游戲，他的平衡興趣與能力也是十分有名的。在貝爾實驗室的大廳，人們時常會看到騎著獨輪車、手里拋著三個球的香農(nóng)，有時，他也會踩著高蹺出現(xiàn)在樓道之中，讓同事大呼驚嘆。香農(nóng)的家中擺滿了鋼琴、短笛等各種樂器，他對音樂熱愛，若在今日，一定會被贊為“音樂達人”。美國心理生物學家斯佩里博士，專注于研究左右腦的功能劃分，邏輯思考主要依賴于“左腦”，右半腦主要負責身體協(xié)調(diào)、空間形象記憶、直覺、情感、音樂節(jié)奏、想像、靈感等。身為“音樂達人”和“雜耍達人”的科學家香農(nóng)，可謂是左右腦思維同時高效而歡快并用的典范。古人講，文武之道，一張一弛。香農(nóng)事業(yè)中的偉大成就已是滿滿的正能量，生活中的興趣和放松讓我認識到有趣如鄰家大叔一般的他，我將這一份有趣和豐厚關照進我的生活，使我以一種新的視角去堅持自己的愛好，和開辟新的玩法。在另一側(cè)面，香農(nóng)的有趣也反映出貝爾實驗室自由的科研環(huán)境。貝爾實驗室是推動美國近代科技崛起和成功的三駕馬車之一，另外兩駕馬車，一是是硅谷、DARPA（美國國防部先進研究項目局），貝爾實驗室則是晶體管、數(shù)字交換機、通信衛(wèi)星、以及通信網(wǎng)等許多重大發(fā)明的誕生地。貝爾實驗室擁有一套非常獨特的考核標準和激勵制度，成就的認可是根據(jù)專家和知名度的鑒定。在這里沒有硬性的考核指標，沒有解雇的風險，工作部門發(fā)現(xiàn)不適合，可以換到其他更合適的部門，工資不變。為了保證其技術的純潔性、公正性和可信性，貝爾實驗室采取謹慎的市場化思路。科研成就最重要的標志就是能得到全球范圍內(nèi)的專家認可，并經(jīng)得起歷史的檢驗。平臺與個人之間是互相成就的，貝爾實驗室的科研環(huán)境、績效制度、創(chuàng)新驅(qū)動等等給予了香農(nóng)施展個人才華的空間。香農(nóng)的信息論也為貝爾實驗室在信息技術領域的重要地位增色不少。貝爾實驗室為紀念香農(nóng)的卓越貢獻，在大廳門口建立起塑像，供人瞻仰、激勵后生。香農(nóng)的幸運■Shannon-香農(nóng)進入的研究領域，他并不是第一人。哈里特研究過，維納研究過，馮諾曼研究過，圖靈研究過，我們知道上述名字都是信息技術領域的“大?！保窍戕r(nóng)卻后來者居上，在信息論領域取得突出貢獻，成為了“信息論之父”。香農(nóng)是幸運的，我們往往發(fā)現(xiàn)后來者居上，或者跨界者取得輝煌成就，就像諾貝爾獎得主量子物理學家德布羅意，就曾是歷史學家。但事實上，牛頓早就說過，如果說我看得遠，那是因為我站在巨人的肩膀上?？茖W的發(fā)展不能夠以某個獨立時間窗去審視，科學是不斷的迭代和創(chuàng)新的，正是有了哈里特和維納的研究，才有了香農(nóng)信息論的重大突破，從而開啟現(xiàn)在信息技術、現(xiàn)代社會的發(fā)展。在喟嘆香農(nóng)幸運的同時，我更看到他在貝爾實驗室歷時八年潛心研究的艱辛和勤奮。盡管他生活中有音樂、有雜耍調(diào)劑，但“科研戰(zhàn)場”同樣是異常激烈和殘酷。香農(nóng)的同事D.Slepia曾經(jīng)寫到：“我們大家都帶著午飯來上班，飯后在黑板上玩玩數(shù)學游戲，但克勞德很少過來。他總是關起門來工作。不過，如果你要找他，他會非常耐心地幫助你?！毕戕r(nóng)以剛剛畢業(yè)博士的身份進入信息領域，憑著扎實的理論基礎、艱辛的工作、堅韌的意志，在眾多“大?！痹?jīng)攻城掠地過的領域，成就了偉大事業(yè)，因為，“在科學上沒有平坦的大道，只有在那崎嶇的小路上不畏艱險奮勇攀登的人，才有希望達到光輝的頂點。”信息論在中國■Shannon-在中國，有兩位數(shù)學家和一位新聞系教授是香農(nóng)信息論功不可沒的推手。早在上世紀五十年代，北大數(shù)學系教授江澤培和南開大學胡國定教授就開始了信息論的相關研究。兩位教授都是在五六十年代求學蘇聯(lián)，后回國致力于信息論相關研究。數(shù)學界著名的“胡國定定理”和“多維平穩(wěn)過程的預測理論”，就是兩位教授將信息論在中國推動與發(fā)展的重要成果。當我著手查閱江澤培和胡國定兩位教授相關資料時，遺憾地發(fā)現(xiàn)先生們都已仙逝。不過，令我驚喜的是，國內(nèi)計算機學楊芙清院士曾經(jīng)師從江澤培教授，而我對于楊芙清院士熟悉程度緣于她是北大的信息與科學工程學部主任，讀書時，我曾經(jīng)多次與楊院士交流。我能夠深深地感覺到兩位教授學術生命的延續(xù)和傳承，而這樣的延續(xù)和傳承是幾何級數(shù)般的強大?；仡櫳鲜兰o五十年代,兩位教授的研究工作或許只是那個時代中的一個小命題，因為相對于宏大的國家命題和社會命題，技術的細節(jié)顯得相對微觀，也不易獲得更多地認同和追隨。不過，我們不難發(fā)現(xiàn)，當時間流淌過歲月，越是從事貼近真理、貼近社會應用、便捷于人們生活、代表技術未來工作的科學家們，越可以在幽暗的歷史長河中亮起星光。兩位教授的學術研究和成果，不僅推動了香農(nóng)的信息論在中國發(fā)展，更助力了中國現(xiàn)代信息技術的發(fā)展。當下的國內(nèi)信息產(chǎn)業(yè)已經(jīng)是現(xiàn)代生活的重要支撐，互聯(lián)網(wǎng)的發(fā)展創(chuàng)造了一個又一個的技術型大公司，提供了一個又一個消費時點。如今，“互聯(lián)網(wǎng)+”戰(zhàn)略已經(jīng)是國家層面戰(zhàn)略，它將與傳統(tǒng)行業(yè)緊密融合，形成全新的商業(yè)模式和價值鏈條，從方方面面變革、創(chuàng)新我們的生活。中國，同樣是互聯(lián)網(wǎng)受益最多的國度。20世紀80年代，復旦大學新聞系教授李良榮，將信息論與傳播學中信息的概念引入了中國新聞學，這在后來又發(fā)展出一門新的學科“信息新聞學”?？梢?，香農(nóng)信息論在中國跨界的應用也是碩果頗豐。信息論在新聞學中的應用，學界爭議不斷，但人們的探索卻從未停止。日前，國內(nèi)某超大網(wǎng)站的新聞已經(jīng)可以實現(xiàn)由智能機器人自助形成稿件。這或許是一件趣事，但它讓信息論在新聞學中的應用，看得見，又摸得著，實實在在。香農(nóng)曾來過-Shannon-在《人類的群星閃耀時》一書中，茨威格說：“一個人生命中最大的幸運，莫過于在他的人生中途，即在他年富力強的時候發(fā)現(xiàn)了自己的使命。”香農(nóng)正是在年富力強之時，進入通信領域，并創(chuàng)立了信息論。他，是何其的幸運。晚年的香農(nóng)患上了老年癡呆，明知那一種吞噬記憶的病，我卻兀自想著，他一定可以在某個瞬間，溫暖地回想起自己童年時的小小發(fā)明，年輕時的求學經(jīng)歷，在貝爾實驗室的戀愛和工作……而且，他大可欣慰，甚至可以滿足于他創(chuàng)立的信息論帶給人類生活的巨大改變 香農(nóng)曾經(jīng)來過，那個信息論之父，那個一邊騎著獨輪車一邊拋著球的雜耍達人、那個熱愛音樂的溫厚的人，那個在“科研戰(zhàn)場”上孤