第一部分 熵的故事 赶时髦

香农的就远远超越了他的前辈。他的研究果震惊了所有人,就像神奇的魔术一,现在依此。

他的其中一项现是:通给信息编码的方式将一通信通的全部容积充分利。一点令人震惊,因实践中有人够实现类似的效果。有一传统代码(摩尔斯电码、国信息换标准码、简明英语)够像信息论中所说的此高效。

就比你保龄球装进橘子筐。你现无论你怎安排保龄球,筐子是有很空隙,吗?象一紧密摆放保龄球使所有空隙被填满——筐子的空间全部被保龄球占满,就保龄球筐子言你无法做一点,但是香农说信息通信通间做。

另外一项人意料的现与噪音有关。在香农前,人认通耗费更的带宽或许将噪音降最低。举例说,你采取预防措施,一条信息送三遍(买洗水—买洗水—买洗水)。或许另外一人接收的信息是:买洗水—买杀人鲸—买洗水。通比三版本,接收者确定信息并纠正数噪音导致的错误。做的缺点是耗费了三倍带宽。

香农证明你鱼熊掌兼。信息进行编码使噪音导致的错误你所愿降最低,无论通嘈杂,且不必耗费额外的带宽,一点是实现的。一论断挑战了世世代代工程师的认知常识。罗伯特·法诺评论:

让噪音导致的错误概率降你希望的那低?从未有人此。他是怎一点的呢?他是何始相信的情的呢?我不知。但是,几乎所有现代通信工程是建立在那项研究基础。

初很难象怎将香农的研究结果付诸实践。20世纪40年代,有人够象有一人边逛超市边手机打电话的情景。贝尔实验室的约翰·皮尔斯曾怀疑此理论的实际应价值。皮尔斯建议是使更带宽资源达更的信息传输效果。使电子编码需计算机,与计算机所需的动力相比,安装电缆更加便宜。

但苏联的人造卫星国太空计划改变了人的法。电池放进太空花费数百万元,因此卫星通信必须充分利原子带宽资源。经国国航空航局的研,数字代码集电路本降低,使普通老百姓消费。

果有香农的研究,我现在生活的世界将完全不同。我所有的电子产品受电流冲击、静电宇宙线的噪音的影响。每次电脑机,从硬盘中读取百万字节的信息。仅仅几比特的信息生混乱,整程序就损坏甚至彻底崩溃。香农的理论表明有一方法使误读数据生的概率忽略不计。互联网文件共享的主意源香农。不是因香农灵感迸创造纠错码,每次通互联网传输音乐电影文件或是将其存储在硬盘中使文件质量降。正一位记者最近所说:“有香农,就有纳普斯特 (Napster)。”

了20世纪50年代,众媒体始注意香农的研究工的重。《财富》杂志宣称信息论是人类“最豪、最珍贵的明,是一项伟的科理论,够深入迅速改变人世界的法”。

“信息论”名字听非常宽泛放。20世纪五六十年代,它常常被指计算科、人工智机器人(些是香农感兴趣的领域,但他认些信息论是有区别的)。思直觉现一场有关计算机、网络众传媒的革命正在兴。

1949年《通信的数理论》一书版,书中引言部分头写:“本书中‘通信’一词将被表达非常宽泛的含义,包括一切信息传输的程。,不仅包含书面或者口头流,包括音乐、绘画艺术、戏剧、芭蕾及所有的人类行。”些话是香农的前任老板沃伦·韦弗所写。韦弗在文章中将信息论视一门人文科,或许说法并不正确。

由深受香农影响,马歇尔·麦克卢汉(Marshall McLuhan)在《了解媒体》(1964)一书中杜撰了“信息代”一词。奇妙的是,他的一提法了应验。词表明数字媒体(20世纪60年代仍是模拟媒体技术)正在改变世界。或许连麦克卢汉己有预,克劳德·香农居了一场“信息代”的革命。

人热切尝试将信息论应语义、语言、理、经济、管理、量子物理、文批评、园林设计、视觉艺术甚至宗教等各领域中〔1949年,香农与科幻说罗恩·贺伯特(L.Ron Hubbard)取联系,很显是经约翰·皮尔斯介绍。贺伯特设计了“排除有害印象的精神治疗法——戴尼提”,香农将其推荐给沃伦·麦卡洛克(Warren McCulloch),他是研究神经网络的科。直今,贺伯特创建的科论派在其文品网站引香农信息论的术语。乔治·奥威尔曾说,致富,就创办宗教。贺伯特正是做的〕。

香农奇尝试信息论分析詹姆斯·乔伊斯(James Joyce)的品《芬尼根的守灵夜》。贝蒂·香农曾皮尔斯一创了最初的几首“计算机生产”的音乐。贝尔实验室是一跨领域研究的方,面的很科,尤其是比利·克鲁弗(Billy Kluver),与纽约的先锋派艺术有合,其中包括约翰·凯奇(John Cage)、罗伯特·劳森伯格(Robert Rausberg)、白南准(Nam June Paik)、安迪·沃霍尔(Andy Warhol)、卫·铎(David Tudor)等,他中有些人工生活的方离贝尔实验室在曼哈顿西街的建筑仅几步遥。些艺术中很人劳德·香农及他的理论中的概念点有所了解,其他人至少知他的名字。像凯奇劳森伯格正在探索极简主义音乐艺术品的人说,信息论似乎有些处,虽有人完全确定底有什处。

香农始感觉信息论已经被度消费。在1956年的一篇社论中,他温柔嘲弄了信息论“尚”。有深入理解信息论的人正在它一髦的比喻紧紧抓住不放,夸了信息论与那些与其本源相差甚远的科的相关。其他理论,诺伯特·维纳( Wiener)彼·伊莱亚斯,始此表法。伊莱亚斯尖锐写,是候停止表“信息论、光合宗教”类的文章了。

香农、维纳伊莱亚斯说,信息论的相关问题的定义比马歇尔·麦克卢汉窄。信息论与通信科外的任何科有深入联系吗?答案似乎是肯定的。一位名叫约翰·凯利(John Kelly)的物理在一篇题“信息论与赌博”的论文中就是描述的。

随机性、无序性、不确定性目录+书签约翰·凯利