1916年出生密西根州
高中时代,靠卖资料和传电报赚钱
1932年秋,入学密西根大学。数学与工程学双学位。
遇到密西根大学的教育向工程教育转型
大二父亲去世。之后与母亲很少联系。
本科毕业后,被美国大学优等生荣誉学会 Phi Kappa Phi
和美国自认科学荣誉学会 Sigma Xi 双双录取。
1934年春,17岁的香农在美国数学月刊 American Mathematical Monthly 191 上发表第一篇学术作品。
解决了下面这道题
In the following division of a three-place number into a five-place number each digit has been replaced by a code letter. Assuming only that the remainder, Y, is not zero, reconstruct the problem and show that the solution is unique.
事实证明,大部分使用的微积分方程,都无法被解决。
- 汤姆森的谐波分析仪
- 福特的积分器
- 布什的地形追踪器
范内瓦·布什(Vannevar Bush,1890.3.11~1974.6.26)
第一个发现香农潜质的人。
1924年,布什改进了福特积分器。
1936年 布什带香农到麻省理工学院。香农用积分器工作了3年。
乔治·布尔
出生:1815年11月2日
英格蘭林肯郡林肯
逝世:1864年12月8日(49歲)
思维的定律
1937年秋,香农的硕士论文发表
《继电器和开关电路的符号分析》"A Symbolic Analysis of Relay and Switching Circuits"
1937年,图灵发表了《论数字计算在决断难题中的应用》
"On Computable Numbers, with an Application to the Entscheidungsproblem" (PDF). Proceedings of the London Mathematical Society. 2. 42. pp. 230–65. doi:10.1112/plms/s2-42.1.230. and Turing, A.M. (1938). "On Computable Numbers, with an Application to the Entscheidungsproblem: A correction". Proceedings of the London Mathematical Society. 2. 43 (published 1937). pp. 544–46.
香农的硕士论文获得了艾尔弗雷德·诺贝尔奖。
香农在麻省理工想要学习驾驶飞机,飞行课程的教授觉得不该让香农这样一位大有所为的人冒生命危险。并给校长卡尔·泰勒·康普顿写了信。校长回信
“Somehow I doubt the advisability of urging a young man to refrain from flying or arbitrarily to take the opportunity away from him, on the ground of his being intellectually superior. I doubt whether it would be good for the development of his own character and personality.”
这里书中的中文翻译似乎有问题。
香农选择了遗传学作为方向。
1939年夏,Shannon抵达美国最顶尖的基因实验室-优生学记录室。
香农:数学理论的优势与简洁性取决于运用简明而富有提示性的符号,以及它能完全描述所涉及的概念。
香农学习基因专业术语不到一年,就将这一领域的研究向前推进了5-10年。
给布什的信:
我在同时研究三种不同的概念,奇怪的是,这似乎比聚焦在一个问题上更有效率。
1940年1月10日,与诺尔玛·莱沃尔结婚。
香农在贝尔实验室
- 第一个成就:颜色编码定理
- 第二个成就:在订阅者发送的案例中使用拉卡托斯·希克曼继电器
1940年秋,香农离开贝尔实验室,到达普林斯顿高等研究院。
在那里,他遇到约翰·冯·诺依曼和赫尔曼·韦尔。以及爱因斯坦。
香农妻子在一次采访中,说爱因斯坦曾经到过他们家,并说你丈夫是我遇到过的最聪明的人。
更可信的一个故事是:爱因斯坦一次走进香农的教室,听了几分钟,跟最后一排的人说了一句话然后走了。下课时,香农匆忙的去后排问爱因斯坦说了什么。那个人回答的是:爱因斯坦问了洗手间怎么走。另一个版本的回答是,茶点室怎么走。
二战开始后,香浓研究火力控制系统。
在这个过程中,香农洞察到,“情报”虽然可能来自导弹的轨迹、股票的行情、电报线中的脉冲以及细胞核内的指令,但,他们具有一些迄今尚未被发现的共通之处。
贝尔实验室加入密码战斗:国家需要强大的计算能力。X项目,又称SIGSALY系统(绿色大黄蜂系统)
香农与图灵。二战期间美国见过面,但由于保密原因,没有谈论太多。1950年,在伦敦碰面。1954年 图灵自杀。
香农定义了信息的概念。论文中提到了这一领域的两个先驱
- 哈里·奈奎斯特
1924年费城工程师技术会议上宣读《使用不同当前数字作为代码理论可能性》奈奎斯特列出的关于电报传递情报的速度的公式 - 哈特利
我们要从物理层面而非心理层面认定信息。“在预估物理系统传输信息的能力时,我们应该忽略对其进行诠释这一问题,而使每一选择完全随机,并将结果置于接收器选择某符号而非其他符号的可能性上。
A Mathematical Theory of Communication
通信的数学理论
1948年
1949年出版
The Mathematical Theory of Communication
受到的批评和质疑
过于看重纯数学的东西。
其他被 纯数学家鄙视的
“just the latest fad“
“déclassé.”
- 冯诺依曼的博弈论
- 纳什
- 香农的信息论
乔瑟夫·L·杜博
欧几里得:
有一名学生问他几何学的用途时,他让他的奴隶给了学生3便士,‘因为他必须学有所得。’
维纳的控制论
维纳是一个糟糕的讲师。
在MIT,香农选修了维纳的傅里叶分析课程。
控制论
Cybernetics: Or Control and Communication in the Animal and the Machine. Paris, (Hermann & Cie) & Camb. Mass. (MIT Press) ISBN 978-0-262-73009-9; 2nd revised ed. 1961.
与信息论同年发表。
维纳曾经和香农争过信息论发现者的头衔。一名研究生弄丢了维纳的一份手稿,使得相关的发表晚于了香农。
但实际上,控制论中关于信息的部分占篇幅并不多。
香农说过:“我不认为维纳与信息论有什么关系。他对我的观点并没有产生重要的影响,虽然我一度借鉴了他的用语。”
维纳的观点和贡献确实重要,但这不是因为香农担心谁能够或者谁不能够赢得声望。香农更关心他们的争论对信息论本身的实质影响,而非宣称的信息论“所有权”的机会。说到底,声誉并没有精确性重要。
1949年3月22日,香农与贝蒂结婚。
OMNI: Do you find fame a burden?
SHANNON: Not too much. I have people like you coming and wasting my afternoons, but that isn’t too much of a burden!
一直到50年代中期,香农为国家安全机构工作
密码学特别顾问组
Special Cryptologic Advisory Group SCAG
1948年后,贝尔实验室数学簿主任亨利·波拉克:“已经拥有不再需要完成强制科研要求的特权了。”
香农:我认为科学史已经表明,宝贵的成果往往来源于单纯的兴趣。
忒修斯,一个自动走迷宫的小老鼠
1984年,香农曾提出人工智能的目标,2001年
- 打败世界冠军的象棋程序
- 写出被《纽约客》认可的诗歌的程序
- 收益超过50%的选股程序
一次去俄罗斯,与国际象棋世界冠军下棋米哈伊尔·鲍特维尼克,开始没重视,后来认真了。42步以后,香农还是输了。
在俄罗斯的酒店,香农夫妇抱怨酒店房门的门锁坏了,一名锁匠立即出现。他们下一个举动就是抱怨还没有收到著作俄罗斯版的版税。第二天支票就寄到了。
香农制造了可以下最后残局的国际象棋机器。
关于创造性思维
除了天生的才能与受训练,还需要第三个条件:试图找出答案的欲望,弄清楚实物形成原因的欲望。
一个人解决实际的数学问题或设计问题的六个策略:
- 从简化开始。将难题简化称为主要问题,确定你到底在试图解决什么。简化是艺术,需要嗅觉,能区分以外和值得研究的部分。
无线电和基因的区别是次要的,但重量均匀和不均匀的硬币的差别缺至关重要。 - 如果不能简化,利用类似问题的现成答案去套自己的问题。在任何问题中,迈出两小步比迈出一大步要容易得多。
- 如果还不行,尝试重新提问,跳出思维定式。不要被已经付出的沉没成本所困。不要被时间积累的偏见所束缚。
- 对难题进行结构性的分析。分解问题。
- 反向推导。从结论看能推出什么前提。在看你推出的前提的试用范围。
1957年1月1日,MIT终身教职。年薪17000美金。
贝尔实验室仍然给香农发工资。
贝尔实验室的精神:
贝尔实验室有两种研究员,有些人因为过去所为得到回报,而另一些人因为将要做的是得到报酬,但没有人因为像现在的所作所为得到收入。
香农的女儿,佩吉·香农一次打翻牙签盒。香农告诉她能计算圆周率。几何概率问题:蒲丰投针
在MIT期间
研究股市
研究赌博
曾经和索普 一起去赌场 关于轮盘赌 作弊。
研究杂技 提出杂技定理
F:球在空中停留的时间;D:球在手中停留的时间;H:手的数量;V:手中无球的数量;N:抛接球的数量。
京都奖
美国国家科学奖章 National Medal of Science
历史 大部分时间花在学习政治领袖和战争上,包括凯撒、拿破仑和希特勒。历史上重要的人物应当是思想家和发明家:达尔文、牛顿、贝多芬。
阿尔兹海默病。
熵府 entropy house