クロード・シャノン

クロード・シャノン（Claude Elwood Shannon、 1916年4月30日 ── 2001年2月24日）は、 「情報」を測定可能な量として扱う数学的枠組み ── 情報理論 ── を一篇の論文で立ち上げた研究者である。 デジタル通信、 データ圧縮、 暗号、 そして現代の機械学習に至るまで、 「ビット」という単位を経由する技術はすべてシャノンの遺産の上に立っている。

経歴

ミシガン州 Petoskey に生まれ、 同州 Gaylord で育った。 父は実業家で遺言検認判事、 母は Gaylord の高校長を務めた。 シャノンは少年期から無線機・電気仕掛けの自作に没頭し、 有刺鉄線を電信線に見立てて友人の家まで通信線を引いていた。

ミシガン大学で電気工学と数学の二つの学士号を取得（1936年）。 続いて MIT に進み、 修士論文「A Symbolic Analysis of Relay and Switching Circuits」（1937年）で、 George Boole の論理代数（19世紀）と電気スイッチング回路の対応を初めて体系的に示した。 これがデジタル回路設計の数学的基礎となる。 1987年、 Howard Gardner はこの論文を「おそらく今世紀で最も重要な、 そして最も有名な修士論文」と評した（原文は英語）。 1940年には数学の博士号を取得（論文「An Algebra for Theoretical Genetics」）。

1941年に Bell 研究所 へ入り、 戦中は射撃管制と暗号の研究に従事した。 1955年には John McCarthy・Marvin Minsky・Nathaniel Rochester と共に ダートマス会議の提案書に署名した4人の一人となり（彼自身が挙げた主題は「信頼できない素子からの信頼できる計算」と、 モデルと環境を単純なところから共に育てる「照応する環境 ── 脳モデル」の手法だった）、 1956年夏の会議には4週間の参加を予定していた。 同1956年に MIT の客員教授となり、 一家はマサチューセッツ州 Winchester の Mystic Lake 畔に居を構える。 1958年から1978年まで MIT の Donner Professor of Science を務め、 退官して名誉教授となった。 2001年2月24日、 マサチューセッツ州 Medford の介護施設でアルツハイマー病との長い闘いの末に死去、 84歳。

主な業績

1937年 ブール代数とリレー回路

MIT 修士論文で、 シャノンは電気スイッチング回路の振る舞いが2値論理 ── ブール代数 ── で完全に記述できることを示した。 当時のスイッチング回路設計は職人芸的経験則に依存していたが、 これにより回路は方程式として書き、 簡約化し、 検証できる対象になった。 トランジスタ、 IC、 マイクロプロセッサ ── すべての現代デジタル設計の出発点である。

1948年 情報理論

Bell System Technical Journal の1948年7月号・10月号に分載された「A Mathematical Theory of Communication」（第27巻 pp. 379-423、 623-656）は、 計算機科学史上最重要論文の一つに数えられる。 この論文でシャノンは以下を導入した:

• ビット（binary digit）: 情報量の単位。 論文本文にこうある ── 「底に2を用いれば、 得られる単位は binary digits、 より短く bits と呼んでよい。 J. W. Tukey が提案した語である」（原文は英語）
• エントロピー H = -Σ p(x) log p(x): 情報源の不確実性を数値化する指標。 熱力学的エントロピーとの形式的類似を「エントロピーと呼べ」と勧めたのは von Neumann だった、 という逸話は、 シャノン自身が Myron Tribus に語ったものとして Scientific American 誌（1971年9月）に載っている。 会話が実際にあったかを疑う研究者もおり、 一次的な裏付けはこの伝聞である
• チャネル容量: 雑音のある通信路を通せる最大情報レート
• チャネル符号化定理（雑音ありシャノン定理）: 容量以下のレートであれば、 適切な符号化により誤り率を任意に小さくできる、 という存在定理

この一篇で、 通信工学は職人技から数学的最適化問題へと変わった。 現代の Wi-Fi、 5G、 衛星通信、 光ファイバ、 JPEG、 MP3、 H.265、 さらには量子情報理論 ── すべてがこの理論の射程に入る。

1949年 暗号理論

機密扱いを解除された戦中の内部報告を基に公刊された「Communication Theory of Secrecy Systems」（1949年）で、 シャノンは「情報理論的完全秘匿」の条件 ── 鍵が平文と同じ長さ以上で、 真にランダムで、 一度だけ使われること ── を証明した。 これは Vernam の一回限り使い捨て鍵（ワンタイムパッド）の数学的正当化であり、 現代暗号理論の出発点でもある。

1950年 チェスとコンピュータ

「Programming a Computer for Playing Chess」（1950年）は、 計算機チェスの最初の理論論文。 ミニマックス探索、 評価関数、 静止探索など、 後の Deep Blue（1997年） や AlphaGo（2016年） に直接繋がるアルゴリズム概念が、 ここで素描されている。

テセウス、 一輪車、 ジャグリング

シャノンは数学者として以上に「遊び人」として知られた。

テセウス（Theseus、 1950年）は、 迷路を解く電気機械式のネズミである。 リレー回路が試行錯誤で経路を探索し、 行き止まりを消去して正解を記憶する ── 機械学習のごく初期の実演として知られる。 迷路の上部は Bell 研究所で機械加工されたが、 回路は妻 Betty と自宅の居間の床で組んだ。 現物は MIT Museum の収蔵品となっている（迷路自体はもう動かない）。

Ultimate Machine（無用の機械）は、 スイッチを入れると箱からアームが出てきて自分自身のスイッチを切る、 それだけの装置である。 着想は1952年に Bell 研究所にいた学生時代の Marvin Minsky のもので、 シャノンがそれを面白がって実際に作り、 自分の机に置いた。 Arthur C. Clarke は1958年8月の Harper's 誌で「何もしない ── 自分のスイッチを切る以外に絶対に何もしない ── 機械には、 言いようもなく不気味なところがある」と書いている（原文は英語）。

さらにシャノンは Bell 研究所の廊下を一輪車で走りながらジャグリングをし、 「Scientific Aspects of Juggling」という論文も書いた。 そこで示した「ジャグリングの定理」は、 玉の滞空時間・手に留まる時間・手が空である時間・玉の数・手の数を関係づけるものである。 この論文は生前には公刊されず、 没後の『Collected Papers』に収められた。

ラスベガスのルーレットの出目を物理的に予測する隠し持ち可能な装置を Edward O. Thorp と1961年に完成させており、 これが世界初のウェアラブル・コンピュータとしばしば挙げられる。

受賞・栄誉

• 1939年 ── Alfred Noble Prize（若手技術者に対する米国工学系学会の共同賞。 修士論文に基づく論文への授与）
• 1966年 ── 米国国家科学賞、 および IEEE Medal of Honor
• 1972年 ── Harvey Prize
• 1985年 ── 京都賞（基礎科学部門・数理科学分野。 第1回の受賞者の一人）

ACM チューリング賞は受賞していない ── これは情報理論が「計算機科学」より広い概念枠であり、 ACM の対象外と見なされたためだと言われる。

影響

シャノンが定義した「ビット」は2026年現在、 地球規模で zettabyte 単位の量が日々生成・流通している。 Transformer（2017年） や GPT-4（2023年） のような言語モデルも、 内部表現は実数値ベクトルだが、 学習と推論の根底にあるのはシャノン的な確率分布の操作 ── 次のトークンの予測分布と実際の分布の食い違いを小さくすること ── である。

情報理論は、 計算機科学が物理学に対して持つ理論的尊厳の源泉である。 「物質」と「エネルギー」に並ぶ第三の基本量として「情報」を据えた、 という哲学的位置づけは、 シャノン以後の科学の地形を変えた。