誤差逆伝播法の論文 ── Rumelhart・Hinton・Williams が示した隠れ層の学習

誤差逆伝播法（バックプロパゲーション、backpropagation）を広く知らしめたのは、David E. Rumelhart、Geoffrey E. Hinton、Ronald J. Williams の3人が1986年10月9日付の Nature（323巻、533〜536ページ）に発表した4ページの論文「Learning representations by back-propagating errors」である。多層のニューラルネットワークで、出力の誤差を出口から入口へ逆向きにたどり、すべての結合の重みをどちらへ動かせばよいかを効率よく計算する ── その手続きを使うと、入力でも出力でもない「隠れ」ユニットが課題の特徴を自分で表すようになることを、実験で示した。ただし、逆向きに微分を計算する数学そのものは、この論文より前から複数の分野で知られていた。このページでは1986年の論文を、最初の発明ではなく、多層ネットワークの学習に効くことを示して広めた仕事として扱う。根拠は、後で触れる Griewank や Schmidhuber の調査である。

手法の数学的な説明は用語集の 誤差逆伝播法 に、Hinton の経歴は 人物ページ にある。このページでは、1986年の論文が何を示し、優先権がどう論じられ、その後の社会に何をもたらしたかを扱う。

論文が示したこと

論文の要旨は、これをニューロンに似たユニットからなるネットワークのための新しい学習手続きと呼び、次のように説明する。ネットワークの実際の出力ベクトルと望ましい出力ベクトルの差の尺度を最小にするように、結合の重みを繰り返し調整する。その結果、入力にも出力にも属さない内部の隠れユニットが、課題領域の重要な特徴を表すようになる。要旨は、有用な新しい特徴を自分で作り出せる点が、パーセプトロン収束手続きのような以前の単純な方法との違いだと強調している。

比較の相手として名前が挙がるパーセプトロンは、調整できる重みが1層だけだった（パーセプトロン を参照）。隠れ層を持つ多層ネットワークをどう訓練するかが残された問題であり、1986年の論文はそれに実用的な答えを出した。同じ年には、Rumelhart らの論文集 Parallel Distributed Processing に、同じ3人による章「Learning Internal Representations by Error Propagation」も収められた。ACM は2018年度チューリング賞の発表で、Hinton の業績としてこの章を挙げている。

誰が最初だったのか

逆向きに微分を計算する方法は、ニューラルネットワークとは別の分野で何度も見つかっていた。自動微分の研究者 Andreas Griewank は2012年の論文「Who Invented the Reverse Mode of Differentiation?」で、この反転の考え方は1960年代後半から、あるいはそれ以前から、さまざまな分野の何人もが提案してきたと書く。代表として挙げるのが、ヘルシンキ大学の Seppo Linnainmaa である。Linnainmaa は1970年の修士論文で、丸め誤差が計算結果に与える影響を見積もる道具としてこの方法（いまでいう自動微分のリバースモード）を考えた。Griewank によれば、Linnainmaa はこれを勾配を安く計算する方法として売り込まなかったため、反響はほとんどなく、英語で結果を発表したのも1976年だった。

ニューラルネットワークへの適用では Paul Werbos の名が挙がる。1974年の博士論文がよく引かれるが、Jürgen Schmidhuber は自身のサイトの解説で、Werbos がニューラルネットワーク向けに効率的な逆伝播を適用したのは1982年であり、1974年の論文にはまだない、と主張している。Schmidhuber はさらに、1986年の論文について "This experimental analysis of backpropagation did not cite the origin of the method" と批判する。優先権をめぐるこの議論は、Schmidhuber 自身が一方の当事者として長く続けているものでもある。

評価の分かれ目は、発明の時期ではなく、だれが多層ネットワークで「動く」ことを示して研究者の道具にしたかにある。

何が変わったか

ACM は2019年3月27日、Hinton、Yann LeCun、Yoshua Bengio に2018年度チューリング賞を贈ると発表し、Hinton の業績の筆頭に誤差逆伝播を置いた。発表文は、この論文によってニューラルネットワークがデータの内部表現を自分で見つけられるようになり、それまで手が届かないと考えられていた問題に使えるようになったと説明し、誤差逆伝播のアルゴリズムは今日のほとんどのニューラルネットワークで標準になっていると書いている。

その広がりはこのサイトの年表でもたどれる。1989年には Bell 研究所の LeCun らが、米国郵便の手書き郵便番号の読み取りに誤差逆伝播を使った（LeNet）。1992年の TD-Gammon は、強化学習の誤差を同じ方法で逆伝播させて、バックギャモンを自己対戦で覚えた。2012年の AlexNet から、GPT-3 のような大規模言語モデルまで、学習の中心にはこの計算がある。

研究室の外への影響は、時間をおいて現れた。著者3人のうち2人は認知科学研究所の所属で、論文の題が示すとおり、関心はまず「表現の学習」という認知科学の問いにあった。数十年後、同じ計算は画像認識・音声認識・機械翻訳・生成 AI の製品を動かすようになり、その恩恵と負担 ── 仕事の置き換え、学習データと著作権、計算に使う電力 ── は社会の争点になった。その議論は AI と社会 の年表にまとめてある。

脳はそうしていない ── Hinton 自身の留保

誤差逆伝播法は、脳の学習の仕組みとして提案されたものではない。Hinton は2022年12月に公開した論文「The Forward-Forward Algorithm」で、"As a model of how cortex learns, backpropagation remains implausible" と書いた。大脳皮質が誤差の微分を明示的に逆向きに伝えている確かな証拠はない、というのがその理由で、Hinton は逆伝播を使わない別の学習法を試している。

最も広く使われる学習法を世に広めた本人が、それを脳の説明としては受け入れていない。1986年の論文は、工学としては決定的な成功を収めながら、知能の理解という最初の動機に対しては、いまも答えの一部にとどまっている。Hinton がその後 AI の危険を公に語るようになった経緯は、Google 退社 のページにある。