Samuel のチェッカー論文 ── 「機械学習」を題に掲げた1959年の実験

「機械学習」という語を題名に掲げた初期の論文として知られるのが、IBM の研究者 Arthur Samuel が1959年7月、IBM Journal of Research and Development（第3巻3号、210〜229ページ）に発表した「Some Studies in Machine Learning Using the Game of Checkers」である。受理日は1959年3月3日。Samuel は IBM 704 上で動くチェッカー（西洋碁盤の駒取りゲーム）のプログラムで2つの学習法を試し、作者自身より上手に指すよう計算機を学習させられることを確かめたと書いた。IBM は Samuel をこの語の造語者としている。

ただし、よく「Samuel の定義」として引かれる、明示的にプログラムしなくても学習する能力を計算機に与える研究分野、という文は、この論文の本文には見当たらない。本文を通読して確かめた結果であり、以下では論文に実際に書かれていることを中心に見ていく。

論文が掲げた問題

論文の書き出しは、研究の対象を次のように説明している。"The studies reported here have been concerned with the programming of a digital computer to behave in a way which, if done by human beings or animals, would be described as involving the process of learning." 人間や動物がすれば学習と呼ばれるような振る舞いを、計算機にさせるプログラミングである。

動機も明快である。Samuel によれば、人が行っている仕事には、知性への要求はごく小さいが、何らかの学習を伴うものが大量にある。いまの計算機はそれを処理する能力と速度を備えているが、学習の原理がまだ分かっていないため、解き方を細部まで指定するしかなく、それは時間も費用もかかる。そこで論文は "Programming computers to learn from experience should eventually eliminate the need for much of this detailed programming effort." と続ける。

Samuel は機械学習への道を2つに分けた。1つは、ランダムにつながったスイッチ網に学習した振る舞いを生じさせる「ニューラルネット的アプローチ」で、汎用の学習機械につながるが、当時作れる網の大きさと動物の神経網の大きさを比べると実用までは遠いとした。もう1つは問題ごとにプログラムを組み直す方法で、こちらは当時でも実現できる。論文の実験は後者に基づいている。

なぜチェスではなくチェッカーか

題材にゲームを選んだのは、現実の問題に比べて細部の複雑さが取り除かれているからである。チェスではなくチェッカーにしたのは、規則が単純なぶん学習の技法に重点を置けるからだと Samuel は説明している。それでもチェッカーは、発見的な手続きと学習が大きな役割を果たす知的活動の基本的な特徴をすべて備えている、とした。

なお Samuel は、論文の研究を数年来「余暇」に取り組んできたと書いている。1952年に Strachey が記述したプログラムに似たものから出発し、より大きく速い IBM 704 を使えるようになったことで、学習なしでもそれなりに面白い対局ができるようになったという。

2つの学習法

丸暗記学習は最も素朴な方法で、一度評価した盤面とその点数を保存しておき、同じ盤面が再び現れたら読み直さずに使う。保存した値には先読みの結果が含まれているので、実質的に先読みの深さが増える。論文は、この方法が序盤の名手の指し方のまねを早く覚え、終盤の明らかな罠も避けるようになる一方、中盤はずっと弱いままだったと記している。この時点で記憶テープには5万3000を超える盤面が蓄えられ、Samuel はこの版を、平均的な初心者よりはかなり上だが専門家ではまったくない、と評した。

一般化による学習では、盤面を評価する多項式そのものを変える。Samuel は2つの版を用意し、Alpha と Beta と呼んだ。Alpha は対局中に評価式の係数を調整し、手持ちの特徴量の一覧から項を入れ替えもする。Beta は1局の間ずっと同じ評価式を使う。対局のたびにプログラムの中立な部分が優劣を判定し、Alpha が勝てば Beta はその時点の Alpha の評価式を受け継ぐ。Beta が勝てば Alpha に黒星が付き、黒星が決められた数（通常は3）に達すると Alpha の評価式は大きく変えられる。学習の途中ではかなり上手なアマチュアが対戦し、"tricky but beatable"（手強いが勝てる）と評した。

結論で Samuel は、この程度の単純な一般化の仕組みでも探索を伴う問題には有効な学習装置になりうること、記憶の要求は控えめで時間がたっても増えないことなどを挙げた。チェッカーのようなゲームは学習技法の開発に適した題材であり、機械学習の手続きを "to the unbelieving"、つまり信じない人々に示すにも満足のいく装置だと書いている。

「機械学習」の定義をめぐる注意

今日の教科書や記事は、しばしば Samuel が1959年に機械学習を「明示的にプログラムされなくても学習する能力を計算機に与える研究分野」と定義したと書く。しかし論文の本文には、この文も「explicitly」という語も出てこない。論文にあるのは前述の書き出しの一文と、経験から学ぶようプログラムすれば細かなプログラミングの手間がいずれ不要になる、という見通しである。趣旨は近いが、文言としては後世の要約と考えるのが妥当である。

語そのものについて IBM は、Samuel がこの過程を機械学習と呼び、その語を作ったとしている。これは IBM 自身の歴史記述である。

その後と、社会にとっての意味

IBM の記述によれば、Samuel は1949年に IBM に入り、ポキプシーで IBM 701 などの700シリーズを使ってチェッカーのプログラムを開発した。プログラムは自己対戦を何千局も重ねたのち、1962年にチェッカーの名手を自称する Robert Nealey に勝ったが、その後の人間との成績はまちまちだった。IBM は、Samuel が築いた原理が1992年の TD-Gammon（世界大会の催しで38局を19勝19敗）や、1997年に Kasparov を破った Deep Blue へ続く、同社のゲーム AI の土台になったと位置づけている。

この論文が残したものは、作った人間を超える振る舞いを機械が学びうるという実例である。9年前の チューリングの論文 は、機械は命じられたことしかできないという Lovelace の反論に対し、学習する機械という構想で答えていた。Samuel はそれを、作者より上手に指すチェッカーとして具体化したことになる。同時に Samuel の動機は、知性はさほど要らないが学習を要する人間の仕事を計算機に移すことにあった。仕事の自動化と学習する機械を結びつけるこの発想は、その後の AI と労働をめぐる議論の出発点の一つでもある。

1956年の ダートマス会議 には Samuel も顔を見せている。同時代の AI の流れは AI の年表 に、IBM の歩みは IBM のページにある。