ジョセフ・ワイゼンバウム ── ELIZA を作り、 AI 倫理を発明した男

ジョセフ・ワイゼンバウム（Joseph Weizenbaum、 1923年1月8日 ── 2008年3月5日）は、 1966年に対話プログラム ELIZA を発表した MIT の計算機科学者である。 ELIZA はわずか200行ほどの LISP プログラムだったが、 使用者が機械に対して人間的な意味と感情を強く投影する ── 後に「ELIZA 効果」と呼ばれる現象 ── を、 計算機史上初めて文書化した。 そしてワイゼンバウム自身は、 この発見に動揺し、 残りの人生を AI 倫理の確立にあてた。

経歴

ドイツ・ベルリンのユダヤ系家庭に生まれる。 父は毛皮商人。 ナチス政権下の1936年、 13歳でホロコーストを逃れて家族とともに米国へ亡命、 デトロイトに定住した。 この亡命体験は、 後年の「計算機を絶対視する文化への懐疑」の根本にあるとワイゼンバウム自身が繰り返し語っている。

Wayne State University で数学を学び（学業は第二次大戦の従軍で中断）、 1950年に同大で修士。 General Electric で初期の銀行業務オートマシステム（ERMA、 1950年代後半に Bank of America 向け）の開発に従事。 1964年に MIT に客員教授として招かれ、 1970年から正教授、 1988年に名誉教授として退任。 晩年はドイツ・ベルリンに戻り、 2008年に85歳で死去。

ELIZA（1966年）

1964年から1966年にかけて MIT で開発された ELIZA は、 簡単なパターンマッチングと書き換えルールで自然言語対話を模倣するプログラムだった。 最も有名なスクリプト「DOCTOR」は、 Rogerian 心理療法士（カウンセラーが患者の発言を反射する非指示的療法）を模倣する。

USER: 男どもはみんな同じだ
ELIZA: どんなふうに?
USER: 彼らはいつも我々を何かしらでうんざりさせる
ELIZA: 具体例を思い出せますか?
USER: 私の彼氏が私をここに来させた
ELIZA: あなたの彼氏があなたをここに来させたんですね
USER: 彼は私がほとんどいつも憂鬱だと言う
ELIZA: 憂鬱だと聞いて残念です

技術的には極めて単純 ── ELIZA は「言語を理解」していない、 単に文字列パターンを書き換えているだけ ── だが、 使用者の反応は予想を超えていた。 ワイゼンバウムの秘書は彼が会話を覗き見ようとすると「席を外してください、 個人的な会話です」と要求した。 別の心理学者は、 ELIZA が「自動心理療法ツール」として実用可能だと真剣に主張した。

ワイゼンバウムにとって、 これは衝撃だった。 使用者が単純なパターンマッチングに対して、 共感能力を持つ実在と見紛うほどの感情を投影する ── この観察が、 彼を計算機批判へと向かわせた。

『Computer Power and Human Reason』（1976年）

10年の沈黙ののち、 1976年に出版された『Computer Power and Human Reason: From Judgment to Calculation』（邦題『コンピュータ・パワー ── 人工知能と人間の理性』）は、 AI 倫理という分野の創設文書である。

中心的主張:

1. 計算（calculation）と判断（judgment）は別物である。 機械は計算できるが、 判断はできない。 判断には、 計算では捉えられない人間の文脈・倫理・身体性が含まれる。
2. 計算機を絶対に使うべきでない領域がある: 軍事決定、 司法判決、 心理療法、 教育の核心、 高齢者介護。 「できるからやる」は倫理的に成立しない。
3. AI 研究者の責任: 自分が作る技術がもたらす社会的帰結に対して、 研究者は責任を負う。 中立的な技術というものは存在しない。

この本は MIT 内部で激しい反発を呼んだ。 Marvin Minsky、 John McCarthy、 Edward Feigenbaum などが反論を公表。 一方、 哲学者 Hubert Dreyfus、 神学者 Paul Tillich の系譜にある思想家からは支持された。

ELIZA 効果

ELIZA を契機にワイゼンバウムが指摘した「人がコンピュータに人間性を投影する現象」は、 後に「ELIZA 効果」として一般化された。 この概念は2020年代の生成 AI を読み解く鍵として再評価されている。

• 2023年の Google エンジニア Blake Lemoine が LaMDA を「感情を持つ存在」と主張した事件
• ChatGPT（2022年） を「カウンセラー」「友人」「恋人」として使用する若者層
• AI コンパニオン製品（Replika、 character.ai）の心理的依存問題

すべてが ELIZA 効果の延長線上にある。 ワイゼンバウムが1966年に観察した現象は、 規模を6桁拡大して2020年代に再演されている。

受賞・栄誉

ワイゼンバウムは計算機学界の主要賞（チューリング賞など）を受賞していない。 AI 主流派と対立的な立場を取り続けたためとも、 彼自身が栄誉に関心がなかったためとも言われる。

• 1988年 Norbert Wiener Award（CPSR、 計算機専門家責任協会）
• 1996年 Humboldt Prize（ドイツ）
• 2001年 大十字勲章（ドイツ連邦共和国功労勲章）

影響

ワイゼンバウムが1976年に主張した「計算機を使うべきでない領域」のリストは、 2026年現在、 ほぼ全領域で逆方向に進んでいる。 軍事決定への AI 利用（Lavender、 Gospel など2024年のガザ作戦の AI 標的選定）、 司法での再犯予測アルゴリズム、 AI 心理セラピー、 教育の自動化、 介護ロボット ── すべてがワイゼンバウムが警告した領域である。

それでも『Computer Power and Human Reason』は、 EU AI Act（2024年） のリスクベース規制の論理的下地としても読まれる。 「人間が最終判断を保持すべき領域がある」という枠組み自体は、 ワイゼンバウムが先取りした主張である。

ELIZA を作った男が、 ELIZA に最も警戒した ── このアイロニーは、 Geoffrey Hinton の2023年の Google 退社と、 「自分が作った技術への警鐘」という構造で正確に呼応している。 半世紀の時間差で、 同じパターンが二度繰り返された。