ジョセフ・ワイゼンバウム

ジョセフ・ワイゼンバウム（Joseph Weizenbaum、 1923年1月8日 ── 2008年3月5日）は、 1966年に対話プログラム ELIZA を発表した MIT の計算機科学者である。 使用者が機械に対して人間的な意味と感情を投影する ── 後に「ELIZA 効果」と呼ばれる現象 ── を最初に文書化し、 そしてその発見に動揺して、 残りの人生を AI 倫理の確立にあてた。

経歴

ドイツ・ベルリンのユダヤ系家庭に生まれる。 父 Jechiel（Harry）は宮廷御用の毛皮職人・毛皮商。 ゲンダルメンマルクト近くの中産的な環境で育ち、 Luisenstädtisches Realgymnasium に通ったが、 1935年にユダヤ人共同体の男子校への転校を強いられ、 1936年1月、 13歳のときに家族とともに米国へ亡命してデトロイトに定住した。 この亡命体験が後年の技術批判の根にあると、 本人が繰り返し語っている。

1941年から Wayne University（現 Wayne State University）で数学を学び、 1942年から1945年まで米陸軍航空隊の気象要員として従軍（暗号関連の配属は「敵性外国人」を理由に断られた）。 復学して1950年に修士。 その後 Wayne で計算機の製作に携わり、 1955年から1963年まで General Electric で、 Bank of America 向けの銀行業務自動化システム ERMA の開発に加わった。 小切手下端の磁気インク文字を機械が読む仕組み ── MICR ── が実用に入ったのはこの仕事である。

MIT には1963年に visiting professor として着任し、 1964年に associate professor、 1970年に正教授、 1988年に名誉教授となった。 その足がかりになったのは、 自作のリスト処理言語 SLIP（Symmetric List Processor、 1963年 CACM 発表）である。 1996年にベルリンへ移り、 2008年3月5日、 ブランデンブルク州ルートヴィヒスフェルデ＝グレーベンで85歳で死去。 ベルリンのヴァイセンゼー・ユダヤ人墓地に埋葬されている。

ELIZA（1966年）

1964年から1966年にかけて MIT で開発された ELIZA は、 IBM 7094 上で MAD-SLIP（MAD 言語に自作の SLIP を組み込んだもの）で書かれている。 LISP ではない。 名前は Shaw の『ピグマリオン』の Eliza Doolittle に由来し、 「教師によって少しずつ言葉を仕込める」という含意が込められている。

重要な区別として、 ELIZA は処理系の名前であって、 何を喋るかを決めるのは差し替え可能なスクリプトである。 最も有名なスクリプト DOCTOR が、 ロジャース派の心理療法士 ── 患者の発言を反射する非指示的療法 ── を模した。 論文冒頭に載る会話例は次のとおり（利用者が小文字、 ELIZA が大文字）。

Men are all alike.
IN WHAT WAY?
They're always bugging us about something or other.
CAN YOU THINK OF A SPECIFIC EXAMPLE?
Well, my boyfriend made me come here.
YOUR BOYFRIEND MADE YOU COME HERE
He says I'm depressed much of the time.
I AM SORRY TO HEAR YOU ARE DEPRESSED

仕組みは入力からキーワードを拾い、 分解規則と再構成規則で言い換えて返すだけである。 それにもかかわらず、 使用者の反応は予想を超えた。 ワイゼンバウムは『Computer Power and Human Reason』で、 プログラムだと知り抜いていたはずの自分の秘書が、 数往復のやりとりのあとで自分に部屋を出てほしいと頼んだ、 と書いている。 精神科医の側からは、 Kenneth Colby ら三名が1966年に Journal of Nervous and Mental Disease 誌で、 この方式を自動心理療法として運用する構想を真面目に提案した。

ワイゼンバウムにとって、 これは衝撃だった。 単純な文字列の書き換えに対して、 使用者が共感能力を持つ実在と見紛うほどの感情を投影する ── この観察が、 彼を計算機批判へ向かわせた。

『Computer Power and Human Reason』（1976年）

1976年に出版された『Computer Power and Human Reason: From Judgment to Calculation』（邦題『コンピュータ・パワー ── 人工知能と人間の理性』）は、 AI 倫理という分野の創設文書である。

中心的主張:

1. 決定（deciding）と選択（choosing）は別物である。 決定は計算可能な活動であり、 いずれプログラムできる。 選択は判断の産物であって、 計算では代替できない。
2. 計算機に任せるべきでない領域がある: 軍事決定、 司法判断、 心理療法、 教育の核心、 高齢者介護。 機械にできるという事実は、 やってよいという結論を含まない。
3. 研究者は自分が作る技術の社会的帰結に責任を負う。 中立的な技術というものは存在しない。

この本は AI 主流派から強い反発を受けた。 最も鋭い反論は John McCarthy の「An Unreasonable Book」で、 Benjamin Kuipers の書評とワイゼンバウム自身の応答とともに ACM SIGART Bulletin 58号（1976年6月、 4–13頁）に載っている。 Bruce Buchanan と Joshua Lederberg も書評を書いており、 三者の書評は Computer History Museum が「Three Reviews of J. Weizenbaum's Computer Power and Human Reason」として所蔵している。

ELIZA 効果

ワイゼンバウムが指摘した「人がコンピュータに人間性を投影する現象」は、 後に「ELIZA 効果」として一般化された。 この概念は2020年代の生成 AI を読み解く鍵として再評価されている。

• 2022年6月、 Google のエンジニア Blake Lemoine が LaMDA を「感情を持つ存在」と主張して停職となり、 7月に解雇された事件
• ChatGPT（2022年） を「カウンセラー」「友人」「恋人」として使用する層の拡大
• AI コンパニオン製品（Replika、 character.ai）の心理的依存問題

いずれもワイゼンバウムが1966年に観察した現象の延長線上にある。

受賞・栄誉

ワイゼンバウムは計算機学界の主要賞（チューリング賞・京都賞など）を受賞していない。

• 1988年 Norbert Wiener Award（CPSR、 計算機専門家責任協会）
• 1994年 Humboldt-Preis（アレクサンダー・フォン・フンボルト財団）
• 1998年 ブレーメン大学名誉博士（2003年にハンブルク大学からも）
• 2001年 大十字功労勲章（ドイツ連邦共和国功労勲章）
• 2002年 VIZE 97 賞（Dagmar and Václav Havel Foundation）
• 2003年 ドイツ情報学会（Gesellschaft für Informatik）名誉会員

ベルリンのヴァイツェンバウム研究所（Weizenbaum-Institut für die vernetzte Gesellschaft）と Weizenbaum Award は、 いずれも彼の名を冠している。

影響

ワイゼンバウムが1976年に挙げた「計算機に任せるべきでない領域」のリストは、 2026年現在、 ほぼ全領域で逆方向に進んでいる。 軍事決定への AI 利用（Lavender・Gospel など2024年のガザ作戦の AI 標的選定）、 司法での再犯予測アルゴリズム、 AI 心理セラピー、 教育の自動化、 介護ロボット ── すべて彼が名指しした領域である。

それでも『Computer Power and Human Reason』は、 EU AI Act（2024年） のリスクベース規制の思想的下地としても読まれる。 「人間が最終判断を保持すべき領域がある」という枠組み自体は、 ワイゼンバウムが先取りした主張である。

ELIZA を作った男が、 ELIZA に最も警戒した ── この構造は、 Geoffrey Hinton の2023年の Google 退社と正確に呼応している。 半世紀の時間差で、 同じパターンが二度繰り返された。