Geoffrey Hinton、Google を退社して AI の危険性を警告

2023年5月1日、New York Times に「Godfather of AI」のインタビュー記事が掲載された。

タイトルは "'The Godfather of A.I.' Leaves Google and Warns of Danger Ahead"（『AI のゴッドファーザー』 が Google を退社、 これからの危険を警告）。

Geoffrey Hinton、 75歳。 10年半の Google 在籍を辞した本人による、 異例の警鐘だった。

退社の動機

「Google について悪く言いたかったわけではない」── Hinton は NYT のインタビューで明確にこう述べた。「ただ、 AI の危険性について自由に話せるようにしたかった」。

10年前の2013年、 Google は Hinton と彼の二人の学生 Alex Krizhevsky・Ilya Sutskever を、 彼らの設立した DNN Research という会社ごと買収した。 三人は AlexNet（2012年の ImageNet 革命）の著者だった。 以来、 Hinton は Google Brain でフェローとして勤務し、 Toronto 大学の教職と兼任していた。

Sutskever はその後、 Google を離れて OpenAI のチーフサイエンティストとなり、 ChatGPT と GPT-4 の中心に立つことになる。 Hinton は Google に残り、 同じ技術が異なる組織で異なる速度で展開していくのを観察する立場にあった。

警告の内容

Hinton が NYT に語った懸念は、 大きく4つに整理できる。

短期 ── 誤情報の氾濫。 AI が生成する偽の文章・画像・動画が「インターネットを埋め尽くす」段階に入る。 一般市民は、 何が真実か判断できなくなる。

中期 ── 雇用の喪失。「ChatGPT はまだ人間の仕事を奪うほどではないが、 すぐにそうなる可能性がある」。 知的労働の自動化が始まっている。

長期 ── 自律兵器と自己改善。 軍事 AI の進化と、 AI が自分自身を改良するループ。「これらのシステムが我々より賢くなる可能性がある ── 数年前は数十年先のことだと思っていたが、 もうそうは思わない」。

根本的な不可逆性。 国際的な競争原理（とくに米中）により、 危険性を理由に開発を止めることは事実上できない。 Google も、 OpenAI に対抗するため Bard を急いで出さざるを得なかった。

「私の人生の仕事の一部を後悔している」

インタビューの中で最も引用された一節は ── "I console myself with the normal excuse: If I hadn't done it, somebody else would have"（「もし私がやっていなくても、 誰かがやっていただろう ── という、 ありふれた言い訳で自分を慰めている」）。

これは、 核物理学者が原爆開発を振り返るときの言葉に酷似している。 Hinton は AI の発展における自分の役割を、 そのくらいの規模で受け止めていた。

退社後、 Hinton は AI 安全研究機関や政府委員会で活動。 2024年10月、 ノーベル物理学賞を John Hopfield と共同受賞 ── 受賞講演で再び、 AI の存在的リスクについて語ることになる。

業界への影響

Hinton の退社と警告は、 業界の議論の構造を変えた。

それまで「AI のリスクを警告する」発言は、 主に外部の批評家・学者・倫理研究者から発せられていた。 開発の最前線にいる本人が、 巨大企業を辞してまで警鐘を鳴らすという構図は、 政府・メディア・一般読者への訴求力が違った。

2023年10月の Biden 大統領令、 2024年3月の EU AI Act、 各国の AI 安全研究所の設立 ── 一連の規制動向は、 Hinton 単独の影響とは言えないものの、 「最も AI を分かっている人物が危険を訴えた」という事実が政治的な追い風になったのは確かだった。

2023年5月1日の NYT 記事は、 AI 規制の時代の幕を、 静かに上げた文書として記憶される。