敵対的生成ネットワーク（GAN）── 偽造者と警察を競わせた生成モデル

GAN（Generative Adversarial Network、敵対的生成ネットワーク）とは、本物らしいデータを作る「生成器」と、それが本物か偽物かを見分ける「識別器」を競わせて同時に学習させる生成モデルの枠組みである。Ian Goodfellow らモントリオール大学の8人が、論文「Generative Adversarial Nets」を2014年6月10日に arXiv に公開し、同年の NIPS 2014（Advances in Neural Information Processing Systems 27）に採録された。

GAN は、実在しない人物の写真のような画像を作る技術として広く知られるようになり、深層学習 が「見分ける」だけでなく「作る」ことにも強いと示した。同時に、偽の映像や画像が社会に何をもたらすかという問いを、研究室の外へ押し出した技術でもある。

論文が提案したこと

論文の要旨は、生成モデルを敵対的な過程で推定する新しい枠組みとして GAN を説明している。2つのモデルを同時に訓練する。データの分布をとらえる生成モデル G と、ある標本が G からではなく訓練データから来た確率を見積もる識別モデル D である。G の訓練目標は、D が間違える確率を最大にすることにある。要旨はこれを、2人のプレイヤーによるミニマックス・ゲームに対応すると書く。

任意の関数の範囲で考えると、このゲームには一意の解があり、そこでは G が訓練データの分布を再現し、D はどこでも2分の1を出力する。G と D を多層パーセプトロンで作れば、全体を 誤差逆伝播法 だけで訓練でき、従来の生成モデルが必要としたマルコフ連鎖や近似推論の展開網が、訓練にも標本生成にも要らない。ここが当時の深層生成モデルの難しさを回避する点だった。

論文の序論は、この仕組みを偽札にたとえている。生成モデルは偽札を作って見つからずに使おうとする偽造者のチーム、識別モデルは偽札を見破ろうとする警察である。両者の競争が互いの手法を改良させ、最後には偽物が本物と見分けられなくなる。

モントリオールの酒場から

MIT Technology Review の2018年の人物記事によれば、2014年のある夜、Goodfellow は博士課程を終えた仲間を祝うため、モントリオールの酒場 Les 3 Brasseurs にいた。写真を自分で作る計算機を作りたいという友人たちの相談を受け、提案された方法は計算量が多すぎてうまくいかないと答えたが、ビールを前に考えるうちに、2つのニューラルネットワークを互いに競わせるという案を思いついた。帰宅してその夜のうちにコードを書き、最初の試行で動いたという。論文の謝辞も、創造性を刺激してくれたとして Les Trois Brasseurs に礼を述べている。

同じ記事は、Yann LeCun が GAN を "the coolest idea in deep learning in the last 20 years" と呼び、Andrew Ng が "a significant and fundamental advance" と評したと伝えている。いずれも記事が紹介した評価である。

StyleGAN と「実在しない人」

論文後、GAN は改良版が次々に現れる分野になった。MIT Technology Review は、2014年の最初の論文以来数百本の関連論文が書かれ、改良版を追跡する「GAN zoo」というページまで作られたと書いている。2017年には NVIDIA の研究者が、実在の有名人の写真から学習して架空の有名人の写真を作る GAN を発表し、広く話題になった。

2018年12月12日、NVIDIA の Tero Karras らは StyleGAN の論文「A Style-Based Generator Architecture for Generative Adversarial Networks」を arXiv に公開した。人の顔で学習させると、姿勢や人物といった大きな属性と、そばかすや髪のような細部の揺らぎを自動的に分けて制御できる生成器で、論文は新しい高品質な顔画像のデータセットも公開した。ACM は2018年度チューリング賞の Bengio の業績紹介で、GAN が実在しない人物や物体の写真のような画像を、ビデオゲーム用などに自動生成する用途で広く使われてきたと説明している。

ディープフェイクとの関係

GAN はしばしば「ディープフェイクの技術」と呼ばれるが、実際の関係はもう少し入り組んでいる。Yisroel Mirsky と Wenke Lee の2020年の調査によれば、2017年末、Reddit の「deepfakes」という名の利用者が、深層学習で有名人の顔をポルノ動画にはめ込んで投稿していたことが発覚し、大きな騒ぎになった。2018年には BuzzFeed が、この利用者のソフトウェア（FakeApp）で作った Obama 元大統領の偽映像を公開し、なりすましや偽情報への懸念を広げた。調査は、その利用者が公開した最初のディープフェイクのネットワークは、1つのエンコーダと2つのデコーダを持つエンコーダ・デコーダ型だったとしている。GAN を使う派生版（2018年の faceswap-GAN など）は、その後に現れた。

それでも、本物と見分けのつかない偽物を作るという GAN の発想が、この問題を加速させたという見方は早くからあった。MIT Technology Review の2018年の記事は、リアルな偽物を作るよう設計された機械は、株価から選挙まで動かしたい偽ニュースの発信者にとって完璧な武器になると書き、"GANs didn't create this problem, but they'll make it worse." とまとめた。偽映像の検出を研究するダートマス大学の Hany Farid は、GAN は検出法にも適応してくるとして "We're fundamentally in a weak position" と述べている。同記事によれば、Goodfellow 自身も Google Brain で、自分の発明の悪用に対抗する研究に多くの時間を割くようになっていた。

この懸念は2020年代に現実の被害になった。生成 AI を使ったなりすましは、2024年の香港の偽ビデオ会議詐欺 や、米大統領選の予備選前に流れた偽の Biden 音声 のような事件として現れている。もっとも、その多くで使われた技術が GAN だったとは限らない。画像生成の分野では、Stable Diffusion のような拡散モデルという別の系統も台頭した。

社会にとっての意味

GAN の影響は両面がある。MIT Technology Review は、ペンシルベニア大学の Casey Greene の話として、本物とほぼ同等の合成の医療記録を作れば、本物の記録を厳重に守ったまま研究用データを広く共有できるという利用法を紹介している。Goodfellow 自身も、薬の効き目や電池の効率のように何かを最適化したい科学や工学の分野で GAN が次の大きな波になると語った。

一方で、作られた画像や映像が本物と区別できなくなることは、写真や動画を証拠として扱ってきた報道・司法・日常の信頼の前提を揺るがした。偽物を作る側と見破る側の競争という GAN の内部の構図が、そのまま社会の中で再現されている、と言ってもよい。AI 全体の流れは AI の年表 にある。