Arup のディープフェイク詐欺 ── 偽の幹部とのビデオ会議で2億香港ドル

多国籍企業の香港オフィスで働く社員が、自分以外の参加者が全員偽物だったビデオ会議のあとで、約2億香港ドル（約2,500万米ドル）を送金してしまった。香港警察は2024年2月4日（日曜日）の会見でこの事件を説明したが、企業名は明かさなかった。2024年5月、英国の設計・エンジニアリング会社 Arup（アラップ） が自社が被害者だったと CNN に認め、偽の音声と画像が使われたことを確認した。

この事件が基準点になったのは、企業が頼るよう教えられてきた確認手段そのものを破ったからである。急ぎの送金を求めるメールは既知の詐欺の手口だった。そこで最高財務責任者や同僚の顔を見て声を聞くことが、確認の手段とされていた。この事件では、その会議こそが攻撃だった。

何が起きたのか

AFP の配信を載せた Hong Kong Free Press によれば、香港警察の Baron Chan 署理高級警司（Acting Senior Superintendent）が経緯を説明した。財務部門で働く社員が、会社の上級幹部を名乗る複数の人物とのビデオ会議に参加した。香港メディアの報道では、詐欺師は英国にいる同社の最高財務責任者を装っていた。警察によれば、被害者以外の参加者は全員なりすましで、YouTube で公開されていた本物の幹部の映像と音声を素材にしていた。

送金は15回に分けて行われた。警察が通報を受けたのは2024年1月29日で、その時点で資金はすでに失われていた。2月の会見の時点で逮捕者は出ていなかった。

だましの仕組み

2024年6月26日の立法会への答弁は、この攻撃の理解を変える細部を加えている。保安局長の鄧炳強（Tang Ping-keung）は、英国の最高財務責任者を装った詐欺師がまずフィッシングメールを送り、そのうえで社員をグループのビデオ会議に招いたと書いた。そして、会議は事前に録画されたもので、通報者と詐欺師のあいだに実際のやり取りは無かった、と説明している。社員が地元の5つの銀行口座への送金を承認すると、詐欺師はその後もインスタントメッセージで指示を続けた。

つまり攻撃者は、リアルタイムで会話するディープフェイクを必要としなかった。HKCERT は注意喚起で、詐欺師がさまざまな口実で会議を早々に打ち切り、被害者が質問できないようにしていたと書いている。それらしい顔ぶれによる短い録画の芝居だけで、通常の手続きなら疑問が出たはずの送金が承認された。

HKCERT の助言は、リモートワークの新しい作法のように読める。招待やリンクの出どころを確かめる。本人しか知らない質問をする。うなずく、手を振る、顔を覆う、カメラを動かすといった動作を頼む。映像と声のずれに気をつける。警察は、画面の相手に顔を横に向けてもらうという確認方法を加え、依頼はかけ直して確かめるよう呼びかけた。

Arup の説明

Arup は5月に CNN に対して被害者であることを認めた。広報担当者は、1月に香港警察に届け出たこと、捜査中のため詳細は話せないこと、そして同社の財務の安定と事業運営に影響はなく、社内のシステムは一切侵害されていないことを述べた。Arup の最高情報責任者 Rob Greig は、同社は請求書詐欺、フィッシング、WhatsApp での音声のなりすまし、ディープフェイクといった攻撃を日常的に受けており、ここ数か月でその件数と巧妙さが急増していると語った。

システムが侵害されていないという点は重要である。従来の意味でのハッキングは何も起きていない。マルウェアも、破られたサーバーも無い。攻撃が狙ったのは人と支払いの手順だった。だからこれは侵入ではなくソーシャルエンジニアリングに分類され、技術的な防御だけでは止められなかった。

孤立した事件ではない

同じ立法会答弁は、2023年以降に香港警察が受理したディープフェイク関連の詐欺事件3件を挙げている。

警察はまた、2023年11月以降、政府高官や著名人になりすましたディープフェイク動画21本を把握し、要請してすべて削除させていた。

ほかの国の規制当局も同じ結論に達した。2024年11月13日、米財務省の金融犯罪取締ネットワーク（FinCEN）は、金融機関を狙ったディープフェイク詐欺に関する警告 FIN-2024-Alert004 を出した。FinCEN は、ディープフェイクが疑われる疑わしい取引の届け出が増えており、とりわけ本人確認を突破するための偽造身分証が多いと述べている。

何が変わったか

直接の損失を負ったのは Arup で、同社の説明では財務の安定は損なわれなかった。より広い代償は、遠隔のコミュニケーションへの信頼に及ぶ。事件後に香港警察と HKCERT が勧めた防御策は示唆的で、技術的なものはほとんど無い。招待を確かめる、知っている番号にかけ直す、本人しか答えられない質問をする、顔を横に向けてもらう。画面上の顔と声は本人である証拠とは見なされなくなり、確かめる負担は、その電話や会議に出た社員一人ひとりに移ったのである。

こうした詐欺を仕掛けられる者の範囲も広がった。警察の説明では、素材は YouTube にある幹部のありふれた公開映像だった。声の複製を安くした同じ生成ツールは、2024年1月に米国で有権者を狙ったバイデン大統領の偽ロボコールに使われ、香港では送金窓口に向けられた。

関連: サイバーセキュリティの年表。社員のチャットボット利用を通じて情報が流れ出るという、別の種類の AI 時代の企業リスクについては Samsung の ChatGPT 情報流出 を参照。