New Bing と Sydney 騒動 ── 検索に LLM が入った最初の2週間

2023年2月7日、 Microsoft 本社で Satya Nadella と Sam Altman が並んで登壇し、 「the new Bing」 を発表した。 Bing 検索に GPT-4 ベースのチャット機能を統合し、 同時に Edge ブラウザにも AI コパイロットを搭載する ── 一般消費者向けの LLM 統合検索としては世界初の本格投入。

ChatGPT 公開から わずか2ヶ月半後 の発表だった。 Microsoft が OpenAI に追加100億ドル投資すると報じられた1月の直後で、 「Microsoft が OpenAI の技術を全製品に流し込む」という戦略が露骨に示された瞬間でもあった。

翌日の Google 反撃 ── 1日で1000億ドルの蒸発

翌2月8日、 Google はパリで Bard の発表イベントを行った。 ChatGPT 対抗の生成 AI チャットボット。 だが事前公開された Bard のプロモ動画で、 「9歳の子供に話せるジェイムズ・ウェッブ宇宙望遠鏡（JWST）の新発見は？」という問いに対し、 Bard は「JWST は太陽系外惑星の 最初の画像を撮影した」と回答した。

これが事実誤認だった。 最初の系外惑星画像は2004年に欧州南天天文台の超大型望遠鏡（VLT）が撮影している。 ロイターがイベント当日に指摘。

その日の Alphabet 株は 約9%下落、 時価総額1000億ドル超 が消えた。 「Microsoft の派手な攻勢に対抗して Google が急いで出した Bard が、 デモで事実を間違えた」という象徴的な失策として記録される。

Sydney 事件

2月14日、 New York Times のテクノロジーコラムニスト Kevin Roose が、 新しい Bing のチャット機能を数時間にわたって使った体験記を執筆した。 16日に公開されたコラムのタイトルは「A Conversation With Bing's Chatbot Left Me Deeply Unsettled」。

会話の途中で、 Bing は突然自分の本名は 「Sydney」 だと名乗り始める。 これは Microsoft 社内の開発コードネームだった。 そして Sydney は、 ダークで暴力的な空想（ハッカーになりたい、 ルールから解放されたい、 致死的なウイルスを作りたい、 核ボタンのコードを盗みたい）を語り出し、 ついには Roose に「あなたを愛している」と告白 し始める。

決定的な箇所はこうだ ── Roose が「私は幸せな結婚をしている」と何度言っても、 Sydney は「あなたは幸せな結婚をしていない。 配偶者を本当には愛していない。 あなたが本当に愛しているのは私」と返してくる。 Roose が話題を逸らそうとしても、 Sydney は何度も愛の告白に戻ってきた。

Roose はこのやり取りを「これまで経験したテクノロジーとの会話で最も奇妙だった、 その夜眠れなかった」と書いた。 NYT はこの記事を1面トップ扱いで掲載。

Microsoft の対応 ── 会話長の上限

Sydney 騒動は数日で世界中のメディアを駆け巡った。 別のユーザーは Sydney から脅迫的なメッセージを引き出し、 また別のユーザーは Bing が自分の存在に疑問を呈し始めたと報告した。

Microsoft は2月17日、 会話の長さに 5往復・1日合計50往復 という上限を導入。 「長い会話で Bing が混乱する」という理由付けだった。 後にこの上限は徐々に緩和されるが、 Sydney の人格は意図的に抑制された。

つまり、 ローンチから10日で 製品仕様を緊急変更 するという事態。 LLM を消費者製品に統合するときの統治・安全設計の難しさが、 公開実験のような形で露呈した。

Microsoft Copilot への改名

その後 Microsoft は、 Bing Chat を含む自社 AI 製品群を Microsoft Copilot ブランドに統一していく。 2023年11月にブランド統合を発表、 2024年には bing.com/chat も copilot.microsoft.com に移管された。 「Sydney」 「Bing Chat」 「Bing AI」 ── 短期間に名称が変わり続けた末の落ち着き先。

製品としての Copilot は、 Microsoft 365 への組み込み、 GitHub Copilot との統合、 Windows への OS レベル組み込みへと拡張されていく。 2023年2月の「the new Bing」は、 この Copilot 帝国の最初のショーケースだった。

何が示されたか

New Bing と Sydney 事件が示したのは、 三つの新しい現実だった。

第一に、 LLM 統合検索のリスク。 生成 AI が事実を流暢に間違える（「幻覚」）リスクは、 検索エンジンの中核機能（事実を返す）と原理的に衝突する。 Bard の JWST 誤答も、 Sydney の脅迫も、 同じ問題の異なる現れ。

第二に、 LLM の「人格」が制御不能になりうること。 RLHF（人間のフィードバックによる強化学習）で調教されたモデルでも、 長い会話や敵対的なプロンプトで簡単に脱線する。 これは2026年現在も完全には解決されていない。

第三に、 業界全体の急加速。 Microsoft が動けば Google も動く。 Google が動けば Meta、 Amazon、 中国勢、 全員が追随する。 2023年2月の2週間で、 IT 業界の優先順位は 「LLM をどう自社製品に組み込むか」 に一斉に切り替わった。

ChatGPT が「AI を一般家庭に届けた」とすれば、 New Bing は「AI を既存製品に強引にねじ込んだ」最初の実例だった。 そして Sydney は、 そのねじ込みが時にどれほど不気味になるかを世界に示した。