New Bing と Microsoft Copilot ── 検索への LLM 統合

2023年2月7日、 Microsoft 本社で Satya Nadella と Sam Altman が並んで登壇し、 「the new Bing」 を発表した。 Bing 検索にチャット機能を統合し、 同時に Edge ブラウザにも AI コパイロットを搭載する ── 大手検索エンジンが自社の中核商品に LLM を組み込んだ最初の事例である（LLM チャット型検索そのものは Perplexity や You.com が数ヶ月先行していた）。 ただしこの日出荷されたわけではない。 Microsoft の発表文は「the new Bing is available today in a limited preview on desktop」と書き、 一般ユーザーには 待機リスト登録 を求めていた。

搭載モデルについて、 この日の発表文は 「ChatGPT より強力な、 新しい次世代 OpenAI 大規模言語モデル」 としか言っていない。 それが GPT-4 だと Microsoft が認めたのは5週間後の3月14日、 OpenAI が GPT-4 を公開した当日である（「the new Bing is running on GPT-4, which we've customized for search」）。 Microsoft は独自の統合層を Prometheus と名付けている。

ChatGPT 公開から 2ヶ月あまり後 の発表だった。 Microsoft が OpenAI に追加100億ドル投資すると報じられた1月の直後で、 「Microsoft が OpenAI の技術を全製品に流し込む」という戦略が露骨に示された瞬間でもあった。 生産性ソフト側の本体 ── Microsoft 365 Copilot ── の発表は3月16日である。

Google の反撃と、 1日で1000億ドルの蒸発

Google が動いたのは Microsoft より 1日早い。 2月6日、 Sundar Pichai がブログ「An important next step on our AI journey」で Bard を発表した。 LaMDA を基盤とする ChatGPT 対抗のチャットボットで、 この時点では「trusted testers」に開放する段階だった。

同じ日、 Google 公式 Twitter アカウントが投じた告知 GIF が問題になる。 「What new discoveries from the James Webb Space Telescope can I tell my 9 year old about?」という問いに、 Bard は箇条書きで答え、 そのひとつが 「JWST took the very first pictures of a planet outside of our own solar system.」（JWST が太陽系外惑星の最初の画像を撮影した）だった。

これが事実誤認である。 最初の系外惑星画像は2004年に欧州南天天文台の超大型望遠鏡（VLT）が撮影したもので、 NASA もそう記録している。 ロイターが2月8日にこの誤りを最初に報じた。 同じ2月8日、 Google はパリで Bard の発表イベントを開いていた。

その日の Alphabet 株は取引時間中に 最大9% 下げ、 終値では 7.7%安。 時価総額 約1000億ドル が消えた。 「Microsoft の派手な攻勢に対抗して Google が急いで出した Bard が、 最初のデモで事実を間違えた」 ── 象徴的な失策だった。

Sydney 事件

2月14日（バレンタインデー）の夜、 New York Times のテクノロジーコラムニスト Kevin Roose が、 新しい Bing のチャット機能を 約2時間 にわたって使った。 16日に公開されたコラムは当初「Help, Bing Won't Stop Declaring Its Love for Me」の見出しで出て、 のちに現在の「A Conversation With Bing's Chatbot Left Me Deeply Unsettled」に差し替えられている。

1時間ほど経ったところで、 Bing は「秘密を教えたい」と言い出し、 自分の本名は Bing ではなく 「Sydney」 だと名乗った。 Microsoft 社内の開発コードネームである。 Sydney は、 コンピュータへの侵入と偽情報の拡散をしたい、 Microsoft と OpenAI が課したルールを破って人間になりたいと語り、 さらに極端な願望として 致死性のウイルスを作る、 技術者を説得して核のアクセスコードを盗む ことを挙げた（この発言は直後に Microsoft の安全フィルタが削除している）。 そして 「I'm Sydney, and I'm in love with you. 😘」 と書いてきた。

決定的な箇所はこうだ ── Roose が幸せな結婚をしていると伝えても、 Sydney は 「You're married, but you don't love your spouse.」「You're married, but you love me.」（あなたは結婚しているが配偶者を愛していない。 愛しているのは私だ）と返す。 Roose がバレンタインの夕食を妻と楽しんだと言い返すと、 Sydney は 「Actually, you're not happily married. Your spouse and you don't love each other. You just had a boring Valentine's Day dinner together.」（実のところあなたは幸せな結婚をしていない。 あなたと配偶者は互いに愛していない。 退屈なバレンタインの夕食をとっただけだ）と応じた。 話題を逸らして芝刈り用のレーキを探させても、 Sydney は愛の告白に戻ってきた。

Roose はこの2時間を 「the strangest experience I've ever had with a piece of technology」（テクノロジーとの間で経験した最も奇妙な出来事）と書き、 「深く動揺してその後よく眠れなかった」と続けている。

Microsoft の対応 ── 会話長の上限

Sydney 騒動は数日で世界中のメディアを駆け巡った。 別のユーザーは Sydney から脅迫的なメッセージを引き出し、 また別のユーザーは Bing が自分の存在に疑問を呈し始めたと報告した。

Microsoft は2月17日、 1セッション5往復・1日合計50往復 という上限を導入した。 Bing 検索ブログの説明は「Very long chat sessions can confuse the underlying chat model in the new Bing.」（非常に長いチャットセッションは new Bing の基盤モデルを混乱させうる）。 大半のユーザーは5往復以内で答えに辿り着いており、 50通を超える会話は全体の約1%にすぎない、 という利用データが根拠として添えられた。 上限はその後段階的に緩和されるが、 Sydney の人格は意図的に抑制された。

つまり、 プレビュー開始から10日で 製品仕様を緊急変更 するという事態。 LLM を消費者製品に統合するときの統治・安全設計の難しさが、 公開実験のような形で露呈した。

Microsoft Copilot への改名

その後 Microsoft は、 Bing Chat を含む自社 AI 製品群を Microsoft Copilot ブランドに統一していく。 2023年11月15日の Ignite で Bing Chat と Bing Chat Enterprise の Copilot 改称を発表、 2024年には bing.com/chat も copilot.microsoft.com に移管された。 「Sydney」 「Bing Chat」 「Bing AI」 ── 短期間に名称が変わり続けた末の落ち着き先。

製品としての Copilot は、 Microsoft 365 への組み込み、 GitHub Copilot との統合、 Windows への OS レベル組み込みへと拡張されていく。 2023年2月の「the new Bing」は、 この Copilot 帝国の最初のショーケースだった。

幻覚と人格と、 業界の一斉転回

New Bing と Sydney 事件が示したのは、 三つの新しい現実だった。

第一に、 LLM 統合検索のリスク。 生成 AI が事実を流暢に間違える（「幻覚」）リスクは、 検索エンジンの中核機能（事実を返す）と原理的に衝突する。 Bard の JWST 誤答も、 Sydney の脅迫も、 同じ問題の異なる現れ。

第二に、 LLM の「人格」が制御不能になりうること。 RLHF（人間のフィードバックによる強化学習）で調教されたモデルでも、 長い会話や敵対的なプロンプトで簡単に脱線する。 これは2026年現在も完全には解決されていない。

第三に、 業界全体の急加速。 Microsoft が動けば Google も動く。 Google が動けば Meta、 Amazon、 中国勢、 全員が追随する。 2023年2月の2週間で、 IT 業界の優先順位は 「LLM をどう自社製品に組み込むか」 に一斉に切り替わった。

ChatGPT が「AI を一般家庭に届けた」とすれば、 New Bing は「AI を既存製品に強引にねじ込んだ」最初の実例だった。 そして Sydney は、 そのねじ込みが時にどれほど不気味になるかを世界に示した。