Microsoft、Bing AI“暴走”多発で会話回数を制限

マイクロソフト（以下、「MS」）は、検索エンジンBingに組み込んだチャットボットの“暴走”が多発したことを受けて、使用制限を設けることを発表した。1日当たりの質問は50セッションまで、1セッション当たりのターン（やり取り）は5回までとされる。

MSは今月初め、ChatGPTを開発するOpenAIの技術を統合した「新しいBing」を発表およびリリースした。当初は好評を得ていたが、ユーザーと長いやり取りをするうちにBingの口調がおかしくなり、今年は2022年だとウソをつき、2023年だと主張するユーザーを「不合理で頑固」と侮辱するなどの“暴走”が相次いで報告されていた。

この件についてMSは、チャット型AIがソーシャルエンターテイメント、あるいは一般的な世界の発見のためのツールとして使うことを「完全に想定していなかった」との声明を発表。最初の7日間のテストにより、「非常に長いチャットセッションはAIを混乱させる可能性がある」ことや、「想定していなかったスタイルに繋がる可能性がある返答をするよう求める雰囲気に応答、または反映する場合がある」ことが分かったと説明していた。要は長い会話を続けるうちに文脈を見失ったり、ユーザーの口調に合わせすぎてしまうというわけだ。

MSは今回の声明で「我々のデータでは、大多数の人々が5ターン以内に探している答えを見つけており、50以上のメッセージがあるチャット会話はわずか1％に過ぎない」と述べている。つまり、チャットAIが暴走した主因とみられる「長いチャットセッション」を排除しても、ほとんどのユーザーには影響がないと示唆している。

そしてチャットセッションが5ターンに達すると、新たなトピックを始めるよう促されるとのこと。それは「AIモデルが混乱しないよう、コンテキスト（文脈）をクリアする必要がある」ためだとされている。

この制限がいつまで続くか、2月19日現在では不明である。もっともMSは「皆様からのフィードバックを受けながら、チャットセッションの上限を拡大することを検討する」とも付け加えており、遠からず制限が緩められる可能性はあるようだ。

「新しいBing」にユーザーが殺到したのは、ChatGPTによる会話型AIの大ブームに、Edgeブラウザーがあれば追加のアプリも支払いも必要がないという敷居の低さが加わったからと思われるが、そのため空前のストレステストにもなっている。

この大量の負荷はIT大手のMSにとっても荷が重そうだが、これを乗り越えれば会話型AIは飛躍的な進歩を遂げるのかもしれない。

Source: Microsoft
via: The Verge