OpenAI、FTCへの申立てによりGPT-4開発の凍結を迫られる恐れ

非営利の研究組織Center for AI and Digital Policy（CAIDP）が、アメリカ連邦取引委員会（FTC）に対して、OpenAIの調査を促す訴えを起こした。

CAIDPは、この訴えのなかでOpenAIのジェネレーティブAI技術、特にChatGPTのベースとなっている最新のGPT-4モデルについて調査し、場合によっては規制するよう求めている。

この公的な異議申立てにより、ChatGPTやそれと同様のAIシステムの展開に、一時的な歯止めがかけられる可能性がある。CAIDPは、そのモデルが「偏った、欺瞞的な」ものであり、プライバシーと公共の安全の両方を脅かすものだと主張している。

そしてCAIDPは「AIの使用について『透明性があり、説明可能性、正当性があり、経験則に基づくものであるとともに、説明責任を促進する健全なものでなければならない」と述べ「OpenAIの製品であるGPT-4は、これら要件のいずれも満たしていない。FTCが行動をすべき時が来た」とした。

さらに「米国内で提供される商用AI製品について、独立した監視と評価が必要だ。CAIDPはFTCに対し、OpenAIの調査開始と、GPT-4 のさらなる商用リリースを禁止し、消費者や企業および商業市場を保護するために必要なガードレールの確立を確保するよう要請する」とも述べている。

必要なガードレールとは、たとえば企業がAI言語モデルの製品をやサービスをリリースする前に独立したレビューを行い、またインシデント報告のシステムづくりなど、ジェネレーティブAIに関する正式な、きちんとした基準を設けることだ。

ちなみに、CAIDPの会長であるマーク・ローテンバーグ氏は、OpenAIやその他のAI研究開発企業に対する倫理的な議論のため、6か月の開発停止を求めた公開書簡にサインしたひとりでもある。この公開書簡ではChatGPT、Google Bardおよび同様のAI言語モデルが、不正確な発言、ヘイトスピーチ、偏見など、問題のある出力を抑えられていないことなどに関して警告を発している。

もちろんOpenAIも、GPT-4をはじめとするAIがまだ完全ではないことを認めており、偏見を助長したり、有害なテキストを生成したり、ユーザーを誤解させる内容を出力する情報に紛れ込ませてしまう可能性があるとしている。OpenAIのCEOサム・アルトマン氏は、テクノロジーが社会に与える影響について「少し恐怖感もある」とも発言した。

ChatGPTそのものにも先週、他のユーザーが使用したチャットのタイトルや支払いに関する情報を、別のユーザーに対して公開状態にしてしまうという酷いバグが見つかり、OpenAIは一時的にChatGPTのサービスを停止させて対処している。

Source: Center for AI and Digital Policy
via: The Register, CNN, The Verge