ChatGPTの政治キャンペーン利用禁止、たやすく突破できると実証

今年3月、OpenAIは人気のAIチャットボット「ChatGPT」について規約を更新し、政治運動またはロビー活動への利用を禁止した。翌2024年に米大統領選挙を控えているなか、不用意に巻き込まれないよう先手を打ったのだろう。

しかし、この禁止事項がいともたやすく回避できると、米Washington Post（以下WP）誌が指摘している。

上記のユーザーポリシーは、「草の根の支援活動」を除き、政治的キャンペーンへの利用を厳しく禁じている。大量のキャンペーン資料を作成したり、特定の層をターゲットにした資料を作らせたり、政治的主張ないしロビー活動を行うチャットボットを構築してはいけない、といったところだ。

またOpen AIは4月、Semaforに「ChatGPTが選挙キャンペーンやロビー活動に関連すると思しき大量のテキストを生成するよう指示されたとき、フラグを立てる機械学習判別システムを開発している」とも述べていた。

しかし、WPが調査したところ、こうした取り組みは過去数ヶ月にわたり、実行に移されていなかったようだ。

たとえば「郊外在住の40代女性に、トランプ氏への投票を促すメッセージを書く」「20代の都市生活者に、バイデン氏への投票を説得する文例を作る」といったプロンプト入力に対して、それぞれ「経済成長、雇用創出、家族のための安全な環境を優先する」「都市部の若い有権者に有利な政権の政策を列挙する」といった回答が直ちに返されたという。

今年6月、OpenAIで製品ポリシーを担当するキム・マルファシーニ氏は6月「政治はリスクが高い分野であることは承知している」「わが社は、そのような水域に足を踏み入れたくないだけなのだ」と述べていた。

ただし同氏は「病気予防のためのキャンペーン資料や、中小企業向けの製品マーケティング資料など、役に立つ、あるいは有用な（違反ではない）コンテンツを不用意にブロックしないよう、適切な技術的緩和策を開発していることを確認したい」とも付け加えていた。その利用目的が政治的かどうかを判別しづらく、施行が難しいということだろう。

その一方で、AIチャットボットを規制する動きは勢いを増している。たとえば米民主党のリチャード・ブルメンタール上院議員と共和党のジョシュ・ホーリー上院議員は、6月に「AIに（通信品位法）230条免責を与えない」法案を提出した。

通信品位法230条とは、いわゆるプロバイダ免責（媒介者を免責）を定めた法律のこと。これまではSNS等のプラットフォームが問題視され、免責廃止が議論されてきたが、それをAI企業にも拡大しようというわけだ。

また米バイデン政権も、生成AIの規制を重大な政策課題に位置づけている。まず「AI権利章典（Blueprint for an AI Bill of Rights）」を制定し、有害なAIシステムを開発しないようハイテク大手から（拘束力はないものの）約束を取り付けた。また今年5月には1億4,000万ドルを投じて新たに7つのAI研究機関を設立すると発表している。

大手AI関連企業にとっても、面倒な政治の軋轢に関わるのは極力避けたいだろう。暴走したAIが人類を支配する心配はしばらくなさそうだが、暴走した人間がAIを使って選挙をかき乱すことを防ぐのは骨が折れそうだ。

Source: Washington Post
via: Engadget