ChatGPTを悪用、中国で初の逮捕報道。列車事故のフェイクニュース拡散疑い

中国警察がChatGPTにより生成したフェイクニュースを拡散した男性を逮捕したと、香港の英字メディアSouth China Morning Post（SCMP）が報じている。中国当局はディープラーニングによる合成技術、いわゆるディープフェイク悪用を防止するとの声明を発表し、今年1月から規制を施行しているが、その初の事例となる可能性がある。

中国北部・甘粛省の警察は、4月25日に9人が死亡した列車事故に関する偽記事を作成した疑いで男を逮捕したと発表。SCMP報道によると、「Hong」と呼ばれる容疑者はChatGPTを使って虚偽の事実と異なる情報をでっち上げ、中国のネット大手Baidu（百度）が運営する個人向けプラットフォーム「百家号（Baijiahao）」に20以上のアカウントから同時に投稿したとのことだ。これらの記事は当局に見つかるまでに、1万5000回以上がクリックされたそうだ。

そもそもChatGPTは中国のグレート・ファイアウォールによりブロックされているが、VPN接続が確保できれば中国ユーザーもアクセスできるという。

注目すべきは、Hong氏が「喧嘩を売り、トラブルを誘発した」罪を犯した疑いも掛けられていることだ。英The Guardianによれば、この法律は反体制派や活動家を一網打尽にするために使われていたが、2013年からはフェイクニュースをネット上に投稿・拡散した人にも適用が拡大されたという。有罪となった場合は、最大で10年までの懲役刑が科される可能性があるそうだ。

今年4月、中国はChatGPTを含むAIチャットボットを制限するガイドラインを発表している。一般的には、利用者の質問に対してAIが習近平指導部に批判的な回答をしかねない懸念があるから、と見られている。

だが、中国当局にはそれ以外の意図が2つあるとの推測を、米Gizmodoは紹介している。1つには、チャットボットによって翻訳された外国の記事や、中国人ユーザーがVPNなどのツールを使ってグレート・ファイアウォールによるコンテンツ規制を回避しようとする動きを締め付ける可能性だ。

もう1つは、世界的な人権団体アムネスティ・インターナショナルが指摘する懸念だ。すなわち権威主義的な政府が、人権侵害に関する正しい報道の信用を落とすために「すべてはAIによるねつ造に過ぎない」と主張するのではないか、というわけだ。

中国政府はChatGPTへのアクセスを遮断してはいるが、国内ではBaiduやアリババ等のハイテク大手が独自の生成系AIシステムの開発に注力している。こちらも当局がAIモデルにガイドライン違反の疑いをかけ、摘発することに利用する（より簡単に規制できる）との懸念も浮上しているが、それでも中国テック企業は生き残りのためにも邁進せざるを得ないのだろう。

Source: South China Morning Post
via: Gizmodo（US）