イタリアの規制当局は、米OpenAIが開発したAIチャットボット「ChatGPT」の使用を一時禁止した。

禁止した理由として、対話式AIの訓練には莫大なデータが必要だが、その目的で個人データを大量に収集・保存することに法的な根拠がないためと説明している。具体的には、EUの一般データ保護規則（GDPR）に違反している疑いがあるという。

イタリア政府はOpenAIに対して、緊急かつ必要な予備調査が完了するまで、イタリアのユーザーに関するデータ処理を一時停止するよう要求。事実上、イタリア国内からのChatGPTへのアクセスは遮断される格好だ。

今回の調査のきっかけとなったのは、先週起こった一部ユーザー情報の漏えいだったようだ。OpenAIはオープンソースライブラリのバグにより、他のユーザーの会話のタイトルや支払いに関する情報が別のユーザーに見えてしまう問題があったと認めており、一時的にChatGPTのサービスを停止していた。

大規模言語モデルであるChatGPTは、その知識のほとんどをインターネット上にある莫大なデータに基づいている。そのようにデータを集めることが技術的に可能ではあっても、データを収集される個々人から明示的な同意を得ているわけではない。

明示的な同意なしにデータを取得することは、これらのデータにたびたび虚偽が混じっていることから、誤った論理や結論を導くことにも繋がる。ChatGPTがもっともらしく答えていることも、専門家ではない人物によるサイトやSNSの発言から得られた可能性があり、大きな問題となり得るわけだ。

またイタリア当局は、ChatGPTは13歳以上のみ利用できるはずが、年齢認証の仕組みが用意されていないため、13歳未満でも自由にアクセスできてしまうことも問題視している。声明では、未成年者が発達の程度と自己認識のレベルにふさわしくない回答にさらされる危険があると強調されている。

数日前、FacebookとInstagramを傘下に置くMetaも、EU域内に限って、精度の高いパーソナライズド（個人データの収集に基づく追跡型）広告の一部を非表示にできる選択肢を提供する予定と報じられたばかりだ。OpenAIも全世界への展開を目指すのであれば、やはりEUのルールに従う必要があるだろう。

OpenAIには20日間の猶予が与えられ、その間に問題の解決を求められている。もし解決できない場合、最大2000万ユーロ（約29億円）または年間総売上高の4％の罰金を科されることになる。同社は米国においても、FTCへの申し立てにより、GPT-4開発の凍結を迫られる恐れもある。前例のない急成長ゆえに、今後も試練に見舞われることになりそうだ。

Source: GPDP
via: 9to5Google