OpenAIは、AIが書いた文章なのかどうかを判別するツール「AI Text Classifier」をリリースした。いまのところ、正確性はそれほど高くはなく、AIが書いた文章でもそれと判別できる確率は26％ほどだ。人間が書いた文章をAIが書いたと判別してしまう可能性も約9％となっている。AI Text Classifierには制限も多く、主要な意思決定ツールとして使用するのではなく、他の方法を補完するものとして使用するようOpenAIは求めている。まだ不完全とも言える状態でリリースしたのは、役に立つかどうかについてフィードバックを得るためとのことだ。

昨年11月にリリースされたChatGPTは、瞬く間に広く浸透していったが、同時にAIによる文章作成の危うさも浮き彫りにしている。ChatGPTは、聞かれたことにもっともらしい回答を行うことができるが、その内容が正しいとは限らない。ときには、まったくのデタラメな内容を返すこともある。

また、米CNETは、金融関連の解説記事をAIを使って作成。その内容に初歩的な誤りがあったとして、話題にもなっていた。こうした正確性への懸念などから、米ニューヨーク州の公立学校では、ChatGPTへのアクセスがブロックされている。

こうした問題への対応、そして議論を深めるために公開されたツールだが、OpneAI自身が不完全といっているように、制限はかなり厳しいものになっている。まず、判定するには最大1000文字が必要。この時点でハードルが高いのだが、英語以外での言語では精度が大幅に落ちるとのこと。また、AIが作成した文章に人が手を入れた場合については十分に検証されていないとしている。

なお、AIが作成した文章を識別することは、教育者の間で重要な議論のポイントになっているとのことで、教育関係者からのフィードバックも求めている。

Source: OpenAI, AI Text Classifier
via: TechCrunch