OpenAI、文章を分析してAIが書いたかどうかを判別するシステムを公開

　米OpenAIは、人間のユーザーが読み込ませた任意の文章を分析して、AIが書いたものであるかどうかを判別するシステム「AI Text Classifier」を1月31日（現地時間）に公開した。OpenAIでユーザー・アカウントを作成するだけで、無料で利用できる。

　OpenAIが公開している「ChatGPT」などの生成型言語モデルは、人間が書いたかのような自然な文章を出力することで、多くの人を驚かせたが、出力する文章に虚偽の内容が入り込むなどの問題がある。そして、大学の講義で課された小論文の作成にChatGPTを使うというような不正行為を働く者が現れ始めている。このため一部の教育現場では、学生の評価に論文ではなくグループワークやディスカッションなどを採用し始めている。

　OpenAIが今回公開した「AI Text Classifier」が、100％の精度でAIが書いた文章を識別できれば教育現場の苦労も軽くなるのだが、現状では完璧にはほど遠い。OpenAIによる評価では、AIが書いた文章のうち、AIが書いたと正しく識別できたのは26％にとどまる。そして人間が書いた文章のうち9％を、AIが書いたと誤って判定してしまったという。

　それでも、OpenAIが以前に公開した識別システムに比べれば精度は上がっているという。そして、今回公開したシステムでは、入力する文章が長くなればなるほど、判定の精度が上がるとしている。一方で1000文字以下の短い文章では、判定精度が大きく下がるという。また、現状では英語の文章の判定だけに使用した方が良いともしている。

　OpenAIは、今後も判定精度向上のために技術開発を続けるとしている。そのために、より多くの人にAI Text Classifierを使ってもらい、なるべく多くの意見を集めたいとしている。