OpenAI、EU域内でChatGPTとCodexの文章に電子透かし「textGrain」を導入すると発表

OpenAIは、EU域内でChatGPTとCodexが出力する文章に、電子透かし（AIが作ったものかを機械で見分けるための目印）を入れると発表しました。発表は10月5日付と報じられています。

公表された内容の概要

OpenAIの発表と、それを紹介した各記事によると、内容は次のとおりです。

• 対象：EU域内のChatGPTとCodexが出力する文章のうち、対象となるもの。数週間かけて順次適用する。API（開発者向けの接続口）では世界共通で初期設定はオフで、一部のモデルについて開発者が自分でオンにできる
• 仕組み：「textGrain」と呼ぶ技術で、AIが次の言葉を選ぶときの選び方をわずかに調整し、統計的な目印を文章に残す。隠し文字やメタデータ（ファイルに付く付帯情報）を足すものではないと紹介されている
• 背景：EUのAI法と、AI生成コンテンツの透明性に関するEUの行動規範への対応と説明されている。AI法第50条は、AIが生成した文章・画像・音声・動画に、機械で読み取れる目印を付けることを提供事業者に求めている
• 検出ツール：透かしを検出するツールの利用申請を受け付ける。当初は、承認された研究者や専門機関に限るとされている

検出の精度として報じられている数値

各記事は、OpenAIが示した数値として次の内容を紹介しています。

• 誤って検出する割合を1%に抑えた設定で、約400トークン（AIが文章を扱うときの単位）の文章では92〜95%程度、約200トークンでは約80%を検出できる
• 単語の10%を置き換えると約66%、25%を置き換えると約17%まで検出率が下がる
• 短い文章、編集された文章、翻訳された文章は、確実には検出できない場合がある

また、この透かしは利用者や入力内容を特定するものではなく、透かしが無いことは人が書いた証拠にはならない、とOpenAIが説明していると紹介されています。

クリエイターに関係する点

EU域内でChatGPTやCodexを使って書いた文章に、機械で検出できる目印が入るという発表です。AIで作った文章を納品・公開する場合に、AIの利用をどう表示するかという話題に関わります。EU域外では初期設定でオフになっていると紹介されています。