OpenAI、EUでChatGPTの文章に不可視の透かしを追加

textGrainと呼ばれるこの仕組みは、モデルの単語選びにわずかな偏りを持たせ、読み手には見えない統計的な信号を残します。OpenAI自身の数値では、200トークンの文章の約80%、400トークンの文章の約95%で印を検出できました。単語の4分の1を類義語に置き換えると、検出率は17%まで下がりました。検出ツールはまず承認された研究者や組織に提供され、印からユーザーが特定されることはないとOpenAIは述べています。

背景には法律があります。AI法の透明性ルールは8月2日から施行されており、プロバイダーに生成テキストを機械可読にすることを求めているとTechCrunchは指摘しています。同媒体は、Anthropicが2か月前にClaudeのテキストへの透かしを世界全体で導入すると表明したこと、OpenAIは以前に作った透かしを見送っていたことも伝えています。

欧州でAIが下書きした文章を公開するチームにとって、ChatGPTの文章には検出ツールで見つけられる印が付くようになりました。大幅に編集すれば、印は薄れていきます。