OpenAI, EU 내 ChatGPT 텍스트에 보이지 않는 워터마크 삽입

textGrain이라는 이 시스템은 모델의 단어 선택을 미세하게 조정해, 독자가 알아볼 수 없는 통계적 신호를 남깁니다. OpenAI가 공개한 수치로 적용 범위를 가늠할 수 있습니다. 200토큰 분량 글의 약 80%, 400토큰 분량 글의 약 95%에서 표식이 탐지됐습니다. 단어의 4분의 1을 동의어로 바꾸면 탐지율은 17%로 떨어졌습니다. 탐지기는 승인된 연구자와 기관에 먼저 제공되며, 표식으로 사용자를 식별할 수는 없다고 OpenAI는 밝혔습니다.

이유는 법적 의무입니다. AI법의 투명성 규정은 8월 2일부터 시행 중이며, 제공업체가 생성 텍스트를 기계가 읽을 수 있게 표시하도록 요구한다고 TechCrunch는 설명합니다. 또 Anthropic이 두 달 전 Claude 텍스트에 전 세계적으로 워터마크를 넣겠다고 밝혔으며, OpenAI는 앞서 개발한 워터마크의 도입을 미뤄 왔다고 덧붙였습니다.

유럽에서 AI가 초안을 쓴 카피를 게시하는 팀이라면, 이제 ChatGPT 텍스트에는 탐지기가 찾아낼 수 있는 표식이 붙습니다. 대폭 수정하면 표식은 점차 사라집니다.