OpenAI, EU에서 ChatGPT 글에 보이지 않는 워터마크…한국은 이번 대상 아냐

OpenAI가 10월 5일(현지시간) 유럽연합(EU)에서 ChatGPT와 Codex가 쓴 글에 눈에 보이지 않는 '워터마크'를 넣겠다고 밝혔다. EU 인공지능법(AI Act)이 생성형 AI가 만든 글을 기계가 알아볼 수 있게 하라고 요구하기 때문이다. 다만 처음에는 EU에서만 적용하고, 표시를 찾는 검사 도구도 일부 연구자에게만 연다.

무엇이 나왔나

OpenAI의 글 워터마크 기술 이름은 'textGrain'이다. AI가 단어를 고를 때 사람 눈에는 보이지 않는 통계적 신호를 섞어 두고, 검사 도구가 이 신호를 찾아 OpenAI 워터마크가 있는지 판단하는 방식이다. OpenAI는 기술 보고서를 공개했고, 앞으로 이 기술을 오픈소스로 내놓을 계획이라고 했다.

OpenAI는 단계적으로 적용한다고 했다.

• EU의 ChatGPT·Codex: 앞으로 몇 주에 걸쳐 모든 요금제의 해당 사용자가 만드는 글에 워터마크를 넣는다. 정확한 날짜는 밝히지 않았다.
• API: 10월 5일부터 전 세계 API 고객이 일부 모델에서 워터마크를 직접 켤 수 있다. 기본값은 꺼져 있다.
• 검사 도구: 승인받은 연구자와 전문 기관만 신청할 수 있다. 일반에는 공개하지 않는다.

실제로 되는 것

워터마크는 "OpenAI 시스템이 이 글의 일부를 만들거나 처리했다"는 신호만 준다. OpenAI는 워터마크로 알 수 없는 것도 분명히 적었다. 사람이 얼마나 고쳐 썼는지, 글의 주인이 누구인지, 내용이 맞는지는 알려주지 않는다. 누가 썼는지, 어떤 대화에서 나왔는지도 드러내지 않는다.

워터마크가 발견되지 않았다고 사람이 쓴 글이라는 증거도 아니다. 글이 너무 짧거나, 고쳐졌거나, 번역됐다면 잘 잡히지 않는다. OpenAI가 공개한 자체 시험 결과도 이를 보여준다. 400토큰 분량 글에서 단어의 10%를 비슷한 말로 바꾸자 검출률이 약 92%에서 66%로, 25%를 바꾸자 17%로 떨어졌다. 수학처럼 단어 선택의 폭이 좁은 글은 훨씬 덜 잡혔다. OpenAI는 이런 한계 때문에 검사 도구를 처음에는 연구자에게만 연다고 설명했다.

누가 쓸 수 있나

ChatGPT 워터마크는 처음에는 EU에서만 적용된다. OpenAI는 출시 시점에 전 세계 기본값으로 만들지 않겠다고 했다. 한국 ChatGPT 사용자의 글은 이번 적용 대상이 아니고, 한국 확대 계획도 발표되지 않았다.

한국 개발자도 API를 쓴다면 일부 모델에서 워터마크를 직접 켤 수 있다. 검사 도구는 일반 사용자가 바로 쓸 수 없고, 승인받은 연구자와 전문 기관만 신청할 수 있다. 이미지와 음성 확인 도구는 지금처럼 공개 상태로 유지된다.

아직 안 되는 것

EU 적용 날짜는 "앞으로 몇 주"라고만 했다. 클라우드 협력사를 통해 OpenAI 모델을 쓰는 경우의 워터마크도 앞으로 몇 주 안에 준비한다고 했다. 검사 도구를 언제 더 넓게 열지는 정하지 않았다. OpenAI는 결과를 책임 있게 해석할 수 있다고 판단될 때 접근을 넓히겠다고 했다.