클로드 워터마크, 내 글에 남는 경우와 안 남는 경우

클로드 워터마크가 어떤 원리로 글에 남는지, 그대로 쓰기·일부 수정·번역·맞춤법 교정 가운데 어떤 경우에 남고 어떤 경우에 거의 안 남는지 정리했다. 다시 쓰면 지워지는지, 직접 검사할 수 있는지, 유럽 밖에서도 적용되는지까지 짚고, 과제나 이력서처럼 조심해야 할 문서를 가르는 기준도 담았다.

앤트로픽이 8월 14일 표식을 붙이기 시작했다

앤트로픽(클로드를 만든 회사)이 클로드 워터마크, 그러니까 클로드가 만든 텍스트에 표식을 남기겠다고 발표했다. 워터마크는 원래 지폐나 사진에 넣는 식별 표시인데, 여기서는 이 글이 클로드를 거쳤는지 기계가 확인할 수 있게 남기는 숨은 표식을 말한다.

적용 범위가 꽤 넓다. 클로드 웹·앱(기본값), API(프로그램에서 클로드를 불러 쓰는 방식), 클로드 코드(개발자용 코딩 도구), 클로드 코워크(파일과 앱을 다루며 작업을 대신하는 기능), 클로드 태그(슬랙 안에서 쓰는 클로드) 등 "클로드"라는 이름이 붙은 곳 거의 전부다.

클로드 워터마크 원리: 단어를 고른 순서에 남는다

먼저 오해부터 걷어내자. "안 보이는 특수문자를 몰래 심는 방식"이 아니다. 작년에 돌았던 "복사·붙여넣기 하면 이상한 문자가 딸려온다"는 논란과는 완전히 다른 얘기다. 글자 수가 늘지도 않고, 숨은 문자도 없다. 뜻과 문장 품질, 가독성은 전과 같다. 저자나 회사를 알려주는 정보도 없다. 지울 대상이 화면에 아예 없다는 뜻이다.

그럼 뭘까. AI가 다음 단어를 고르는 과정을 생각해보면 이해가 쉽다. 여러 후보 단어 중 하나를 뽑는데, 원래 이 뽑기는 사실상 무작위였다. 같은 질문을 두 번 던져도 답이 매번 조금씩 다른 이유다. 앤트로픽은 이 뽑기 방식을 바꿨다. 열쇠(키, 규칙을 만드는 데 쓰는 비밀 값)와 앞선 단어들을 근거로 한 정해진 규칙에 따라 뽑도록 만든 것이다.

겉보기엔 여전히 무작위처럼 보인다. 하지만 나중에 단어들이 나온 순서를 그 규칙과 대조하면 일치 여부를 확인할 수 있다. 표식은 글자 자체가 아니라 "단어를 고른 순서"에 남는다. 눈으로는 절대 찾을 수 없고, 문체를 고쳐서 지우려는 시도도 통하지 않는다.

클로드 워터마크가 남는 경우 세 가지

1. 클로드가 처음부터 끝까지 써준 글을 그대로 쓴다. 당연히 남는다. 여기엔 논쟁의 여지가 없다.

2. 받아서 몇 군데만 손본다. 이것도 남는다. 이유가 있다. 문단 하나를 고쳐도 손 안 댄 나머지 문단은 클로드가 고른 단어 그대로이기 때문이다. 다만 예외가 하나 있다. 두세 문장짜리 짧은 메시지 정도라면, 판정에 필요한 신호 자체가 부족해서 애초에 판정 대상이 아니다.

3. 한국어로 쓰고 클로드에게 영어로 번역시킨다. 표식이 가장 확실하고 진하게 남는 경로다. 번역 결과물의 모든 단어(영어 단어)를 클로드가 골랐고, 원문 단어는 결과물에 하나도 남지 않기 때문이다. 내용은 100% 사용자 것이어도, 단어는 100% 클로드 것인 상태가 된다.

워터마크가 안 남는 경우: 맞춤법·띄어쓰기 교정

맞춤법·띄어쓰기 교정만 시킨 경우다. 표식이 거의 안 남는다. 단어가 거의 다 사용자 것이고, 클로드가 고른 단어가 몇 개 없으면 표식이 붙을 자리도 거의 없다. 표식은 클로드가 실제로 단어를 고른 만큼만 붙는다는 원리를 기억하면 된다.

클로드 워터마크 지울 수 있나: 흔한 반박 세 가지와 답

"그냥 다시 쓰면 되잖아." 절반만 맞다. 표식은 사라지지만 조건이 있다. 단어를 전부 다 갈아치워야 한다. 가벼운 편집으로는 안 지워지고, 전부 다시 써야 없어진다고 앤트로픽이 설명한다. 여기서 함정이 하나 있다. 모든 단어를 손으로 다시 쓸 거면 애초에 직접 쓰는 것과 다를 게 없어진다는 점이다. "많이만 고치면 되겠지" 하는 애매한 중간 지점이 오히려 제일 위험하다.

"검사 도구로 내가 돌려보면 되지." 지금은 불가능하다. 표식 확인 도구는 비공개로 운영되고, 대상도 규제 기관·법집행 기관·언론·팩트체크 기관(보도나 주장이 사실인지 검증하는 단체)·연구자·교육자·시민단체·요건을 갖춘 기업으로 한정돼 있다. 일반적으로 글 쓰는 사람은 자기 글에 표식이 있는지 직접 확인할 방법이 없다. 접근 범위를 넓혀가겠다고는 밝혔지만, 현재 기준은 그렇다.

"유럽법 때문이라며? 유럽 밖은 상관없지 않냐." 배경에 유럽 AI법(유럽연합이 만든 인공지능 규제법)이 있는 건 맞다. AI 생성물을 기계가 읽을 수 있게 표시하라는 조항이고, 8월 2일부터 적용됐다. 기존 서비스는 12월 2일까지 유예 기간이 있다. 하지만 표식은 지역을 가리지 않고 모델이 제공되는 모든 곳에 붙는다. "유럽 밖이라 예외"는 성립하지 않는다. 법이 근거이니 회사 방침이 바뀐다고 사라질 정책도 아니다.

표식이 알려주는 것의 한계

표식이 말해주는 건 딱 하나, "클로드를 거쳤다"는 사실뿐이다. 얼마나 많이 개입했는지는 알려주지 않는다. 그래서 문장만 다듬은 사람과 통째로 받아쓴 사람이 표식만으로는 구분되지 않는다. 앤트로픽도 표식이 있다고 해서 클로드가 원저자라는 뜻은 아니라고 설명한다. 교정·번역·요약·파일 변환에도 클로드가 쓰이기 때문이다.

워터마크가 걱정될 때 실행 기준 세 가지

첫째, 내 작업 방식을 스스로 표시해본다. "통째로 받아쓰기 / 받아서 조금 고치기 / 내가 쓰고 다듬기만 시키기 / 번역 시키기" 중 어디인지다. 대부분 두 번째에 있으면서 스스로는 세 번째라고 착각한다는 지적이 뼈아프다.

둘째, 문서를 두 종류로 나눈다. 표식이 남으면 곤란한 것(제출물·과제·이력서·포트폴리오처럼 "내가 썼다"가 조건인 문서)과, 남아도 상관없는 것(업무 메일·회의 요약·내부 정리 문서 대부분)이다. 후자는 신경 쓸 필요가 없다.

셋째, 곤란한 쪽 문서에는 번역 경로를 쓰지 않는다. 한국어로 쓰고 AI가 영어로 바꾸게 하는 방식은 편하고 빠르고 결과물도 좋다. 그런데 표식이 가장 진하게 남는 경로다. 오탈자·띄어쓰기 교정 요청은 표식이 거의 안 남으니 걱정할 필요 없다. 언어를 바꾸는 작업만 조심하면 된다.

출처: youtu.be/… (자막 기반 빠른 모드로 정리한 글입니다.)