Anthropic, Claude 모델에 보이지 않는 워터마크 도입… EU AI Act 준수

인공지능(AI)과 관련하여 가장 큰 문제 중 하나는 생성된 콘텐츠가 AI에 의해 만들어졌는지 사람이 만들었는지 구별하기 어렵다는 점입니다. 특정 문구나 어조 패턴으로 AI 사용 여부를 짐작할 수는 있지만, 텍스트나 코드의 출처를 정확히 파악하기는 여전히 어렵습니다. 이로 인해 많은 사람들이 불안감을 느끼고 있으며, 이는 당연한 반응입니다. AI 생성 콘텐츠와 사람의 창작물 사이의 구분이 모호해진다면, 사회적으로 혼란이 가중될 수 있습니다.

유럽 연합(EU)은 AI 생성 미디어 및 텍스트의 식별을 목표로 하는 AI Act를 도입했으며, Anthropic은 이를 준수하겠다고 밝혔습니다. 일반적으로 워터마크는 이미지, 비디오, 오디오와 같은 미디어 생성물에 적용되는 경우가 많습니다. 데이터 양이 많아 워터마크를 숨기기 용이하기 때문입니다. 그러나 Anthropic이 텍스트에도 워터마킹을 적용할 계획을 발표한 것은 이례적입니다. 2026년 8월 2일 또는 그 이후에 EU에서 출시되는 Claude 모델은 기계 판독 가능한 마킹을 지원하며, 생성된 텍스트에는 내장된 워터마크가 포함되고, 지원되는 경우 생성된 파일에는 디지털 서명된 출처 메타데이터가 포함될 예정입니다. 이는 Anthropic이 텍스트뿐만 아니라 코드에도 워터마킹을 적용하겠다는 의미입니다.

데이터베이스 선택이 점점 더 중요하고 복잡해지는 시대에, ClickHouse는 애플리케이션을 위한 산업 표준 Postgres와 데이터 웨어하우스를 위한 ClickHouse의 장점을 결합한 솔루션을 제공합니다. 이 통합 솔루션은 Postgres가 ClickHouse에 의해 관리되는 형태로, ClickHouse의 모든 이점을 갖춘 엔터프라이즈급 Postgres를 사용할 수 있도록 합니다. 실제 NVMe 드라이브 위에 구축되어 I/O 집약적인 워크로드에서 최대 10배 빠른 성능을 제공하며, Postgres의 모든 변경 사항이 ClickHouse에 실시간으로 동기화되어 프로덕션 DB 속도 저하 없이 대규모 분석을 수행할 수 있습니다. 데이터 복제는 몇 초 안에 이루어지므로 지연 시간 걱정 없이 앱에서 Postgres DB의 분석 데이터에 액세스할 수 있습니다. 설정 과정도 간단하여 시작을 클릭하고 새 데이터베이스를 추가한 후 연결 문자열을 얻으면 바로 사용 가능합니다.

AI 시스템 제공자는 AI 시스템의 결과물이 인공적으로 생성되거나 조작되었음을 감지할 수 있도록 기계 판독 가능한 형식으로 마킹해야 할 의무가 있습니다. 여기에 텍스트 콘텐츠가 포함된 점은 다소 우려를 낳습니다. 제공자는 기술 솔루션이 기술적으로 가능한 범위 내에서 효과적이고, 상호 운용 가능하며, 강력하고, 신뢰할 수 있도록 보장해야 합니다. 이는 다양한 콘텐츠 유형의 특성, 구현 비용, 그리고 관련 기술 표준에 반영될 수 있는 최신 기술을 고려해야 합니다. 이 의무는 AI 시스템이 표준 편집 보조 기능을 수행하거나, 입력 데이터의 의미론을 실질적으로 변경하지 않는 경우, 또는 법률에 의해 형사 범죄를 감지, 예방, 조사, 기소하도록 승인된 경우에는 적용되지 않는다는 예외 조항이 존재합니다.

AI로 생성된 원본 콘텐츠와 AI를 활용하여 편집된 콘텐츠 사이에는 워터마크 적용의 투명성 수준에 차등을 두어야 한다는 의견이 있습니다. 예를 들어, AI를 사용해 얼굴의 뾰루지를 제거하는 등 미미한 수준의 편집이 이루어진 경우에는 AI로 완전히 생성된 콘텐츠와 동일한 방식으로 표시할 필요가 없다는 주장입니다. 이는 AI 활용 방식에 따라 워터마크 의무를 유연하게 적용해야 한다는 시각을 반영합니다. 완전히 AI가 생성한 결과물과 AI가 단순히 보조적인 편집 도구로 사용된 결과물을 동일하게 규제하는 것은 비효율적일 수 있기 때문입니다.

워터마크 기술에서 파일 크기는 중요한 요소입니다. 파일에 데이터 양이 많을수록, 인간이 인지할 수 없는 형태로 워터마크를 삽입할 여지가 커집니다. 즉, 파일 크기가 클수록 워터마크를 은밀하게 삽입하고 숨기기가 더 용이하다는 의미입니다. 이는 이미지, 비디오, 오디오와 같은 대용량 미디어 파일에 워터마크를 적용하는 것이 텍스트와 같은 소용량 파일보다 상대적으로 쉬운 이유를 설명합니다. 많은 데이터를 활용하여 워터마크를 분산시키거나 미세하게 삽입할 수 있기 때문입니다.

미디어 콘텐츠에 적용되는 압축 기술은 워터마크를 제거하는 주요 원인이 됩니다. 워터마크는 일반적으로 이미지나 오디오에 미세한 변경을 가하여 삽입되는데, 미디어 압축은 이러한 미세한 데이터 변화를 손실시키거나 제거하는 방식으로 작동하기 때문입니다. 따라서 미디어를 압축하는 과정에서 워터마크가 의도치 않게 손상되거나 완전히 사라질 수 있습니다. 이는 미디어 콘텐츠에 워터마크를 적용할 때 고려해야 할 중요한 기술적 한계 중 하나입니다.

워터마킹 기술은 다양한 이미지 조작 방법을 통해 쉽게 무력화될 수 있습니다. 예를 들어, 이미지를 JPEG 형식으로 다시 내보내거나, 압축률을 높이거나, 이미지 크기를 키웠다가 다시 줄이는 등의 간단한 방법으로도 워터마크가 파괴될 수 있습니다. 이러한 조작은 워터마크를 구성하는 미세한 패턴이나 데이터 변형을 손상시켜 감지를 어렵게 만들거나 완전히 제거할 수 있습니다. 이는 현재의 워터마킹 기술이 디지털 콘텐츠의 광범위한 유통과정에서 얼마나 취약할 수 있는지 보여주는 부분입니다.

구글의 SynthID는 이미지 워터마크 기술 중 하나로, 이미지 위에 노이즈 패턴을 적용하는 방식을 사용합니다. 이는 마치 GBT 이미지나 GPT 이미지에서 보이는 '튀겨진 듯한' 패턴과 유사하게 이미지에 미세한 변화를 주는 것입니다. 이러한 노이즈 패턴은 이미지에 인지할 수 없는 수준의 왜곡을 가하여 워터마크를 삽입합니다. 이 패턴들이 식별 및 테스트의 상당 부분을 차지할 것으로 예상되며, 이를 통해 AI가 생성한 이미지임을 감지할 수 있게 됩니다. SynthID는 워터마크를 시각적으로 최소화하면서도 기계적으로 감지할 수 있도록 설계된 기술입니다.

워터마크는 예상보다 훨씬 쉽게 제거될 수 있습니다. 이미지를 약간 흐리게 하거나, 캔버스 크기를 무심코 조정하는 등의 사소한 작업만으로도 워터마크 패턴이 크게 흐려지거나 파괴될 수 있습니다. 특히 1% 미만의 낮은 불투명도로 적용된 워터마크는 더욱 취약합니다. 블러 처리, 언블러 처리, 리사이즈 등 어떠한 이미지 편집 작업을 거치든 워터마크 패턴은 매우 빠르게 손상됩니다. 이는 현재의 워터마크 기술이 현실적인 사용 환경에서 얼마나 견고한지에 대한 의문을 제기합니다.

Anthropic은 Claude가 사용되는 모든 환경에서 워터마크가 작동할 것이라고 명확히 밝혔습니다. 이는 API를 통해 제공되는 플랫폼, Claude, Claude Code, Claude Co-work, Claude tag 등 모든 관련 서비스와 제품을 포괄합니다. 또한, Anthropic은 Claude의 워터마크 감지를 돕는 도구도 제공할 예정입니다. 특히 주목할 만한 점은 Anthropic이 기존 Claude 모델에도 워터마크를 추가할 계획이라는 것입니다. 이는 단순히 새로운 모델에만 적용하는 것을 넘어, 광범위한 AI 생성 콘텐츠에 대한 워터마크 적용을 목표로 하고 있음을 시사합니다.

서명된 출처 메타데이터는 SVG, PG 또는 JPEG와 같은 파일을 생성하거나 변경할 때 해당 파일에 부착되는 디지털 정보입니다. 이 메타데이터는 콘텐츠의 출처와 진위를 증명하며, 콘텐츠 출처 및 진위 연합(C2PA)의 표준을 따릅니다. 이는 파일의 무결성과 신뢰성을 확보하고, 디지털 콘텐츠의 생성 이력을 추적하는 데 중요한 역할을 합니다. 특히 AI 생성 콘텐츠의 경우, 이러한 서명된 메타데이터를 통해 콘텐츠가 어떤 AI 시스템에 의해 생성되었는지 투명하게 기록될 수 있습니다.

워터마크가 감지되지 않았다고 해서 특정 콘텐츠가 인공지능(AI)에 의해 생성되거나 처리되지 않았다고 단정할 수는 없습니다. 워터마크가 작동하지 않는 여러 상황이 존재하기 때문입니다. 예를 들어, 이 기능이 도입되기 전에 모델이 텍스트를 생성했거나, 텍스트가 심하게 편집, 재구성, 번역 또는 다른 글과 혼합된 경우 워터마크가 유실될 수 있습니다. 구절이 너무 짧아 워터마크를 인코딩할 충분한 텍스트가 없는 경우에도 감지가 어렵습니다. 파일의 경우, 파일이 변환, 재저장, 스크린샷 등으로 처리되거나, 특정 마킹 유형이 지원되지 않는 플랫폼 기능이나 파일 유형을 통해 생성된 경우에도 워터마크가 감지되지 않을 수 있습니다.

유럽연합(EU) AI법은 LLM(대규모 언어 모델) 제공자들에게 EU 내에서 사업을 하려면 출력물에 워터마크를 적용하도록 의무화하고 있습니다. 이는 AI 콘텐츠를 식별하는 데 사용될 수 있는 숨겨진 서명 기술을 의미합니다. 션 고드(Sean Godc)는 이 법이 공식적으로 발표되었을 때 우려를 표명했으며, 이 의무는 AI법 제50조에 명시되어 있습니다. AI 생성 콘텐츠의 투명성을 높이고 오용을 방지하려는 유럽 연합의 강력한 의지를 보여주는 부분입니다. 이로 인해 LLM 제공자들은 기술적 구현과 규제 준수에 대한 도전에 직면하게 될 것입니다.

워터마크 없이 AI 콘텐츠를 감지하려는 시도는 높은 오탐(false positives)율이라는 문제에 직면합니다. Anthropic과 같은 AI 모델 제공자라면 특정 텍스트 블록이 자사 모델에 의해 생성되었는지 확인할 수 있을 것이라는 가설이 있을 수 있습니다. 즉, 각 모델을 통해 텍스트를 실행하면서 모델이 예측한 토큰과 텍스트의 실제 각 토큰이 얼마나 일치하는지 측정하는 방식입니다. 그러나 실제로는 이러한 방식이 효과적이지 않습니다. 질문에 대한 Claude의 가능한 답변 공간은 워터마크가 있는 답변 공간보다 훨씬 광범위합니다. 이는 인간이 작성했음에도 불구하고 AI가 작성한 것처럼 보이는 텍스트에 대해 너무 많은 오탐을 발생시킬 가능성이 크다는 것을 의미합니다. 따라서 워터마크 없는 감지 방식은 신뢰도가 떨어질 수밖에 없습니다.

SynthID의 워터마크 기술은 인간이 식별하기 어려운 미세한 수학적 관계를 활용합니다. 이는 일반적인 키워드 목록을 감지하는 것과는 달리, 텍스트나 이미지 내부에 은밀하게 숨겨진 패턴이나 상관관계를 이용하는 방식입니다. 이러한 미묘한 수학적 관계는 사람이 직접 인지하기는 매우 어렵지만, 특정 알고리즘을 통해 감지하고 식별할 수 있습니다. 점수에 서명하는 과정이 기술적으로 사소한 일이기 때문에, 워터마크 감지를 실행하는 것 역시 상대적으로 간단하게 이루어질 수 있다는 특징을 가집니다. 이는 워터마크의 견고성과 감지 효율성을 높이는 데 기여할 수 있습니다.

유럽연합 AI법은 워터마킹 기술이 가능한 한 상호운용 가능해야 한다고 요구합니다. 이는 AI 작성자들이 워터마킹 과정을 공개하고 동일한 종류의 워터마크 적용을 표준화하려고 시도해야 함을 의미합니다. 그러나 이러한 요구사항은 LLM(대규모 언어 모델) 텍스트 워터마킹이 의존하는 '모호성에 의한 보안(security by obscurity)' 원칙과 충돌할 수 있습니다. 워터마크가 작동하는 방식을 모호하게 유지해야 보안성이 높아지는데, AI법의 요구사항은 이를 공개하고 상호운용성을 높이도록 강제하기 때문입니다. 이는 워터마크의 효과적인 구현과 규제 준수 사이의 난해한 균형 문제를 야기합니다.

AI가 생성한 콘텐츠에 플래그를 지정하는 것보다 사람이 만든 콘텐츠를 식별하는 표준을 제공하는 것이 진정한 가치라는 주장이 제기되었습니다. 특히 미디어 콘텐츠의 경우, AI가 만들지 않은 '진짜' 콘텐츠를 명확하게 식별할 수 있는 메커니즘을 확립하는 것이 더 중요하다고 강조됩니다. 이는 AI 콘텐츠의 확산 속도와 식별의 어려움을 고려할 때, 신뢰할 수 있는 인간 창작물을 보호하고 검증하는 데 더 중점을 두어야 한다는 관점입니다.

콘텐츠 출처 및 진위 연합(C2PA)의 '사람이 만들었음' 마커는 텍스트 파일에는 적용하기 어렵다는 한계가 있습니다. C2PA 코드 오브 프랙티스에 따르면, 이 마커는 '오디오, 이미지, 비디오, 또는 컨테이너화된 텍스트와 같은 메타데이터 첨부를 지원하는 데이터 형식'에만 해당됩니다. 그러나 챗봇 도구와 대부분의 AI 에이전트 출력은 컨테이너화된 텍스트가 아닌 일반 텍스트 형태이므로, 서명 기능을 직접 적용할 수 없습니다. 이로 인해 텍스트 콘텐츠의 진위 여부를 C2PA 표준으로 판별하는 데 어려움이 있습니다. 텍스트 콘텐츠에 대한 효과적인 출처 검증 방안 마련이 필요함을 시사합니다.

AI 워터마킹 단계는 비교적 빠르게 지나갈 것이라는 의견이 제기됩니다. AI 콘텐츠 식별의 궁극적인 해결책이 아니며, 대중에게 AI가 생성한 콘텐츠의 본질과 한계를 교육하는 것이 더 중요하다고 강조됩니다. 사람들은 이미지가 가짜가 아니라 진짜임을 스스로 확인할 수 있는 능력을 키우고, 진짜처럼 보이는 많은 디지털 콘텐츠가 실제로는 그렇지 않다는 사실을 인식해야 합니다. 이는 워터마크와 같은 기술적 수단보다는 사용자 교육과 미디어 리터러시 강화가 더 근본적인 해결책이 될 수 있음을 시사합니다.