인공지능(AI) 챗봇 클로드 개발사인 앤트로픽이 AI가 생성한 텍스트에 보이지 않는 워터마크를 도입한다.
앤트로픽은 자사 AI 모델이 생성한 콘텐츠에 기계로 판독할 수 있는 투명성 표시 장치를 포함하고 있다고 11일 밝혔다.
지난 2일 발효한 유럽연합(EU)의 AI 관련 법에 따른 조치다.
이에 따라 법 시행 시점 이후 출시된 클로드 모델의 AI 결과물에는 워터마크가 적용됐으며, 이전에 출시된 모델도 순차적으로 기능을 추가하고 있다.
워터마크가 추가되더라도 답변의 의미나 품질, 가독성을 해치지 않는다는 게 회사 측의 설명이다. 이러한 워터마크는 텍스트 자체에 융합돼 있기 때문에 다른 곳으로 텍스트를 복사해서 붙여 넣거나 일부 편집을 거치더라도 그대로 유지된다고 앤트로픽은 전했다.
그러나 텍스트 길이가 너무 짧거나, 이용자가 AI로 생성한 문장을 대대적으로 재작성하거나 번역한 경우 등에는 워터마크가 감지되지 않을 수 있다.
또 워터마크가 있다고 해서 반드시 클로드가 해당 글의 원작자임을 뜻하는 것은 아니라고 앤트로픽은 부연했다.
이용자들이 다른 곳에서 쓴 글을 클로드를 통해 교정하거나 번역, 요약한 경우에도 워터마크가 적용될 수 있기 때문이다.
앤트로픽은 텍스트 외에 이미지나 파일 등으로 생성되는 결과물에도 출처 메타데이터를 부착한다고 덧붙였다.
앤트로픽은 이와 같은 투명성 표시를 EU 지역뿐 아니라 클로드를 서비스하는 전 세계에 동일하게 적용하겠다고 밝혔다.
다만 앤트로픽은 이 워터마크를 탐지하는 도구는 아직 공개하지 않고 있다.
앞서 구글도 디지털 워터마크 기술인 '신스ID'를 개발, AI 결과물에 도입한 바 있다.
<연합뉴스>
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x