[김종면의 진품명품 42] AI 산출물 표시 의무

김종면 기자 / 기사승인 : 2025-10-17 14:00:53
  • -
  • +
  • 인쇄
Column

AI 산출물 표시가 필요한 이유
위조 상품이나 불법 재판매 단속을 하다 보면 가장 흔히 적발되는 사례가 브랜드 기업의 공식 이미지를 허락 없이 무단 도용해 사용하는 경우다. 브랜드 기업에서 만든 공식 이미지는 많은 시간과 노력을 들여 만든 창작물이고 저작권에 의해 보호받는다.


그런데 최근 브랜드 기업들이 AI를 적극 도입하면서 이러한 공식 이미지를 AI로 제작하는 사례가 늘고 있다. 지난 칼럼에서는 이렇게 AI로 만든 창작물에 대해 저작권이 인정될 수 있는지를 살펴보았다.

 

그런데 저작권 보호 여부 이외에도 AI로 만든 공식 이미지와 관련해 브랜드 기업이 고려해야 할 사항은 해당 공식 이미지가 AI로 만든 산출물이라는 것을 표시하여 소비자들이 이를 명확하게 인지할 수 있도록 해야 한다는 점이다.


AI는 예술 작품을 창조하고 복잡한 데이터를 분석하며 우리의 일상을 편리하게 만드는 혁신적인 도구로 자리 잡았다. 그러나 이 거대한 기술의 물결은 우리에게 투명성이라는 새로운 질문을 던지고 있다. 이는 눈앞의 콘텐츠가 인간의 창작물인지, 아니면 AI의 손을 거쳐 탄생한 것인지 구분하기 어려운 시대가 되었기 때문이다.


AI 기술은 수많은 이점을 가져왔지만, 동시에 딥페이크 같은 기술 오남용을 통해 사회적 혼란을 야기할 수 있다는 우려도 커지고 있다. 허위 정보가 사실처럼 둔갑하고 조작된 이미지가 사람들의 판단을 흐리게 만들 수 있다. 이에 따라 AI가 만든 결과물에 그 사실을 명확히 표시해야 한다는 목소리가 커지고 있다. 이는 단순한 기술적 요구를 넘어 우리가 마주하는 정보에 대한 신뢰와 진실의 가치를 지키기 위한 시대적 과제다.


AI 산출물 표시 의무는 우리 사회의 신뢰와 안전을 지키는 핵심 장치다. AI 산출물 표시를 의무화하면 사용자가 콘텐츠 출처를 명확히 인지하고 정보의 신뢰도를 스스로 판단할 수 있게 된다. 이는 민주주의 사회의 핵심인 정보 주권을 보호하고 건강한 소통 환경을 만드는 데 필수적이다.

 

상업적 측면에서도 AI 산출물 표시는 중요하다. AI 모델을 활용한 광고가 사람 모델을 쓴 것처럼 보인다면, 이는 소비자를 기만하는 행위가 될 수 있다. 뷰티나 패션 제품처럼 실제 사용 경험이 중요한 분야에서 AI로 조작된 이미지는 소비자의 합리적인 판단을 방해한다. 따라서 AI 산출물 표시는 소비자의 알 권리를 충족시키고 브랜드에 대한 신뢰를 유지하는 데 필수적이다. 궁극적으로 이러한 표시는 AI 기술 개발자와 사용자 모두에게 윤리적 책임을 부여하여 기술이 책임감 있게 발전하고 사회에 긍정적으로 기여할 수 있도록 돕는다.

 

이슈가 된 사례
패션·뷰티 브랜드들이 AI를 활용한 광고에 AI 산출물 표시를 하지 않아 문제가 된 사례가 국내외에서 다수 발생하고 있다. 이런 사례는 단순히 기술적 논란을 넘어 소비자의 신뢰와 브랜드의 진정성이라는 더 큰 문제로 이어졌다는 점에 주목할 필요가 있다.


가. 국내 사례: 화장품 브랜드 A사 광고
국내 뷰티 브랜드 A는 자사 브랜드 광고에 AI 모델을 활용했다. 하지만 광고 이미지 어디에도 AI로 만들어졌다는 사실을 명확히 고지하지 않아 소비자들의 항의를 받았다. 특히 색조 화장품의 경우 실제 사용했을 때의 톤이나 색감이 중요한데 AI 모델이 표현한 화장품 색감이나 질감은 실제 제품과 다르게 보일 수 있다는 문제를 제기하기도 했다.


광고에 대한 비판과 논란이 이어지면서 결국 해당 브랜드는 광고를 전면 철회했다. 이 사례는 뷰티 제품처럼 실제 사용 경험이 중요한 영역에서 AI 모델을 사용할 때 투명성 확보가 얼마나 중요한지 보여주는 대표적인 사례다.


나. 해외 사례: 보그지에 실린 게스 광고
유명 패션 브랜드 게스는 미국판 보그 잡지에 완전히 AI로 생성한 모델을 활용한 광고를 게재했다. 이 AI 모델은 매우 현실적인 외모를 가졌지만, 광고 어디에도 AI 모델이라 는 사실을 명확하게 표시하지 않았다. 광고 하단에 매우 작은 글씨로 ‘Produced using AI’라고 쓰여 있었지만 잘 보이지도 않는 부분에 매우 작게 쓰인 이 글자를 대부분의 소비자는 인지하기 어려웠다.


이 광고는 패션업계와 소비자들에게 큰 논쟁을 불러일으켰다. 비평가들은 AI 모델이 실제 모델들의 일자리를 위협하고 비현실적인 미의 기준을 강화한다고 비판했다. 또한 소비자를 기만하는 행위로 간주돼 브랜드의 진정성이 훼손되었다는 지적을 받았다.


이러한 사례들은 단순히 AI 기술을 사용하는 것을 넘어 그 사실을 투명하게 공개하지 않았을 때 소비자가 느끼는 배신감과 불신이 브랜드에 얼마나 큰 타격을 줄 수 있는지 보여준다. 특히 진정성과 신뢰가 중요한 패션·뷰티 산업에서는 AI 산출물 표시 의무가 단순한 규제를 넘어 브랜드 평판을 관리하는 중요한 요소가 되고 있다.

 

AI 산출물 표시 의무와 관련한 주요 국가들의 움직임
가. 미국
미국에서는 딥페이크 기술의 악용 가능성에 대응하기 위한 입법 논의가 활발히 진행되고 있고 연방 차원의 여러 법안이 꾸준히 발의되고 있다. 대표적으로 2023년에 발의한 딥페이크 책임법(Deepfakes Accountability Act)은 딥페이크 콘텐츠 제작자에게 해당 콘텐츠를 AI 기술로 생성했음을 명시할 의무를 부과하고 있다. 또한 2024년 1월 발의한 ‘No AI FRAUD Act’는 테일러 스위프트의 가짜 광고 사례와 같이 AI 기술을 활용한 유명인 사칭 마케팅, 가짜 커버곡 등 저작권 및 퍼블리시티권 침해 문제를 규제하고자 제안한 법안이다. 이 외에도‘Defiance Act’는 딥페이크 음란물을 연방 차원에서 범죄화하고 피해자에게 민사상 손해배상 청구권을 부여하는 내용을 담고 있다.

 

나. 유럽
유럽연합(EU)은 AI 기술의 급속한 발전에 대응하여 AI 시스템의 개발 및 활용에 대한 포괄적이고 구조적인 규제 체계를 구축했다. 특히 딥페이크 기술로 인한 정보 왜곡, 기만, 사회적 혼란 등의 부작용을 방지하기 위해 인공지능법(Artificial Intelligence Act)과 디지털서비스법(Digital Services Act, 이하 DSA)을 중심으로 법적 규제를 명문화했다.

 

 

제50조 특정 AI 시스템 제공자 및 배포자에 대한 투명성 의무(Article 50-Transparency obligations for providers and deployers of certain AI systems)


제3항 딥페이크에 해당하는 이미지, 오디오, 비디오 콘텐츠를 생성하거나 조작하는 AI 시스템의 배포자는 해당 콘텐츠를 인위적으로 생성했거나 조작했음을 공개해야 한다.(Deployers of an AI system that generates or manipulates image, audio or video content constituting a deep fake shall disclose that the content has been artificially generated or manipulated.)

 

유럽연합의 인공지능법은 2024년 8월 1일 발효되었으며 AI 생성물에 대한 표시 의무는 발효일로부터 24개월 이후인 2026년 8월 2일부터 적용된다.

 

다. 중국
중국의 4개 부처(인터넷정보국, 공업정보화부, 공안부, 국가광전총국)는 AI의 건전한 발전을 촉진하고 AI가 생성하는 합성 콘텐츠의 식별을 표준화하며 국민, 법인 및 기타 조직의 합법적 권익을 보호하고 사회의 공공 이익을 수호하기 위해 AI가 생성하는 합성 콘텐츠 식별 방법을 제정했다고 발표했다. 이 규정은 2025년 9월 1일부터 시행된다.


이에 따라 AI로 생성된 텍스트, 이미지, 오디오, 비디오 등 모든 정보에 명시적 표시와 암시적 표시가 의무화됐다. 명시적 표시는 사용자가 쉽게 인지할 수 있는 문자나 그래픽 형태이며, 암시적 표시는 파일 메타데이터에 삽입되는 지문과 같은 표시다. 구체적인 규정 내용은 아래와 같다.

 

 

AI가 생성한 합성 콘텐츠 식별 방법

제4조 서비스 제공자가 제공하는 생성·합성 서비스가 인터넷 정보 서비스 심층 합성 관리 규정인 제17조 제1항에서 정한 상황에 해당하는 경우 서비스 제공자는 다음 각 호의 요건에 따라 생성·합성 콘텐츠에 명확한 식별 정보를 추가해야 한다.


(1) 텍스트의 시작, 끝 또는 중간의 적절한 위치에 텍스트 프롬프트 또는 일반적인 기호 또는 기타 기호를 추가하거나 대화형 장면 인터페이스 또는 텍스트 주변에 눈에 띄는 프롬프트를 추가한다.


(2) 오디오의 시작, 끝 또는 중간의 적절한 위치에 음성 프롬프트 또는 오디오 리듬 프롬프트를 추가하거나 대화형 장면 인터페이스에 눈에 띄는 프롬프트를 추가한다.


(3) 이미지의 적절한 위치에 눈에 띄는 경고 표시를 추가한다.


(4) 영상 시작 부분과 영상 주변의 적절한 위치에 눈에 잘 띄는 경고 표지판을 추가한다. 영상 끝부분과 영상 중간의 적절한 위치에도 눈에 잘 띄는 경고 표지판을 추가할 수 있다.


(5) 가상 장면을 표시할 때는 시작 화면의 적절한 위치에 눈에 잘 띄는 알림 로고를 추가해야 한다. 가상 장면이 계속 재생되는 동안에도 눈에 잘 띄는 알림 로고를 적절한 위치에 추가할 수 있다.


(6) 기타 생성된 합성 서비스 시나리오는 자체 응용 프로그램의 특성에 따라 눈에 띄는 프롬프트 표시를 추가해야 한다. 서비스 제공자가 생성된 합성 콘텐츠를 다운로드, 복사, 내보내기 등의 기능을 제공하는 경우 해당 파일에 요구 사항을 충족하는 명시적 식별 정보가 포함되어 있는지 확인해야 한다.



제5조 서비스 제공자는 인터넷 정보 서비스 심층 합성 관리 규정인 제16조에 따라 합성 콘텐츠를 생성하는 파일의 메타 데이터에 묵시적 식별자를 추가해야 한다. 묵시적 식별자에는 합성 콘텐츠의 속성 정보, 서비스 제공자의 명칭 또는 코드, 콘텐츠 번호 및 기타 제작 요소 정보가 포함된다. 서비스 제공자는 합성 콘텐츠를 생성할 때 디지털 워터마크 형태로 암묵적 식별 정보를 추가하는 것이 좋다. 파일 메타데이터는 특정 인코딩 형식으로 파일 헤더에 포함된 설명적 정보를 말하며, 파일의 출처, 속성, 용도와 같은 정보를 기록하는 데 사용된다.
제14조 이 규정은 2025년 9월 1일부터 시행한다.

 


 

우리나라의 AI 생성물 표시 의무
우리나라는 2026년 1월 22일 시행 예정인 인공지능기본법을 통해 생성형 AI 산출물에 대한 고지·표시 의무를 도입했다. 인공지능기본법은 생성형 AI가 만든 산출물에 대해 그것이 AI 산출물이라는 내용을 고지·표시하도록 의무를 명시하고 있으며, 딥페이크 등 실제와 유사한 콘텐츠 제공 시에도 표시가 요구된다.

 

 

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(약칭 인공지능기본법)

제2조(정의)
7. “인공지능사업자”란 인공지능산업과 관련된 사업을 하는자로서 다음 각 목의 어느 하나에 해당하는 법인, 단체, 개인 및 국가기관 등을 말한다.

가. 인공지능개발사업자: 인공지능을 개발하여 제공하는 자

나. 인공지능이용사업자: 가목의 사업자가 제공한 인공지능을 이용하여 인공지능 제품 또는 인공지능 서비스를 제공하는 자

제31조(인공지능 투명성 확보 의무)
① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.

② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다.

 


결론
중국은 이미 9월 1일 자로 AI 생성물 표시 의무 시행이 시작되었고, 유럽도 2026년에는 표시 의무를 시행할 예정이다. 우리나라 역시 내년 1월 22일 자로 시행된다.


AI 생성물 표시 의무에 대해 찬성과 반대 의견이 있을 수 있다. 특히 너무 규제를 강화하면 AI 산업 발전을 저해할 수 있다는 우려의 목소리가 있는 것도 사실이다. 하지만 AI 생성물로 인해 발생하는 사회적 문제나 피해자들의 문제를 그대로 놓아둘 수만도 없는 일이다.


어느 정도 규제는 필요하고 산업 발전과 사회적 피해 방지라는 두 가지 측면을 모두 고려하여 적정한 선에서 규제하고, 시행 이후의 상황을 지켜보면서 보완이 필요하다면 차차 보완해 가야 할 것으로 보인다.


 


김종면
·위고페어 대표(AI 기반 온라인 위조 상품 모니터링 플랫폼 위고페어 운영사)
·이메일: kjm4good@gmail.com

[저작권자ⓒ 아이러브캐릭터. 무단전재-재배포 금지]

뉴스댓글 >