[동향] 생성형 AI 워터마크

생성형 AI

- 생성형 AI로 만든 사진, 영상 등으로 인한 사회적 부작용이 증대

- 특히 딥페이크 콘텐츠의 경우, 범죄로 이어지는 경우가 多

- 주요 선거를 앞둔 만큼 생성형 AI 규제 가속화

- 기업들이 내년 대선에서 딥페이크 등으로 발생할 문제를 회피하려구 강화 중 (??)

 

워터마크 기술

- 문서, 이미지, 영상 등과 같은 디지털 콘텐츠에 보이지 않는 데이터를 삽입하여 저작권 보호, 보안, 인증 등에 활용

- 원본 출처와 관련된 정보 추적 용이

 

 

생성형 AI와 워터마크

- 구글: 챗봇 Gemini(Bard)가 형성한 이미지에 딥마인드가 개발한 Synth ID를 적용. Synth ID는 AI만 인식 가능한 픽셀 단위의 흔적을 남겨 AI 생성물 여부 확인 가능한 비가시적 디지털 워터마크로, 워터마크 부분을 잘라내거나 파일 변조 및 필터나 압축에도 강함 

- 메타: 자사 생성형 AI인 메타 AI를 사용해 만든 모든 콘텐츠에 'Imagined with AI'라는 워터마크 적용, 나아가 광고에 생성형 AI 기능을 사용하는 경우 조치 시행 방침

- OpenAI: DALL·E3에 디지털 워터마크를 적용

- SK 텔레콤: 인공지능 서비스 에이닷이 생성한 프로필 이미지 왼쪽 구석에 가시적 워터마크

- 가시적 워터마크 → 최소한의 안전장치

 

생성형 AI 텍스트에 워터마크 적용 연구

- AI가 텍스트를 생성 시, 특정 단어의 빈도나 배열 규칙을 정해 AI 생성물을 인지하는 방식이 연구 중 

- OpenAI의 경우, 관련 AI 서비스를 내놨지만, 낮은 탐지 확률 개선에 실패 후 지난 7월 서비스 중단

 

현행법

- 관련 규제 조항이 부재

- AI 기술을 이용한 영상, 음향, 화상 등 콘텐츠에 대해 식별 표시를 의무화한 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부 개정 법률안'을 대표 발의한 상태 

- 미국의 경우, 이미 행정명령을 통해 추진되고 있으며, AI 생성 자료에 워터마크 등을 표기해야 하는 표준안을 개발 진행

- 지난달 국회에서 선거일 90일 전부터 AI 딥페이크 영상을 제작, 유포하는 행위를 금지하는 내용을 담은 '공직 선거법 개정안'이 본회의 통과 

 

C2PA(Coalition for Content Provenance and Authenticity)

- '콘텐츠 출처 및 진위 확인을 위한 연합'으로, 콘텐츠 출처와 유통 인증을 위한 개방형 기술 표준 개발 단체

- MS, Adobe가 설립 및 Arm, BBC, Intel 등이 참여 

- 기존의 두 단체인 CAI(Content Authenticity Initiative)와 Project Origin이 통합된 연장선 

 

Reference

https://kid.chosun.com/site/data/html_dir/2024/02/20/2024022003080.html

https://www.aitimes.com/news/articleView.html?idxno=155063

https://www.hankyung.com/article/2023111204811

https://m.ddaily.co.kr/page/view/2024010112452363256

https://www.sedaily.com/NewsView/29TLX6QRUV

https://c2pa.org/

Overview - C2PA