SNS ‘AI 가짜 사진’ 딱지 붙는다

생성형 인공지능(AI)이 만드는 ‘가짜’ 영상·이미지·음원·뉴스 등에 전 세계가 비상이다. 챗GPT를 만든 오픈AI에 이어 페이스북과 인스타그램의 ‘아버지’인 메타도 AI 이미지를 알아차리는 딱지(워터마크)를 붙인다고 선언했다. 유럽과 미국을 중심으로 AI 저작물을 대상으로 적극적으로 규제하는 분위기가 확산하는 모습이지만 한국에서는 관련 논의가 지지부진하다.

7일 국회 의안정보시스템에 따르면 이른바 ‘AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)’이 국회 과학기술정보방송통신위원회(과방위)에 1년 넘게 계류 중이다. 이 법은 AI에 대한 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성을 담고 있다. AI 기술을 발전시켜 관련 제품·서비스를 먼저 출시하고 사후 규제하자는 것. AI 저작물에 워터마크를 포함하는 내용도 있다.

메타가 생성형 인공지능(AI)으로 만든 이미지에 ‘AI로 만든 이미지’ 딱지를 붙여 딥페이크를 규제하겠다고 발표했다. 메타 공식 블로그

AI 기본법은 본래 여야 이견이 적을 법안으로 예상됐으나 표류 중이다. “AI 위험성을 예방하기에 법안 내용이 부족하다”는 시민단체 지적을 받은 이후 여야 논의 자체가 멈춰 상임위 문턱도 못 넘었다. 21대 국회 임기 내 통과도 불투명하다. 국회 과방위 관계자는 “AI 관련 법안은 주목도가 높지 않고 소위 ‘총선용 인기 법안’과도 거리가 멀다”면서 “2월 임시국회에서 여야가 적극적으로 협의해 통과되기는 어려울 것 같다”고 내다봤다.

AI 기본법 제정에 시간이 많이 걸리다 보니 ‘워터마크만 먼저 표기하자’는 대안도 나온다. K팝 스타를 모방한 ‘AI 음원’이 범람하고 딥페이크(AI로 만든 가짜 이미지·영상) 기술을 악용한 콘텐츠 유통 문제가 심각하니 급한 불부터 끄자는 것. 콘텐츠산업진흥법 개정안(이상헌 더불어민주당 의원)과 정보통신망법 개정안(김승수 국민의힘 의원)이 AI 저작물에 일종의 워터마크 표시를 의무화하는 내용을 담고 있다.

하지만 해당 법안들은 산업계의 반대가 크다. 한국 스타트업 관계자는 “생성형 AI 기술은 이제 개발 단계여서 발전 가능성이 무궁무진한데 싹을 자르는 격”이라며 “딥페이크는 기술 자체보다 유통 과정에서 비롯한 문제”라고 주장했다.

한국 기업들도 기술 보완에 한창이다. 카카오는 AI 콘텐츠의 허위 정보나 딥페이크를 검출하는 연구를 진행하고 있다. 특히 생성형 AI 이미지 확산을 막기 위해선 카카오브레인의 이미지 생성 모델인 ‘칼로(Karlo)’에 비가시성 워터마크 기술을 도입하는 방안을 검토하고 있다. 네이버도 AI 안전성 연구를 전담하는 조직인 ‘퓨처 AI센터’를 신설하고 이미지와 텍스트 등 AI 저작물에 워터마크를 도입하는 방안을 연구하고 있다.

문제는 기업이 자율 규제를 마련하는 속도보다 유해한 AI 저작물 확산 속도가 훨씬 빠르다는 것이다. 이성엽 고려대 기술법정책센터장은 “특히 선거를 앞두고 딥페이크 영상, 이미지에 대한 우려가 커지고 있는 만큼 워터마크 도입은 최소한의 규제로 봐야 한다”면서 “플랫폼들이 AI저작물을 걸러내고 삭제할 수 있게 책임을 강화하는 쪽으로 입법 논의가 시급하다”고 지적했다.

한편, 미국 기업 메타는 AI로 만든 이미지엔 ‘AI 생성’을 표시한 라벨을 부착하겠다고 6일(현지시간) 밝혔다.

뉴욕타임스(NYT) 등 미국 언론들에 따르면, 메타는 이날 “앞으로 몇 달 안에 AI 생성 이미지에 라벨을 붙일 것”이라고 발표했다. 지금까지는 메타의 이미지 생성 도구로 만들어진 이미지에만 ‘이매진드 위드 AI(Imagined with AI)’라는 라벨을 붙여 왔는데, 향후에는 오픈AI·마이크로소프트·어도비 등 타사 도구로 생성된 이미지에도 이를 적용하겠다는 것이다. 이를 위해 그동안 AI 생성 여부를 잡아내는 식별 도구를 개발하고 발전시켜 왔다고 설명하기도 했다. 메타는 “세계적으로 중요한 선거가 많이 치러지는 내년까지 라벨 부착 조치를 취하겠다”고 덧붙였다.

이와 함께 메타는 “AI 생성 여부를 확인할 수 있는 업계 표준 기술 마련을 추진하겠다”고도 밝혔다. 현재 이미지 생성 AI 도구들은 파일 속성 정보(메타 데이터)에 ‘AI로 만들어졌다’는 사실과 생성 시점 등을 표시하고 있다. 문제는 이 정보의 표기 방식이 회사마다 다른 탓에 식별 도구가 AI 생성 이미지를 100% 정확하게 걸러 내는 게 힘들다는 점이다. NYT는 “통일된 표준이 마련돼 널리 채택되면 사람들이 빠르고 쉽게 AI 생성 콘텐츠를 알아채는 데 도움이 될 것”이라고 짚었다.

김지현 기자·실리콘밸리=이서희 특파원