"미국·유럽은 '딥페이크' 선거 금지"... 사실 반 거짓 반

"미국·유럽은 '딥페이크' 선거 금지"... 사실 반 거짓 반

[팩트체크] 명예훼손 등 악의적 활용 규제하지만, 그 자체는 위반 아냐... '유권자 기만' 우려

 

 

▲ 국민의힘이 12월 6일 중앙선대위 출범식에서 공개한 'AI 윤석열'. 딥페이크 기술을 활용해 실물에 가깝게 만들어 논란이 되고 있다. ⓒ 국민의힘 유튜브

 

[검증대상] "미국·유럽에선 딥페이크 활용 선거운동 금지" 

"안녕하세요, AI 윤석열입니다. 윤석열 후보와 너무 닮아 놀라셨습니까?"


국민의힘은 지난 12월 6일 중앙선거대책위원회 출범식에서 '딥페이크' 기술을 활용해 실제 윤석열 후보 모습을 닮은 'AI윤석열' 영상을 공개하고, 선거운동에 적극 활용하겠다고 밝혔다.

그러자 더불어민주당은 8일 논평에서 "(윤 후보가) 아바타 뒤에 숨으려 한다"고 비판했고, 일부 언론은 "미국과 유럽은 선거에 딥페이크 영상을 활용하는 것을 법으로 금지하는 추세"라고 보도하기도 했다.( 'AI 윤석열' 논란...美·유럽선 "유권자 판단 왜곡" 딥페이크 활용 금지)

실제 미국, 유럽 등에서 딥페이크 영상을 활용한 선거 운동을 금지하고 있는지, 'AI윤석열' 같이 후보 쪽에서 만든 홍보 영상도 금지 대상인지 따져봤다.

[검증내용] 명예훼손·허위정보는 규제... 풍자·패러디 등은 예외

'딥페이크'(deepfake)란 축적된 데이터를 바탕으로 스스로 학습하는 인공지능(AI) 기술인 '딥러닝'(deep-learning)과 가짜·조작 등을 뜻하는 '페이크'(fake)를 합친 말로, 인물의 실제 영상이나 사진, 오디오 등을 합성해 진위를 가리기 어려운 콘텐츠를 말한다.

이재명 민주당 후보도 지난 5일 '딥페이크 악용 가짜영상 방지대책' 공약을 발표하면서 "미국 대선 투표를 독려하는 김정은 위원장 합성 영상, 트럼프 대통령을 비난하는 가짜 오바마 대통령 영상 등의 사례는 가짜뉴스 확산을 넘어 유권자의 선택을 왜곡할 수 있는 위협이기도 하다"라고 밝혔다.
 

▲ 지난 2019년 딥페이크 영상의 문제를 언급한 <워싱턴포스트> 유튜브 영상 중 한 장면. 버락 오바마와 똑같이 생긴 사람이 출연하지만, 영상 속 인물은 버락 오바마가 아니며 발언 내용도 오바마가 하지 않을 법한 말들이다. ⓒ 워싱턴포스트 유튜브 갈무리

 

실제 미국과 유럽 등에서는 허위정보 대응 차원에서 선거기간 악의적인 딥페이크 영상을 규제하고 있다.

독일은 2017년 10월 발효된 '네트워크법집행법'(NetzDG), 프랑스는 2018년 12월 발효된 '정보조작투쟁법'에 따라, 사업자들이 허위정보가 담긴 딥페이크 영상 등을 삭제하도록 의무화했다.(국회 입법조사처, 2019년 10월 '딥페이크(Deepfake)의 발전과 해외 법제도 대응')

미국은 아직 연방 차원에서 딥페이크 영상을 규제하는 법이 없지만, 캘리포니아, 텍사스 등 일부 주에서는 딥페이크 영상을 활용한 선거운동을 법으로 금지하고 있다.

개빈 뉴섬 미국 캘리포니아 주지사는 지난 2019년 10월 선거기간 60일 이내에 후보자 관련 악의적으로 조작된 '딥페이크' 영상이나 오디오 등을 배포하는 행위를 금지하는 법안(AB730)을 승인했다. 다만 이 법안은 금지 대상을 "조작된 미디어라는 것을 밝히지 않은 채, 후보자의 평판을 훼손하거나 유권자를 속여 후보자에게 찬성이나 반대 투표를 하게 할 의도"라고 규정하면서, 풍자나 패러디, 언론 보도 등은 예외로 인정했다.

페이스북도 지난 2020년 미국 대선을 앞두고 "동영상의 주체가 하지 않은 말을 했다고 믿도록 오해를 불러일으킬 수 있는" 딥페이크 영상물 게시를 자체적으로 제한하고 있지만, 풍자나 패러디 등은 예외였다. 

[전문가 의견] 'AI 윤석열' 규제 대상 아니지만... "유권자 판단 흐려"

'AI 윤석열'처럼 후보자 쪽에서 홍보 목적으로 딥페이크 기술을 활용하는 데 대해선 의견이 엇갈린다. 전문가들은 허위 사실이 담겨 있지 않고 조작된 영상이라고 밝힌다면 법 위반으로 보기 어렵다면서도, 딥페이크를 활용해 후보의 단점을 감추는 것도 유권자를 기만하는 행위로 봐야 한다는 의견도 있다.

미국 캘리포니아주 로펌에서 활동하는 이주민 미국 변호사는 13일 <오마이뉴스>에 "딥페이크를 활용한 선거운동을 금지한 캘리포니아주 선거법 20010조에서 위반의 구성요소는 ① 선거 60일 전에 ② 명시적 악의를 가지고 ③ 실질적으로 기만적인 영상을 배포하며 ④ 이 영상이 후보의 명예를 훼손하거나 유권자의 후보 선택을 기만하기 위한 의도가 있을 경우"라면서, 개인적인 의견임을 전제로 "후보자가 본인의 영상을 제작했을 경우, 실질적으로 법 위반이라고 보기는 어려울 것 같다"고 밝혔다.

그는 "일단 본인의 영상일 경우 '명시적 악의'를 가지고 있다고 보기 어렵고, 선거법 20010조는 형사처벌이 가능한 법이 아니라, 피해 후보의 민사 소송을 통해 구제되는 법이라, 본인이 본인에게 소송을 제기할 리는 없다"라고 지적했다.

김유향 국회 입법조사처 사회문화조사심의관도 10일 "미국과 유럽에서 딥페이크 영상이 선거에 부정적 영향을 미칠 목적으로 사용되지 않는 한 규제 대상이 아니다"라면서 "선거 캠프에서 후보 홍보 목적으로 딥페이크 기술을 활용하는 것 자체를 문제 삼을 수는 없다"고 밝혔다.

다만 그는 "긍정적인 내용이라도 후보자가 갖지 않은 걸 이상화시켜 투표에 영향 미칠 수도 있기 때문에, 딥페이크 영상인지, 실제 영상인지 반드시 표시하게 해야 한다"고 지적했다.

방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌교수도 10일 <오마이뉴스>에 "미국과 유럽에선 정치문화적으로 딥페이크 영상물을 활용한 선거 운동이 유권자 판단을 흐리게 하고 선거를 혼탁하게 만든다고 보고 있다"면서 "AI(인공지능) 같은 첨단 기술을 정치적으로 활용하려면, 사회적 논의를 통해 규범부터 만들어야 하는데, 이런 논의를 건너뛰고 이미지 조작된 AI 후보를 내세워 일상적으로 유권자와 접촉하고 지지를 호소하는 건, 불법성을 떠나 윤리적으로 문제가 있다"라고 지적했다.

 

[검증결과] "미국·유럽은 딥페이크 활용 선거운동 금지" 주장은 '사실 반 거짓 반'

미국 일부 주와 유럽 일부 국가에서 선거 기간 후보자 명예훼손이나 허위정보 등이 담긴 딥페이크 영상물 배포를 규제하는 것은 사실이다. 다만, 풍자나 패러디, 언론 보도 목적 등을 예외로 인정하고 있고, 'AI 윤석열'처럼 후보자 쪽에서 홍보 목적으로 만든 딥페이크 영상도 규제 대상으로 보기 어렵다. 따라서 '미국·유럽에서 딥페이크 활용한 선거운동을 금지한다'는 주장은 '사실 반 거짓 반'으로 판정한다.

 

언론 보도

"미국·유럽에선 딥페이크 활용 선거 운동을 금지하고 있다"

검증 결과 이미지

• 검증결과
  사실 반 거짓 반
• 주장일
  2021.12.09
• 출처
  다수 언론 보도출처링크
• 근거자료
  더불어민주당, '[보도자료] 이재명의 합니다 소확행 공약 시리즈 20_딥페이크 악용 가짜영상 방지대책'(2021.12.5)자료링크국회 입법조사처,‘딥페이크(Deepfake)의 발전과 해외 법제도 대응’(2019.10.15)자료링크페이스북 커뮤니티 규정'조작된 미디어'자료링크미국 캘리포니아주 선거법 20010조자료링크이주민 미국 변호사(bird marella, 로스앤젤레스, 캘리포니아주), 오마이뉴스 이메일 인터뷰(2021.12.13)자료링크김유향 국회 입법조사처 사회문화조사심의관 오마이뉴스 전화 인터뷰(2021.12.10)자료링크고삼석 동국대 석좌교수 오마이뉴스 전화 인터뷰(2021.12.10)자료링크

 

 

 

• 김시연(staright)