사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
딥페이크 기술로 만든 가짜 영상·사진·음성을 인터넷에 퍼뜨리는 것을 금지하고, 어기면 처벌하도록 하는 법이에요. 피해를 줄이려는 취지인데, '편집·합성·가공한 정보'를 어디까지로 볼지는 함께 따져봐야 해요.
제안이유 및 주요내용 최근 인공지능 기술의 발달로 누구라도 눈 깜짝할 사이 딥페이크 성범죄의 희생자로 전락할 수 있지만, 이런 심각성에도 불구하고, 딥페이크 성범죄가 확산되고 있음. 최근 생성형 인공지능 등 인공지능 기술의 급격한 발전에 따라 누구든지 손쉽게 인공지능 기술을 이용하여 그럴듯한 가짜정보, 딥페이크 영상 등을 생성해 낼 수 있게 되었고, 이러한 정보가 무분별하게 확산될 가능성이 높아졌음을 확인시키고 있음. 언론보도에 따르면, 피해자 중에는 대학생뿐 아니라 중·고교생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌고, SNS 등에 ‘피해 학교 명단’으로 떠돌고 있는 곳만 100곳은 족히 넘어 혹시나 ‘내 사진 혹은 내 자녀 사진도 이용된 것은 아닌지’ 하는 공포심 또한 커지는 분위기임. 성착취물을 직접 제작하는 것 못지않게 딥페이크 합성물을 만들고 유포하는 것도 영혼을 파괴하는 중범죄임. 피해자는 수치스러움을 넘어 인격적 살해를 당하게 되고 아무 잘못이 없는데도 혹시 주변 사람이 볼까 봐 극심한 정신적 고통을 겪게 되는 등 심각한 경제적ㆍ정신적 피해 등을 야기할 수 있음. 이에 포털, 동영상ㆍ소셜미디어 플랫폼 등 정보통신망을 통하여 유통되는 딥페이크 기술을 악용한 촬영물ㆍ영상물 또는 음성물을 편집ㆍ합성ㆍ가공한 정보의 유통을 금지하고 위반 시 처벌하도록 하여 정보통신망에서의 권리보호 및 건전한 지능정보사회윤리 확립을 강화하려는 것임 또한 합성 영상의 무분별한 유통으로 인한 피해를 예방하기 위하여 방송통신위원회와 과학기술정보통신부가 합성 영상으로 인한 명예훼손 등의 피해 실태 파악, 합성 영상 유통 실태 및 관련 국내외 기술 동향 파악, 유통 방지를 위한 기술 개발의 촉진, 교육·홍보 등의 시책을 추진하도록 함으로써 건전한 정보통신망 이용환경을 조성하려는 것임(안 제44조의11 신설 및 제44조의7ㆍ제70조).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
내 사진이나 영상을 딥페이크로 합성해 인터넷에 퍼뜨리는 행위가 법으로 금지돼요.
편집·합성·가공한 정보를 유통하면 처벌 대상이 돼요.
정부의 유통 실태 파악과 기술 개발 시책의 대상이 될 수 있어요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
더불어민주당 의원들이 냈어요.