사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
AI로 만든 음향·사진·영상 같은 콘텐츠에 'AI로 만든 정보'라는 사실을 표시하도록 의무로 정하는 법이에요. 딥페이크 성착취물이나 허위 정보 확산을 줄이려는 취지에서 나왔고, 어기고 돈을 벌 목적으로 제공하면 처벌받아요. 대신 콘텐츠를 만드는 사람과 사업자는 표시를 다는 부담이 생겨요.
제안이유 및 주요내용 최근 인공지능(AI) 기술의 발전으로 인해 음향ㆍ화상 또는 영상 등 다양한 콘텐츠가 자동으로 생성되고 있음. 특히 딥페이크 기술을 활용한 성 착취물과 같은 악성 콘텐츠가 큰 사회적 문제로 대두되고 있음. 이는 AI 기술을 악용해 피해자의 동의 없이 성적 이미지를 조작하여 배포하는 범죄로 피해자의 인격권과 사생활을 침해하며 사회적 신뢰를 저해하고 있음. 아울러, AI 기술이 보편화됨에 따라 허위 정보나 가짜 뉴스 확산의 위험성 또한 커지고 있는 만큼, AI 기술을 이용해 생성된 콘텐츠에 대한 명확한 출처 표시의 필요성이 커지고 있음. 본 개정안은 AI 기술을 이용해 생성된 콘텐츠에 대해 AI 기술을 이용하여 만든 정보라는 사실을 표시하도록 의무화함으로써 딥페이크 성 착취물과 같은 피해를 예방하고, 허위 정보와 가짜 뉴스의 확산을 방지하고자 함. 이를 통해 정보의 신뢰성을 제고하고 정보통신망 환경의 안전성과 공정성을 강화에 기여할 수 있을 것임. AI 기술을 이용하여 만든 정보라는 사실 표시를 의무화(안 제43조의2 신설)하고, 이를 위반하여 영리를 목적으로 제공한 자에 대해 처벌하고자 함(안 제73조제2호의2 신설).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
AI로 만든 콘텐츠에 'AI로 만들었다'는 표시가 붙어, 보는 사람이 출처를 알 수 있어요.
콘텐츠에 AI로 만들었다는 표시를 달아야 하고, 어기고 돈을 벌 목적으로 제공하면 처벌받아요.
동의 없이 만든 AI 콘텐츠에 표시가 붙도록 해 확산을 줄이려는 취지예요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
더불어민주당 의원들이 냈어요.