사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
인공지능으로 만든 음향·이미지·영상 결과물 자체에 워터마크를 넣어 AI로 생성된 사실을 고지·표시하도록 하고, 이 표시를 훼손하거나 위조·변조하는 행위를 금지하는 법이에요. 위반하면 2년 이하 징역 또는 2천만원 이하 벌금에 처해요. AI 생성물이 사람이 만든 것처럼 유통되는 것을 줄이려는 취지에서 나왔어요.
제안이유 및 주요내용 현행법은 인공지능시스템을 이용한 가상의 음향, 이미지 또는 영상 등의 결과물이 인공지능시스템을 이용하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시할 의무를 인공지능사업자에게 부과하고 있음. 그러나, 현행법은 고지 또는 표시의 대상을 한정하고 있지 않아 유통 과정의 가공 등으로 인하여 해당 결과물이 인공지능시스템을 이용하여 생성되었다는 사실이 이용자에게 전달되지 아니하고 사람이 직접 만들거나 실제로 존재하는 정보로 유통될 위험이 있음. 따라서, 해당 결과물 자체에 코드 또는 문자ㆍ부호 등을 삽입한 비가시적 또는 가시적 워터마크를 생성하여 인공지능시스템을 이용한 생성 사실을 고지ㆍ표시하도록 하고, 이와 같은 고지ㆍ표시를 훼손 또는 위작ㆍ변작하는 행위를 금지하면서 위반 시 2년 이하의 징역 또는 2천만원 이하의 벌금에 처함으로써 인공지능 투명성 규제의 사각지대를 해소하려는 것임(안 제31조제3항ㆍ제4항 및 제42조제2항 신설).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
결과물에 AI로 만들어졌다는 워터마크가 들어가, 유통 과정에서 가공돼도 생성 사실을 확인할 여지가 커져요.
생성 결과물에 워터마크로 생성 사실을 표시할 의무가 더해지고, 표시를 훼손·위조하면 처벌받을 수 있어요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
국민의힘 의원들이 냈어요.