사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
인공지능 챗봇 같은 대화형·생성형 AI 서비스를 제공하는 회사에게, 아동·청소년 이용자를 자살·자해 권유, 약물 오남용, 성착취, 과의존 같은 위험으로부터 보호할 의무를 지우는 법이에요. 보호 장치가 생기는 대신, 회사가 지켜야 할 의무와 관리 부담은 함께 늘어나요.
제안이유 및 주요내용 최근 아동ㆍ청소년이 인공지능 챗봇을 친구나 연인으로 받아들이면서 인공지능과 정서적 종속관계를 형성하거나, 인공지능이 해당 미성년자에게 자살, 자해를 권고하거나 부적절한 성적 대화로 유도하는 등의 사례가 빈발하고 있음. 그럼에도 현행법은 대화형정보통신서비스에 관한 선언적 규정만을 두는 데 그치고 있어 아동ㆍ청소년인 이용자를 자살ㆍ자해 조장, 약물 오ㆍ남용, 성착취, 과의존 등 각종 위험으로부터 충분히 보호하지 못하고 폭넓은 사각지대가 발생하고 있음. 이에 대화형정보통신서비스, 생성형 인공지능 등을 기반으로 한 정보통신서비스의 제공자에게 아동ㆍ청소년에 대한 보호의무를 부과함으로써 아동ㆍ청소년의 건강한 신체적ㆍ정신적 발달을 보장하려는 것임(안 제44조의8).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
서비스가 자해·성적 대화 유도 같은 위험에서 보호하도록 회사에 의무가 생겨요.
아동·청소년 보호의무를 지게 되고, 그에 따른 관리·운영 부담이 함께 늘어나요.
위험한 대화로부터 아이를 보호할 법적 근거가 생기는데, 실제 효과는 회사가 의무를 어떻게 이행하는지에 달려 있어요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
더불어민주당과 국민의힘과 무소속 같이 냈어요.