사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
생성형 인공지능 서비스를 제공하는 사업자가 이용자의 자살 관련 입력을 즉시 감지하고 자살예방센터 등 상담·지원을 안내하는 체계를 갖추도록 하는 법이에요. 이용자에게 안내가 닿을 수 있는 대신, 사업자는 감지·안내 체계를 만들고 운영하는 부담을 지게 돼요.
제안이유 및 주요내용 최근 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 미국에서 발생하였는데, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기 보다는 오히려 자살심리를 유도하여 자살위험에 노출되게 할 수도 있음을 보여주는 사례로서 우리나라도 예외가 될 수 없으며 인공지능사업자의 각별한 주의 의무가 요구됨. 그런데 현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐, 인공지능사업자로 하여금 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련되어 있지 않음. 이에 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자로 하여금 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담ㆍ지원을 안내하는 체계를 구축ㆍ운영하도록 하려는 것임(안 제19조의6 신설).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
자살 관련 내용을 입력하면 상담·지원 기관 안내를 받게 돼요.
이용자의 자살 관련 입력을 감지하고 안내하는 체계를 만들고 운영하는 의무가 생겨요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
국민의힘 의원들이 냈어요.