사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
인공지능이 의료·법률·금융 같은 전문분야 답을 줄 때 '전문가 판단을 대신할 수 없다'고 알리도록 하고, 청소년이 쓰는 인공지능 서비스에는 보호 기술을 넣도록 하는 법이에요. 이용자가 잘못된 정보나 유해한 내용을 덜 접하게 하려는 취지인데, 사업자는 고지 표시와 기술 조치를 갖추는 부담을 함께 지게 돼요.
제안이유 및 주요내용 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 인공지능을 통해 전문분야의 정보를 제공하거나 청소년이 이용하는 경우에 대한 규정을 두지 않음. 최근 의료ㆍ법률ㆍ금융 등 전문분야와 관련하여 이용자가 잘못된 정보를 얻는 사례가 늘고 있음. 또한, 청소년이 자살 방법이나 선정적ㆍ폭력적인 정보에 노출되면서 이용자 보호 필요성이 높아지는 상황임. 실제로 최근 일론 머스크의 xAI ‘그록’이 생성한 아동ㆍ청소년 성착취 사진으로 인해 전세계적으로 논란이 되고 있으며, 2024년 2월과 작년 4월 미국에서는 청소년이 인공지능 챗봇과 대화를 나누다 자살한 사건이 발생한 바 있음. 이에 따라 작년 9월 미국 캘리포니아주에서는 자살이나 성적 이미지 관련 규제하는 법안을 통과시키도 했으며, 미국 연방거래위원회(FTC)는 구글, 오픈AI, 메타 등 AI 챗봇 제작기업 7곳에 대해 AI 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보한 바 있음. 우리나라에서도 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품ㆍ서비스를 통하여 보건의료ㆍ법률ㆍ금융 등 전문분야의 결과물을 제공하려는 경우 해당 결과물이 전문가의 판단을 대체할 수 없다는 사실을 고지 또는 표시하도록 하고, 청소년을 대상으로 인공지능 서비스를 제공하는 경우에는 청소년 보호를 위한 기술적 조치를 이행하도록 함으로써 인공지능기술 이용의 투명성과 안전성을 강화하는 내용을 담고자 함(안 제31조제4항, 제32조제4항 신설 등).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
전문분야 답에 '전문가 판단을 대체할 수 없다'는 안내가 함께 표시돼요.
청소년 대상 인공지능 서비스에 보호를 위한 기술적 조치가 적용돼요.
전문분야 결과물에 고지·표시를 붙이고, 청소년 대상 서비스에 보호 기술을 넣는 의무가 생겨요.
전문분야 답이나 청소년 대상 서비스가 아니면 직접 바뀌는 점은 적어요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
조국혁신당과 더불어민주당 같이 냈어요.