사실은 열린국회정보에서 그대로, 설명은 AI가 풀어 썼어요.
스스로 계획하고 판단해서 여러 단계의 일을 대신 처리하는 인공지능(인공지능 에이전트)을 만드는 회사가 지켜야 할 규칙을 새로 정하는 법이에요. 회사는 위임받은 권한의 범위를 미리 정하고 사람이 감독하도록 조치해야 하고, 정부는 회사에 자문을 지원하고 국민에게는 인공지능을 책임 있게 쓰는 교육을 마련해요.
제안이유 및 주요내용 현행법은 인공지능의 신뢰 기반 조성을 위한 정부의 시책 마련 의무와 고영향 인공지능에 관한 인공지능사업자의 책무 등을 규정하고 있음. 그러나 최근 사람의 개별적인 지시 없이 스스로 계획ㆍ추론하여 외부 시스템 또는 도구를 활용하여 여러 단계의 임무를 자율적으로 수행하는 인공지능시스템(이른바 “인공지능 에이전트”)이 일상생활과 산업 전반에 확산되면서, 위임 권한을 벗어난 작동, 외부 시스템 연계로 인한 예측하지 못한 위험 등이 동반되고 있으나 이에 대응하는 인공지능사업자의 의무에 관한 규정이 없는 한편, 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 정부의 시책 또한 명시되어 있지 아니함. 이에 인공지능 신뢰 기반 조성을 위한 시책에 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 교육ㆍ홍보 및 지원을 추가하고, 「디지털포용법」 제14조에 따른 디지털역량 함양 활동과 연계되도록 하려는 것임. 또한 인공지능사업자가 인공지능 에이전트를 개발 또는 제공하는 경우 권한 위임의 범위와 한계의 사전 설정, 외부 시스템ㆍ도구 연계로 인한 위험의 평가 및 관리, 권한을 벗어난 작동 방지를 위한 사람의 관리ㆍ감독 및 기술적 조치 등을 이행하도록 하고, 정부가 이를 위하여 컨설팅ㆍ자문 등 필요한 지원을 할 수 있도록 함으로써 인공지능 에이전트의 안전한 발전을 도모하려는 것임(안 제29조 및 제32조의2 신설).
발의자가 직접 쓴 글이에요. 발의자의 관점·표현이지 객관적 사실은 아니에요. 위 ‘쉽게 말하면’은 이 글을 푼 거예요. 대조해 보세요.
인공지능을 책임 있게 쓰는 역량을 기르는 교육·홍보를 정부가 마련해요.
권한 위임 범위를 미리 정하고 외부 연계 위험을 평가·관리하며 사람이 감독하는 조치를 해야 하고, 정부의 자문 지원을 받을 수 있어요.
위임한 권한을 벗어난 작동을 막는 관리·감독 의무가 회사에 요구돼요.
의원이 대표로 내고, 이 함께 이름을 올렸어요.
더불어민주당 의원들이 냈어요.