AI 생성물 표시 의무화…음향·이미지·영상에 생성 사실 고지
해외 사업자 국내 대리인 역할 확대…불만 처리·피해 구제 접수 의무
의료·법률·금융 AI 결과물에 “전문가 판단 대체 불가” 명시 국회 재정경제기획위원회 소속 국민의힘 박성훈 의원(부산 북구을) 의원 사무실 제공

[로컬세계 = 김의준 기자]생성형 인공지능 확산으로 거짓 정보 생성, 이른바 ‘환각 현상’에 따른 피해 우려가 커지는 가운데 이를 막기 위한 법적 장치를 마련하려는 입법이 추진된다.

최근 챗GPT와 제미나이 등 생성형 인공지능(AI)이 만들어낸 부정확한 정보로 인한 피해 우려가 커지는 가운데, 해외 정보통신서비스 제공자의 책임을 확대하고 AI 생성물 표시 의무를 강화하는 법안이 국회에서 발의됐다.

국회 기획재정위원회 소속 국민의힘 박성훈 의원(부산 북구을)은 10일 해외 사업자의 국내 대리인 역할을 확대하고 AI 생성 콘텐츠 표시 의무를 강화하는 내용을 담은 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법) 개정안’을 대표 발의했다고 밝혔다.

현행법상 해외 정보통신서비스 제공자의 국내 대리인은 자료 제출 등 제한적인 업무만 수행하도록 규정돼 있어 이용자가 AI의 부정확한 정보로 피해를 입더라도 불만 처리나 구제 절차를 강제하기 어려운 구조라는 지적이 제기돼 왔다.

특히 보건의료나 법률, 금융 등 전문 분야에서는 AI의 작은 정보 오류, 이른바 ‘환각 현상’이 치명적인 사고나 재산상 손실로 이어질 수 있음에도 해외 사업자에게 책임을 묻기 어려운 한계가 있었다.

이번 개정안은 국내 대리인의 업무 범위에 ‘이용자 불만 처리 및 피해 구제를 위한 접수와 결과 통보’를 명확히 포함해 해외 사업자의 책임 범위를 확대하는 내용을 담고 있다.

또 AI를 이용해 만든 음향, 이미지, 영상 등 콘텐츠에는 AI 생성 사실을 이용자가 알 수 있도록 고지하거나 표시하도록 의무화했다.

아울러 의료·법률·금융 등 국민의 생명과 재산에 직결된 전문 분야의 AI 서비스 결과물에는 ‘전문가의 판단을 대체할 수 없다’는 사실을 명시하도록 했다.

이 같은 표시 의무를 위반할 경우 최대 1천만 원의 과태료를 부과하는 처벌 조항도 신설해 제도의 실효성을 높였다.

박성훈 의원은 “AI 기술이 일상에 깊숙이 자리 잡았지만 그로 인해 발생하는 피해를 구제하는 제도는 기술 발전 속도를 따라가지 못하고 있다”며 “해외 빅테크 기업들이 한국 시장에서 혜택만 누리고 책임은 회피하는 관행을 바로잡고 국민들이 안전하고 신뢰할 수 있는 AI 이용 환경을 조성하겠다”고 말했다.
 
 로컬세계 / 김의준 기자 mbc471125@daum.net

[ⓒ 로컬(LOCAL)세계. 무단전재-재배포 금지]