플랫폼 의무 커진다…방미통위, AI 생성물 유통 표시·알고리즘 선택권 추진

[이데일리 김현아 기자] 방송미디어통신위원회(위원장 김종철)가 인공지능(AI) 서비스 확산에 맞춰 포털·플랫폼 사업자의 이용자 보호 의무를 강화하는 방안을 추진한다.

AI 생성물 표시를 생성 단계뿐 아니라 포털·플랫폼을 통한 유통 단계까지 확대하고, 추천 알고리즘은 일률적으로 공개하지 않되 이용자가 추천 여부와 방식을 선택할 수 있도록 하는 방안이다.

딥페이크 성범죄물 등 불법·유해 정보는 유통 이후 차단하는 데 그치지 않고 AI가 정보를 생성·제공하는 단계부터 대응한다는 방침이다.

이를 위해 방미통위는 정보통신망을 통해 제공되는 AI 서비스를 대상으로 이용자 보호에 특화한 별도 법체계인 ‘AI 이용자보호법’ 마련을 추진한다. 사업자의 정보 제공과 이용약관 관련 의무를 비롯해 이용자의 접근권·이용 거부권·설명 요구권 등을 구체화한다는 구상이다.

류신환 방송미디어통신위원회 비상임위원은 11일 동북아공동체ICT포럼(위원장 석호익)이 주최한 조찬 강연에서 이 같은 AI 시대 미디어·통신 정책 방향을 설명했다.

류신환 방송미디어통신위원회 비상임 위원이 11일 동북아공동체ICT포럼이 주최한 조찬 강연에 참석해 'AI시대 방미통위 정책 방향'을 설명하고 있다. 사진=이데일리 김현아 기자

AI 혁신은 자율적으로, 피해 영역은 법으로

류 위원은 AI 기술의 발전 속도가 빠르고 변화 방향을 예측하기 어려운 만큼 획일적인 규제보다는 윤리 원칙과 자율 규범 등 연성적 규율을 중심으로 기술 혁신과 기업의 자율성을 보장해야 한다고 밝혔다.

다만 AI로 인한 피해가 현실화된 영역에서는 법적 규율이 필요하다고 했다. 그는 “AI로 인한 피해가 이미 현실화되고 있는 만큼 그러한 영역, 현실화되고 있는 영역에서만은 법적 규율과 경성적 규율이 적절히 작동할 수 있어야” 한다며 국가가 혁신을 촉진하면서도 국민의 권리와 안전을 지키는 조정자 역할을 해야 한다고 말했다.

AI 생성물 표시, 플랫폼 유통 단계까지 확대

현재 AI 기본법은 AI 사업자가 생성물을 제공하는 단계에서 AI 생성물임을 표시하도록 하고 있다. 하지만 이용자가 해당 콘텐츠를 포털이나 플랫폼을 통해 다시 접할 경우 AI 생성물이라는 표시가 사라질 수 있다는 게 방미통위의 판단이다.

이에 따라 방미통위는 AI 생성물 표시 의무를 생성 단계에서 유통 단계까지 확대한다. 포털·플랫폼 사업자와 직접 정보를 제공하는 사업자에게도 AI 생성물임을 알 수 있도록 필요한 표시 의무를 부과하겠다는 것이다.

류 위원은 이를 통해 이용자가 콘텐츠가 AI로 생성된 것인지 알고 판단할 수 있는 환경을 조성하겠다고 밝혔다.

알고리즘 공개 대신 이용자에게 선택권

추천 알고리즘은 기업의 핵심 경쟁력이자 영업비밀에 해당할 수 있는 만큼 일률적인 공개나 정부 개입은 지양한다.

류 위원은 “알고리즘은 기업의 핵심 경쟁력이자 영업 비밀에 해당할 수 있죠. 일률적인 공개나 개입은 지양할 필요가 있다”고 말했다.

대신 플랫폼이 알고리즘의 주요 작동 원리와 변경 사항을 이용자가 알기 쉽게 고지하고, 이용자가 추천 여부나 방식 등을 직접 선택할 수 있도록 하는 방안을 법·제도에 반영할 계획이다. 호주의 알고리즘 추천 관련 이용자 선택권·거부권 제도도 참고 사례로 언급했다.

허위조작정보는 민간 팩트체크로 대응

허위조작정보 대응에서는 정부의 직접적인 내용 판단을 최소화하고 민간의 자율적인 팩트체크를 활성화한다.

류 위원은 “허위 조작 정보에 대해서는 민간의 자율적인 팩트체크를 활성화하겠습니다”라고 말했다. 앞으로 만들어질 투명성센터가 직접 팩트체크를 수행하는 것이 아니라 팩트체크 데이터베이스 구축과 연구, 교육, 전문인력 양성, 국제협력 등을 지원하는 역할을 맡는다고 설명했다.

정부가 직접 콘텐츠의 진위를 판단하고 개입하는 방식은 최소화한다는 원칙이다.

AI가 이용자와 상호작용하며 콘텐츠를 생성하는 환경에 맞춰 불법·유해 정보 대응 방식도 바꾼다.

류 위원은 현행 법체계가 불법·유해 정보가 유통된 이후 차단하는 데 상대적으로 중점을 두고 있어 AI가 정보를 생성·제공하는 단계에 대응하는 데 한계가 있다고 지적했다.

이에 따라 현행법상 제작 자체가 불법인 딥페이크 성범죄물이 AI를 통해 생성·제공되지 않도록 필요한 의무를 부과하고, 아동·청소년이 이용하는 AI 서비스에는 적절한 보호 조치를 마련할 방침이다. 구체적인 의무 수준은 기술적 실현 가능성과 산업에 미치는 영향을 고려해 설계하기로 했다.

AI 이용자보호법으로 사업자 의무 구체화

방미통위는 AI 이용자 보호를 위한 별도 법체계도 마련한다.

류 위원은 현행 AI 기본법이 AI 산업 전반을 규율하는 기본법이라면, 방미통위는 이를 보완해 정보통신망을 통해 제공되는 AI 서비스를 대상으로 이용자 보호에 특화된 별도의 법체계를 마련하겠다고 밝혔다.

법안에는 AI 서비스 사업자의 정보 제공과 이용약관 관련 의무를 비롯해 이용자의 접근권, 이용 거부권, 설명을 요구할 권리 등이 담길 전망이다. 사업자의 이용자 보호 활동을 평가·공표하고 AI 서비스 관련 분쟁을 전문적으로 조정하는 방안도 검토한다.

AI 미디어 민주시민도 양성

AI 활용 능력뿐 아니라 책임 있는 이용을 위한 교육도 강화한다.

류 위원은 AI를 단순히 잘 활용하는 것을 넘어 책임감과 윤리의식을 갖고 주체적으로 이용할 수 있는 ‘AI 미디어 민주시민’을 양성하겠다고 밝혔다.

그는 “AI 시대에는 혁신을 가속화하면서도 그에 걸맞게 이용자 보호를 강화하는 균형 있는 정책이 필요하다”며 국민이 AI와 미디어의 혜택을 안전하게 누릴 수 있는 환경을 만들겠다고 강조했다.