중국 정부가 생성형 인공지능(AI) 서비스에 대한 관리와 안전 규제를 강화하는 가운데, AI 기술과 법·보안 체계를 상징적으로 표현한 이미지. (AI 생성 이미지) 

중국이 인공지능(AI) 산업 육성과 함께 AI 서비스에 대한 관리도 한층 강화하고 있다. 

최근 중국 정부는 생성형 AI와 인간을 닮은 AI 서비스가 급속도로 확산되면서 이용자 보호와 사회적 위험을 줄이기 위한 새로운 관리 규정을 잇달아 시행하고 있다.

중국 국가인터넷정보판공실(CAC)을 비롯한 관계 부처는 AI 서비스가 사람의 감정을 지나치게 자극하거나 이용자를 오도하는 기능을 제한하고, AI가 생성한 콘텐츠임을 명확하게 표시하도록 하는 관리 체계를 강화하고 있다. AI가 인간과의 실제 관계를 대체하거나 허위 정보를 생산·유포하는 것을 방지하겠다는 취지다.

이번 규제의 핵심은 투명성과 책임성이다. AI 서비스 제공업체는 생성된 콘텐츠가 인공지능에 의해 만들어졌다는 사실을 이용자가 쉽게 알 수 있도록 해야 하며, 허위 정보나 불법 콘텐츠가 확산되지 않도록 관리 의무를 강화해야 한다. 또한 개인정보 보호와 데이터 보안, 미성년자 보호에 대한 책임도 더욱 엄격해졌다.

중국 정부는 AI 산업을 전략적 신성장 산업으로 적극 육성하고 있지만, 기술 발전 속도에 맞춰 안전성과 윤리 기준도 함께 마련해야 한다는 입장을 유지하고 있다. 실제로 중국은 생성형 AI 서비스 관리, 딥페이크 표시 의무, 알고리즘 추천 서비스 관리 등 관련 제도를 잇달아 도입하며 AI 거버넌스를 체계화하고 있다.

전문가들은 이번 조치가 중국 AI 기업에는 일정한 규제 부담으로 작용할 수 있지만, 장기적으로는 소비자 신뢰를 높이고 산업의 지속 가능한 성장을 위한 기반이 될 것으로 평가한다. 특히 의료, 금융, 교육 등 국민 생활과 밀접한 분야에서는 AI 서비스의 안전성과 신뢰성이 더욱 중요한 경쟁 요소가 될 것으로 전망된다.

한국 기업들도 중국 시장에서 AI 서비스를 제공하거나 생성형 AI를 활용한 플랫폼을 운영할 경우 이러한 규제 변화를 면밀히 살펴볼 필요가 있다. AI가 생성한 콘텐츠 표시, 개인정보 보호, 알고리즘 관리 등 중국의 규제 기준을 충족하지 못하면 서비스 운영에 제약을 받을 수 있기 때문이다.

업계에서는 중국이 AI 산업을 적극 지원하는 동시에 규제를 병행하는 이른바 '발전과 안전의 균형' 전략을 통해 세계 AI 시장의 주도권 경쟁에 나서고 있다는 분석이 나온다. 한국 기업 역시 중국 시장 진출 과정에서 기술 경쟁력뿐 아니라 현지 규제에 대한 대응 능력이 중요한 경쟁력이 될 것으로 보인다.