南方财经全媒体集团全国两会报道组 陈璐报道

在Deepseek掀起新一轮人工智能“开源革命”后不久，一款名为Manus的中国AI产品又于近期迅速爆红。越来越聪明的AI已经能够规划并执行更加复杂的任务，但同时也加速了科技伦理、数据安全、合规等方面的风险日益显现。

2025年全国两会期间，多位代表建议，应从立法层面回应技术的跃进，加强对深度伪造AI的监管，厘清AI生成内容的知识产权，促进生成式人工智能的良性发展。

AI换脸拟声成“重灾区”！雷军、李东生呼吁专项立法

此次全国两会期间，十四届全国人大三次会议新闻发布会发言人娄勤俭指出，人工智能已成为新科技革命的核心驱动力，但也伴随一系列难以预见的风险和挑战，在安全、社会治理、道德伦理等方面带来了诸多新课题。

全国人大代表、小米集团创始人雷军表示，AI技术发展以后，AI换脸拟声在网络上已成重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，需加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。

 “随着生成式人工智能技术的发展，深度伪造技术也快速发展。一旦被不法分子利用，可能会导致新的社会问题。”全国人大代表、TCL董事长李东生观察到，近年来我国相关立法虽有关注这一议题，但已出台的规章制度尚未成体系，还不具备可操作的细则和明确的处罚标准。

针对AI深度合成技术带来的问题，李东生建议加快出台深度合成内容标识管理规章，明确服务商未履行标识义务的惩罚制度，加强深度合成内容标识技术标准和发布的管理，加强国际合作，形成人工智能生成合成内容的有效监管。

AI知识产权保护应构建灵活的分级保护框架

AI技术在推动社会创新的同时，也带来了全新的知识产权挑战。全国人大代表、美的集团副总裁钟铮认为现在生成式人工智能在法律法规体系上仍不完善，特别是在界定AI生成内容的版权归属，以及侵权责任认定、隐私保护标准方面存在空白。

全国人大代表钟波同样表示生成内容的产权归属问题尚不明确，这不仅可能侵害原创者权益，也可能因权责不清而阻碍商业化应用。他表示，AI大模型的训练依赖于大量数据的抓取，而其中部分数据涉及未经授权的版权内容。如果机械地套用“先授权后使用”的规则，可能会阻碍技术迭代进程，而放任数据滥用，又会滋生“伪创新”的问题。对此，他建议，构建灵活的分级保护框架，通过司法判例与行政管理动态调整规则，平衡创新激励与风险防控。

最高人民法院民事审判第三庭庭长李剑在接受采访时提到，近年来，涉及人工智能、大数据等领域的知识产权案件总量不大，但增长速度较快。对此，需要准确适用个人信息保护法和数据安全法，加强互联网、大数据、人工智能、基因技术等新领域新业态知识产权司法保护，逐步完善算法、商业方法和人工智能产出物的知识产权司法保护规则，合理确定新经济新业态主体法律责任。