发布日期:
新时代AIGC发展风险审视与建设路径
■廖璇 刘骁 黄峰
AIGC自诞生以来，以迅猛之势融入各领域。最初，其技术尚不成熟，应用场景有限，仅在少数领域初步探索。随着技术进步与算法优化，AIGC技术实现跨步发展，在文本创作、内容生产、智慧医疗等方面展现强大能力，逐步适用于生活中各种场景，重要性愈发彰显，为社会发展带来革命性变革。
党的十八大以来，以习近平同志为核心的党中央高度重视我国新一代人工智能发展。习近平总书记指出：“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题”。《生成式人工智能服务管理暂行办法》及《网络安全法》等法律条文相继出台，为AI产业发展筑牢根基，明确其发展边界，更体现其广阔发展前景。此背景下，AIGC作为内容生产新力量，肩负重要使命，更应响应国家号召，遵循绿色发展理念，以高效生产模式、优质内容创作为国家建设添砖加瓦。
法治现代化和科技现代化是社会发展重要驱动力，二者相辅相成，都不能脱离社会发展实际情况而独立发展。AIGC蓬勃发展是科技进步的生动体现，但其内容真实性、版权归属及文化自信缺失等诸多问题都迫切需要相关法律法规加以规制。只有将法治建设与AIGC技术发展有机结合，从社会发展需求出发，才能实现科学与法治的良性互动，推动社会创新发展。
一、标注缺失乱象丛生，互联网内容平台监管亟待强化
当前AIGC行业中，AI内容不标注出处问题频繁出现。大量由AI生成的图片、视频等内容未明确标明其信息来源与生成方式，内容可溯性缺失，对受众知情权造成系统性侵害。长此以往，导致虚假信息泛滥，扰乱网络信息传播秩序，甚至可能引发社会对AI技术的信任危机。问题产生原因具有复杂性：首先，互联网内容平台本身的逐利本性使其过于注重流量和经济效益，在内容审核与互联网内容平台治理方面投入不足，为获取高流量，一味推送有争议性或视觉冲击力作品，忽视内容可溯源性；其次，行业内缺乏具体、明确的AI内容标注规范，创作者不知道应如何准确、清晰地进行出处标注，在内容发布时无处可依；最后，相关监管部门监管力度不足，缺乏系统监督机制与处罚措施，治理体系制度漏洞与监管盲区，暴露出诸多薄弱之处，导致用户、互联网内容平台违法成本极低，让投机分子借助规则漏洞谋取私利，破坏市场与社会良性运行。
为应对标注缺失乱象丛生局面，应着力提升监管水平。通过配备专业审核人员，制定审核工作流程，提升审核效能。借助先进技术工具，保证从内容上传、初步审核、二次复核直至最终发布各环节，都有对应负责人员及审核标准，确保审核工作高效完成。同时，设立智能电子内容审查平台，完善监管系统，定期评估、考核审核工作，与各大媒体互联网内容平台对接数据，定期对互联网内容平台AIGC内容进行监督抽查，对违规行为严厉处罚。互联网内容平台作为传播媒介，应深入了解、遵守国家法律法规，营造正向企业文化氛围，摒弃单纯追求短期利益的思维模式，培养员工的社会责任意识，切实体会自己作为内容传播第一把关人的重要使命，积极传播真实、准确的信息，为用户提供高质量内容服务。国家积极进行引导，完善相应法律法规，明确标注位置、方式、内容等具体标准。着力打造贯通微观操作与宏观调控、统筹内部管控与外部协同的立体化监管网络，实现监管效能最大化。
二、虚假新闻扰乱舆论，法律规制急需完善
部分AIGC生成内容利用大数据算法漏洞制造虚假新闻，给舆论环境带来巨大冲击。这些虚假新闻多是依据真实事件进行断章取义、歪曲解读，甚至无中生有，利用AIGC强大传播力，多互联网内容平台呈现病毒式传播，引发公众广泛关注和恐慌。在技术方面，大数据算法在训练时难免会存在数据偏差，导致模型在理解与生成信息时出错。同时，算法的自动化特性使其在内容生成时缺少分辨信息真实性的能力，而现有监管体系在应对AIGC虚假新闻时，滞后性明显，主要靠人工排查和基础舆情监测工具，手段单一，很难对海量AIGC内容进行全时段、无死角监测。在识别环节，技术性不足，对于经过伪装的AIGC虚假新闻难以快速辨别。在处置环节，各部门职责划分模糊，相互推诿，使得虚假新闻处置效率不高，不易及时遏制其传播。
国家急需完善相关法律规制以应对虚假新闻扰乱舆论问题。一方面，要优化部门协作机制。利用先进技术，构建多部门联合监管组织和智能化监测系统。充分发挥党和国家在舆论引导、风险防控方面的核心引领作用，形成强大监管合力，全面遏制虚假新闻。另一方面，要加快推进AIGC虚假新闻管理立法。对相关处罚措施加以详细规定，依据其社会危害程度，制定阶梯式处罚标准。对故意制造、传播AIGC虚假新闻且造成严重社会危害行为的，依照法律规定，追究刑事责任；情节较轻者给予相应警告、处罚，提高违法成本，为打击虚假新闻提供法律保障。并依据行业发展情况，适时对相关法律条款予以修订、完善，保证法律的时效性与适应性。此外，还要强化法律宣传与普及工作，提高社会公众对虚假新闻的认知，鼓励公众积极参与监督，营造全社会共同抵制虚假新闻的氛围，维护网络空间清朗及舆论环境健康。
三、艺术创作文化失根，重拾自信刻不容缓
当前AIGC艺术创作领域，文化失根问题突出。以AIGC动漫内容为例，生成作品在角色设定、主题、色彩等方面都呈现出日漫风格，中华优秀传统文化底蕴缺失。该现象不仅反映出创作者对中华优秀传统文化理解不足，难以将文化内涵融入AIGC艺术创作之中，也反映出部分创作者过分依赖市场导向，片面追求短期经济效益，盲目追随国外流行文化潮流，而忽略了本土文化的独特韵味与市场潜力。长期而言，这不但会使艺术创作同质化、单一化，还会让公众特别是青少年群体逐渐丧失对本土文化的认同感，对优秀文化传承和产业发展产生严重影响，阻碍社会文化健康发展。
为应对艺术创作文化失根问题，行业重拾文化自信刻不容缓。首先，应加大对人工智能训练师等行业人才的文化素养培育力度，增强其文化自信，呼吁他们主动肩负起文化传承者的重要使命。其次，行业需构建包含中华优秀传统文化元素的数据库，对这些资源予以数字化处理，提升AIGC创作检索与应用敏捷度。通过深度挖掘这些素材并创新其应用，使AIGC作品能更好地展现中华文化的魅力。最后，要激励AIGC技术与中华优秀传统文化深度融合，探寻创新性文化表达形式。从业人员需树立正确文化价值观，对外来文化予以辩证吸收。以中华优秀传统文化为核心，将外来文化精华融入创作，产出中国特色AIGC艺术作品，推动作品的国际传播，向世界展现中华优秀传统文化的独特魅力，增强我国在全球文化领域的话语权和影响力。
未来，随着技术不断进步，新风险或许还会出现，但只要持续秉持科学与法治协同发展的理念，不断优化监管机制，AIGC必将在规范中蓬勃发展。有望产生更多创新应用，推动社会经济高质量发展，助力文化自信增强，助力科技与法治协同进步，开拓我国数字时代发展新局面，在全球竞争里抢占先机，为构建人类命运共同体作出中国贡献。
［作者廖璇系贵州民族大学教授，硕士研究生导师，中国社会科学院民族学与人类学研究所与贵州省社会科学院联合培养博士后；作者刘骁系贵州民族大学传媒学院2024级在读硕士研究生；作者黄峰系贵州日报当代融媒体集团记者，贵州民族大学传媒学院硕士研究生导师。本文系贵州省2024年研究生教育教学改革项目课题阶段性成果（项目编号：2024YJSJGXM044）］
AIGC自诞生以来，以迅猛之势融入各领域。最初，其技术尚不成熟，应用场景有限，仅在少数领域初步探索。随着技术进步与算法优化，AIGC技术实现跨步发展，在文本创作、内容生产、智慧医疗等方面展现强大能力，逐步适用于生活中各种场景，重要性愈发彰显，为社会发展带来革命性变革。
党的十八大以来，以习近平同志为核心的党中央高度重视我国新一代人工智能发展。习近平总书记指出：“加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题”。《生成式人工智能服务管理暂行办法》及《网络安全法》等法律条文相继出台，为AI产业发展筑牢根基，明确其发展边界，更体现其广阔发展前景。此背景下，AIGC作为内容生产新力量，肩负重要使命，更应响应国家号召，遵循绿色发展理念，以高效生产模式、优质内容创作为国家建设添砖加瓦。
法治现代化和科技现代化是社会发展重要驱动力，二者相辅相成，都不能脱离社会发展实际情况而独立发展。AIGC蓬勃发展是科技进步的生动体现，但其内容真实性、版权归属及文化自信缺失等诸多问题都迫切需要相关法律法规加以规制。只有将法治建设与AIGC技术发展有机结合，从社会发展需求出发，才能实现科学与法治的良性互动，推动社会创新发展。
一、标注缺失乱象丛生，互联网内容平台监管亟待强化
当前AIGC行业中，AI内容不标注出处问题频繁出现。大量由AI生成的图片、视频等内容未明确标明其信息来源与生成方式，内容可溯性缺失，对受众知情权造成系统性侵害。长此以往，导致虚假信息泛滥，扰乱网络信息传播秩序，甚至可能引发社会对AI技术的信任危机。问题产生原因具有复杂性：首先，互联网内容平台本身的逐利本性使其过于注重流量和经济效益，在内容审核与互联网内容平台治理方面投入不足，为获取高流量，一味推送有争议性或视觉冲击力作品，忽视内容可溯源性；其次，行业内缺乏具体、明确的AI内容标注规范，创作者不知道应如何准确、清晰地进行出处标注，在内容发布时无处可依；最后，相关监管部门监管力度不足，缺乏系统监督机制与处罚措施，治理体系制度漏洞与监管盲区，暴露出诸多薄弱之处，导致用户、互联网内容平台违法成本极低，让投机分子借助规则漏洞谋取私利，破坏市场与社会良性运行。
为应对标注缺失乱象丛生局面，应着力提升监管水平。通过配备专业审核人员，制定审核工作流程，提升审核效能。借助先进技术工具，保证从内容上传、初步审核、二次复核直至最终发布各环节，都有对应负责人员及审核标准，确保审核工作高效完成。同时，设立智能电子内容审查平台，完善监管系统，定期评估、考核审核工作，与各大媒体互联网内容平台对接数据，定期对互联网内容平台AIGC内容进行监督抽查，对违规行为严厉处罚。互联网内容平台作为传播媒介，应深入了解、遵守国家法律法规，营造正向企业文化氛围，摒弃单纯追求短期利益的思维模式，培养员工的社会责任意识，切实体会自己作为内容传播第一把关人的重要使命，积极传播真实、准确的信息，为用户提供高质量内容服务。国家积极进行引导，完善相应法律法规，明确标注位置、方式、内容等具体标准。着力打造贯通微观操作与宏观调控、统筹内部管控与外部协同的立体化监管网络，实现监管效能最大化。
二、虚假新闻扰乱舆论，法律规制急需完善
部分AIGC生成内容利用大数据算法漏洞制造虚假新闻，给舆论环境带来巨大冲击。这些虚假新闻多是依据真实事件进行断章取义、歪曲解读，甚至无中生有，利用AIGC强大传播力，多互联网内容平台呈现病毒式传播，引发公众广泛关注和恐慌。在技术方面，大数据算法在训练时难免会存在数据偏差，导致模型在理解与生成信息时出错。同时，算法的自动化特性使其在内容生成时缺少分辨信息真实性的能力，而现有监管体系在应对AIGC虚假新闻时，滞后性明显，主要靠人工排查和基础舆情监测工具，手段单一，很难对海量AIGC内容进行全时段、无死角监测。在识别环节，技术性不足，对于经过伪装的AIGC虚假新闻难以快速辨别。在处置环节，各部门职责划分模糊，相互推诿，使得虚假新闻处置效率不高，不易及时遏制其传播。
国家急需完善相关法律规制以应对虚假新闻扰乱舆论问题。一方面，要优化部门协作机制。利用先进技术，构建多部门联合监管组织和智能化监测系统。充分发挥党和国家在舆论引导、风险防控方面的核心引领作用，形成强大监管合力，全面遏制虚假新闻。另一方面，要加快推进AIGC虚假新闻管理立法。对相关处罚措施加以详细规定，依据其社会危害程度，制定阶梯式处罚标准。对故意制造、传播AIGC虚假新闻且造成严重社会危害行为的，依照法律规定，追究刑事责任；情节较轻者给予相应警告、处罚，提高违法成本，为打击虚假新闻提供法律保障。并依据行业发展情况，适时对相关法律条款予以修订、完善，保证法律的时效性与适应性。此外，还要强化法律宣传与普及工作，提高社会公众对虚假新闻的认知，鼓励公众积极参与监督，营造全社会共同抵制虚假新闻的氛围，维护网络空间清朗及舆论环境健康。
三、艺术创作文化失根，重拾自信刻不容缓
当前AIGC艺术创作领域，文化失根问题突出。以AIGC动漫内容为例，生成作品在角色设定、主题、色彩等方面都呈现出日漫风格，中华优秀传统文化底蕴缺失。该现象不仅反映出创作者对中华优秀传统文化理解不足，难以将文化内涵融入AIGC艺术创作之中，也反映出部分创作者过分依赖市场导向，片面追求短期经济效益，盲目追随国外流行文化潮流，而忽略了本土文化的独特韵味与市场潜力。长期而言，这不但会使艺术创作同质化、单一化，还会让公众特别是青少年群体逐渐丧失对本土文化的认同感，对优秀文化传承和产业发展产生严重影响，阻碍社会文化健康发展。
为应对艺术创作文化失根问题，行业重拾文化自信刻不容缓。首先，应加大对人工智能训练师等行业人才的文化素养培育力度，增强其文化自信，呼吁他们主动肩负起文化传承者的重要使命。其次，行业需构建包含中华优秀传统文化元素的数据库，对这些资源予以数字化处理，提升AIGC创作检索与应用敏捷度。通过深度挖掘这些素材并创新其应用，使AIGC作品能更好地展现中华文化的魅力。最后，要激励AIGC技术与中华优秀传统文化深度融合，探寻创新性文化表达形式。从业人员需树立正确文化价值观，对外来文化予以辩证吸收。以中华优秀传统文化为核心，将外来文化精华融入创作，产出中国特色AIGC艺术作品，推动作品的国际传播，向世界展现中华优秀传统文化的独特魅力，增强我国在全球文化领域的话语权和影响力。
未来，随着技术不断进步，新风险或许还会出现，但只要持续秉持科学与法治协同发展的理念，不断优化监管机制，AIGC必将在规范中蓬勃发展。有望产生更多创新应用，推动社会经济高质量发展，助力文化自信增强，助力科技与法治协同进步，开拓我国数字时代发展新局面，在全球竞争里抢占先机，为构建人类命运共同体作出中国贡献。
［作者廖璇系贵州民族大学教授，硕士研究生导师，中国社会科学院民族学与人类学研究所与贵州省社会科学院联合培养博士后；作者刘骁系贵州民族大学传媒学院2024级在读硕士研究生；作者黄峰系贵州日报当代融媒体集团记者，贵州民族大学传媒学院硕士研究生导师。本文系贵州省2024年研究生教育教学改革项目课题阶段性成果（项目编号：2024YJSJGXM044）］
