发布日期:
用法治思维拉动人工智能产业创新引擎
■赵精武
自ChatGPT横空出世，人工智能产业的市场前景“由阴转晴”。生成式人工智能在金融、医疗、教育、交通等领域的广泛应用正在逐渐改变既有的经济业态和社会生活方式，国内外各大企业或是纷纷布局自己的生成式人工智能产品，又或是选择直接接入人工智能信息服务端口，转型升级既有的业务模式。
然而，任何技术都离不开“创新发展与安全风险并存”的规律，生成式人工智能技术的滥用风险也引发社会各界的担忧：既包括算法公平、算法歧视等算法领域的常见问题，也包括批量生成虚假信息、用户数据泄露等特殊问题。面对这些不确定的风险因素，采用“因噎废食”的监管措施显然不是明智之举，故而国家互联网信息办公室遵循“发展与安全并重”的监管理念，结合人工智能产业在数据、算法、算力等核心要素的实践需求，联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。
该《办法》的公布代表着我国人工智能产业监管模式进入到全新阶段。在此之前，《互联网信息服务深度合成管理规定》《互联网信息算法推荐管理规定》等法规已经对人工智能技术的应用方式作出了详细规定，并确立了算法备案、安全风险评估等人工智能技术应用监管体系。与之不同的是，该《办法》创新性地提出“促进创新和依法治理相结合”作为基本原则之一，并增设鼓励性、政策支持性的条款内容，推动生成式人工智能产业的创新发展。
这种理念的转变是基于科学的论证和充分地监管实践所形成的。事实上，在ChatGPT展现出前所未有的强大功能之后，专家学者们也纷纷开始论证是否有无必要采取专门立法模式，规范和限制生成式人工智能的应用方式。客观而言，任何组织或个人均无法准确预知信息技术的未来走向，仅仅因为预测性的技术风险就采取各种限制或禁止性监管措施，显然存在立法内容与实践情况不适配的问题。并且，审视相关技术滥用风险的担忧，无论是数据安全问题，还是算法公平问题，又或是网络信息内容管理问题，均可在数据安全法、《网络信息内容生态管理规定》《互联网信息算法推荐管理规定》等现行立法中寻找到直接的法律依据。
结合人工智能产业实践现状而言，距离生成式人工智能技术全面普及应用仍然存在一段差距，故而该《办法》更多地强调“鼓励创新发展”，尤其是鼓励该项技术在各行业、各领域的创新应用。即便技术滥用风险仍然客观存在，但良好的应用生态体系和规范化的技术研发流程更有助于从根源上解决这些滥用风险可能导致的社会问题。
该《办法》最大的亮点之处在于坚持包容审慎和分类分级的监管立场。一方面，在人工智能产业快速发展过程中，效率与安全之间的冲突愈发明显，包容审慎的监管立场更有利于应对产业融合、技术升级的不确定性特征，强调的是监管措施的灵活性与宽松有度。另一方面，不同行业、不同领域的人工智能技术应用具有显著的差异性特征，分级分类的监管立场更有利于回应行业特征和安全风险治理的针对性。并且，数据安全法等法律法规均已明确数据分级分类保护制度、网络安全等级保护制度等内容，该《办法》也能够与现行监管体系有效衔接，达成更加高效的监管效果。
具体而言，该《办法》的创新性表现为三个方面：第一，对人工智能技术应用的生成内容提出鼓励性要求，以积极健康、向上向善的优质内容预防滥用该项技术可能导致的网络虚假信息泛滥。生成式人工智能应用最显著的特征之一便是能够生成“以假乱真”的信息内容，为了预防该项技术被用于网络舆情操纵等违法行为，除了需要对生成内容以及后续的用户信息发布、传播行为进行审核监管之外，还需要以技术优化升级的方式提升信息生成质量，形成以优质内容覆盖虚假信息的技术效果。第二，重视生成式人工智能技术的产业应用与成果转化。《办法》明确支持各方市场主体在技术创新、数据资源建设、转化应用、风险防范等方面协议，通过社会多元主体共治的方式，引导该项技术安全可靠地服务于各个行业，促使数字经济发展依赖的技术引擎更加强劲。第三，针对美欧等国加快人工智能领域的立法趋势，《办法》前瞻性地将参与相关国际规则制定作为人工智能产业发展的重要内容。人工智能技术作为未来数字经济的新引擎和新动力，避免美欧等国利用国际规则和技术标准钳制我国产业发展显得尤为必要。同时，《办法》还强调了技术创新研发等领域的国际交流和合作，辅之以数据资源、算力资源以及算法技术等方面的政策支持性条款，能够有效保障我国在未来激烈的人工智能技术竞争中位于优势地位。
总结而言，人工智能技术对于数字经济转型升级的推动决定了专门立法已经成为必然趋势，《办法》的出台更是说明我国现代化治理理念正在与信息技术产业实践同步发展。技术安全风险固然重要，但需要明确的是，对技术研发者、信息服务提供者等主体施加诸多义务，其目的不是为了限制人工智能产业发展，而是以法治思维规范化、标准化人工智能应用模式，以符合人民群众利益和市场实践需求方式引导技术创新方向，提升人工智能产业链供应链的现代化水平。
（作者系北京航空航天大学法学院副教授、工信部工业和信息化法治战略与管理重点实验室研究员）
自ChatGPT横空出世，人工智能产业的市场前景“由阴转晴”。生成式人工智能在金融、医疗、教育、交通等领域的广泛应用正在逐渐改变既有的经济业态和社会生活方式，国内外各大企业或是纷纷布局自己的生成式人工智能产品，又或是选择直接接入人工智能信息服务端口，转型升级既有的业务模式。
然而，任何技术都离不开“创新发展与安全风险并存”的规律，生成式人工智能技术的滥用风险也引发社会各界的担忧：既包括算法公平、算法歧视等算法领域的常见问题，也包括批量生成虚假信息、用户数据泄露等特殊问题。面对这些不确定的风险因素，采用“因噎废食”的监管措施显然不是明智之举，故而国家互联网信息办公室遵循“发展与安全并重”的监管理念，结合人工智能产业在数据、算法、算力等核心要素的实践需求，联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。
该《办法》的公布代表着我国人工智能产业监管模式进入到全新阶段。在此之前，《互联网信息服务深度合成管理规定》《互联网信息算法推荐管理规定》等法规已经对人工智能技术的应用方式作出了详细规定，并确立了算法备案、安全风险评估等人工智能技术应用监管体系。与之不同的是，该《办法》创新性地提出“促进创新和依法治理相结合”作为基本原则之一，并增设鼓励性、政策支持性的条款内容，推动生成式人工智能产业的创新发展。
这种理念的转变是基于科学的论证和充分地监管实践所形成的。事实上，在ChatGPT展现出前所未有的强大功能之后，专家学者们也纷纷开始论证是否有无必要采取专门立法模式，规范和限制生成式人工智能的应用方式。客观而言，任何组织或个人均无法准确预知信息技术的未来走向，仅仅因为预测性的技术风险就采取各种限制或禁止性监管措施，显然存在立法内容与实践情况不适配的问题。并且，审视相关技术滥用风险的担忧，无论是数据安全问题，还是算法公平问题，又或是网络信息内容管理问题，均可在数据安全法、《网络信息内容生态管理规定》《互联网信息算法推荐管理规定》等现行立法中寻找到直接的法律依据。
结合人工智能产业实践现状而言，距离生成式人工智能技术全面普及应用仍然存在一段差距，故而该《办法》更多地强调“鼓励创新发展”，尤其是鼓励该项技术在各行业、各领域的创新应用。即便技术滥用风险仍然客观存在，但良好的应用生态体系和规范化的技术研发流程更有助于从根源上解决这些滥用风险可能导致的社会问题。
该《办法》最大的亮点之处在于坚持包容审慎和分类分级的监管立场。一方面，在人工智能产业快速发展过程中，效率与安全之间的冲突愈发明显，包容审慎的监管立场更有利于应对产业融合、技术升级的不确定性特征，强调的是监管措施的灵活性与宽松有度。另一方面，不同行业、不同领域的人工智能技术应用具有显著的差异性特征，分级分类的监管立场更有利于回应行业特征和安全风险治理的针对性。并且，数据安全法等法律法规均已明确数据分级分类保护制度、网络安全等级保护制度等内容，该《办法》也能够与现行监管体系有效衔接，达成更加高效的监管效果。
具体而言，该《办法》的创新性表现为三个方面：第一，对人工智能技术应用的生成内容提出鼓励性要求，以积极健康、向上向善的优质内容预防滥用该项技术可能导致的网络虚假信息泛滥。生成式人工智能应用最显著的特征之一便是能够生成“以假乱真”的信息内容，为了预防该项技术被用于网络舆情操纵等违法行为，除了需要对生成内容以及后续的用户信息发布、传播行为进行审核监管之外，还需要以技术优化升级的方式提升信息生成质量，形成以优质内容覆盖虚假信息的技术效果。第二，重视生成式人工智能技术的产业应用与成果转化。《办法》明确支持各方市场主体在技术创新、数据资源建设、转化应用、风险防范等方面协议，通过社会多元主体共治的方式，引导该项技术安全可靠地服务于各个行业，促使数字经济发展依赖的技术引擎更加强劲。第三，针对美欧等国加快人工智能领域的立法趋势，《办法》前瞻性地将参与相关国际规则制定作为人工智能产业发展的重要内容。人工智能技术作为未来数字经济的新引擎和新动力，避免美欧等国利用国际规则和技术标准钳制我国产业发展显得尤为必要。同时，《办法》还强调了技术创新研发等领域的国际交流和合作，辅之以数据资源、算力资源以及算法技术等方面的政策支持性条款，能够有效保障我国在未来激烈的人工智能技术竞争中位于优势地位。
总结而言，人工智能技术对于数字经济转型升级的推动决定了专门立法已经成为必然趋势，《办法》的出台更是说明我国现代化治理理念正在与信息技术产业实践同步发展。技术安全风险固然重要，但需要明确的是，对技术研发者、信息服务提供者等主体施加诸多义务，其目的不是为了限制人工智能产业发展，而是以法治思维规范化、标准化人工智能应用模式，以符合人民群众利益和市场实践需求方式引导技术创新方向，提升人工智能产业链供应链的现代化水平。
（作者系北京航空航天大学法学院副教授、工信部工业和信息化法治战略与管理重点实验室研究员）
