风险不断叠加亟需规范，AI换脸等新技术新运用迎来强监管

人工智能技术是一把双刃剑，在为我们提供便利的同时，带来诸多风险。比如前段时间各方热议的AI换脸术，在自我娱乐、娱乐大众的同时，不可避免地引发诸如用户个人隐私的泄露、侵权、虚假谣言的扩散等法律风险。

如今，官方正式出手。国家互联网信息办公室、文化和旅游部、国家广播电视总局近日联合印发《网络音视频信息服务管理规定》(以下简称《规定》)，要求利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识;网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施。

“新兴技术一旦在网络上被违法运用，极有可能造成社会秩序紊乱，甚至危害国家安全。这就要求对网络音视频行业加强监管。”北京师范大学互联网发展研究院院长助理、中国互联网协会研究中心秘书长吴沈括教授告诉《法制日报》记者，《规定》不仅加大对违法行为的打击力度，制约网络水军等扰乱网络秩序的行为，而且有利于进一步保护公民、法人以及其他组织的合法权益，维护社会秩序和公共利益。《规定》的出台，意味着AI深度换脸术等新技术新运用迎来强监管。

风险不断叠加亟需规范

当前，网络音视频信息行业发展迅速，用户规模不断壮大。数据显示，我国网络音乐用户规模已达6.08亿，网络视频用户规模已达7.59亿。随之而来的是，相关风险在不断叠加。

今年年初，一个“朱茵变杨幂”的视频在bilibili(视频弹幕网站)上火了，视频中《射雕英雄传》中扮演的“黄蓉”角色被替换为杨幂。视频被传至微博后引起轩然大波，侵权、安全等争议声接踵而至。

“随着‘深度伪造’等新技术新应用在网络音视频领域的运用，传播违法和不良信息、侵犯人民群众合法权益等风险隐患在不断增大。”国家互联网信息办公室有关负责人坦言，这些风险进一步集聚、放大，很可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动。

“亟需出台有针对性的管理规定。”国家互联网信息办公室有关负责人说，亟需明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任，规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求，为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。

在吴沈括看来，尽管监管部门近几年来已出台了相关文件，但由于网络音视频行业内容、用户等数量庞大，违法现象层出不穷。为此，国家网信办、文化和旅游部、国家广电总局三部门联合制定《规定》，明确了管理机制，规范了新技术的使用，对将有关技术用于违法用途的行为起到了一定的阻止作用，有利于维护网络音视频行业的健康秩序。

辟谣机制阻断谣言传播

吴沈括注意到，《规定》对新技术新应用安全给予高度关注，对基于深度学习、虚拟现实等的新技术新应用制作、发布、传播音视频信息进行了明确规定。

吴沈括分析指出，这是由于此前规范机制的缺乏，虚假、违法信息在网络平台上传播，难以得到有效的遏制，谣言的迅速传播以及影响范围广的特点，对公民和社会秩序都造成了严重危害。

对此，《规定》不仅明确安全评估要求，网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。而且明确标识要求和新闻信息管理要求，网络音视频信息服务提供者和网络音视频信息服务使用者利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用新技术新应用制作、发布、传播虚假新闻信息。

国家互联网信息办公室有关负责人介绍说，《规定》还明确违法违规信息管理要求，网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术。

此外，《规定》还强调，网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施;网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。

吴沈括告诉记者，《规定》对非真实音视频信息的标识义务以及辟谣机制的安排，有利于识别各式各样的虚假信息，阻止虚假信息的传播，保护公民个人的权益，使新技术能够得到合法运用，与网络音视频行业共同健康发展。

设置便捷投诉举报入口

记者注意到，《规定》要求网络音视频信息服务提供者落实信息内容安全管理主体责任，应当依法取得法律、行政法规规定的相关资质;建立健全用户注册、信息发布审核、信息安全管理等制度。

“这些规定要求网络音视频信息服务提供者自觉主动履行平台监管的义务，加大对不良信息的识别和审核力度，承担平台所应有的社会责任。”吴沈括解释说，平台方在追求经济利益的同时，实现与社会效益相统一。网络音视频信息服务提供者应加大对公民、社会和国家利益的保护力度，承担更多的主体责任。

同时，《规定》要求网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定对用户进行真实身份信息认证等。对此，吴沈括解释说，这一条可以看做是网络应用实名制条款，明确了公民个人的责任。

此外，《规定》要求，网络音视频信息服务提供者应当设置便捷的投诉举报入口，及时受理并处理公众投诉举报。此外，网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范。

据国家互联网信息办公室有关负责人介绍，《规定》还明确监督检查要求和执法协助要求，各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度，网络音视频信息服务提供者应当配合监管部门开展执法工作。而且明确了法律责任，网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的，由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理。

吴沈括认为，作为规范性文件，《规定》对网络音视频信息行业的的监管作了大体规定，后期仍需更为细化的执行性文件出台，帮助有关部门以及网络音视频信息服务提供者进一步履行责任。