元宇宙:元宇宙的首块合规拼图：《互联网信息服务深度合成管理规定（征求意见稿）》发布

一、背景

从基于深度合成技术的Deepfake出现开始，深度合成技术一直就饱受争议。从ZAO的换脸引起公众警觉，到“假靳东”的案件，不断降低的深度合成技术使用门槛让传统上“有图有真相”发展到“有视频都未必有真相”。此外，元宇宙、虚拟人等基于深度合成技术的理念也伴随着商业热度滚滚而来，要求法律与监管部门不能忽视这一生机勃勃的技术。

2022年1月28日，网信部门发布了《互联网信息服务深度合成管理规定》，标志着监管部门为虚拟空间打造的又一块拼图已具备雏形。该征求意见稿的发布，是监管部门对算法、元宇宙等近期热点领域已知与潜在风险的回应。

《互联网信息服务深度合成管理规定》并不是我国法规首次关注深度合成内容，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容，但这些法规更多是从音视频或较为宏观的角度关注，而此次公开的《互联网信息服务深度合成管理规定》则针对深度合成内容的特点，更有针对性地进行规制。

Meta元宇宙部门Reality Labs 2022年总亏损达137.2亿美元:2月2日消息，Meta在财报中宣布，其元宇宙部门Reality Labs在2022年第四季度亏损42.8亿美元，使该部门2022年总亏损达137.2亿美元。Reality Labs 2022年第四季度收入仅为7.27亿美元，比去年同期下降17%。

Meta首席执行官扎克伯格周三一再明确表示，Reality Labs并未处于任何困境，而是值得继续、并可能增加投资，“我们的优先事项没有改变，推动我们路线图的两大技术浪潮是当今的人工智能，以及从长远来看的元宇宙”。扎克伯格对公司的下一代VR耳机Quest 3表示特别乐观，该耳机将于今年晚些时候亮相。Meta希望这款耳机不仅能为陷入困境的部门增加硬件收入，还能普及公司的Horizo??n Worlds虚拟现实生态系统。

此外，2022年第四季度，Meta在所有部门和应用程序的收入达到了321亿美元，超过了315.3亿美元的收入预期。（Decrypt）[2023/2/2 11:42:10]

二、适用范围

元宇宙平台Orbcity已开始迁移至Polygon网络:1月17日消息，韩国Web3元宇宙平台Orbcity正在迁移至Polygon网络，用户已可通过官方桥接网站将Klaytn上持有的Token桥接到Polygon，并将元宇宙中的土地住所进行迁移，Obcity的城市服务现已迁移到Polygon。[2023/1/17 11:16:09]

《互联网信息服务深度合成管理规定》将深度合成技术定义为：“利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。”与其说是定义，不如说是描述。

征求意见稿将以下使用深度学习的技术列为规制范围：

元宇宙板块异动拉升，湖北广电触及涨停:5月16日消息，元宇宙板块异动拉升，湖北广电触及涨停，美盛文化、宣亚国际、奥飞娱乐、丝路视觉等跟涨。（金十）[2022/5/16 3:18:43]

当然，使用传统技术、未涉及深度学习技术的相关场景不在《互联网信息服务深度合成管理规定》的调整范围之内。

随着深度合成技术的广泛使用，《互联网信息服务深度合成管理规定》的调整范围远不只是Deepfake，而是包括了数字化工作的各个维度：客服平台的聊天机器人与营销机器人、广泛运用于地震等突发事件或体育赛事中的写稿机器人、相机中的美颜功能、游戏中3D场景或捏脸功能、元宇宙所构建的虚拟空间……不一而足。

三、合规义务框架

《互联网信息服务深度合成管理规定》所设定的合规义务框架围绕着“深度合成服务提供者”与“深度合成服务使用者”两方主体搭建。

东方剑桥教育集团与蓝色光标共同打造教育元宇宙:金色财经报道，1月27日，东方剑桥教育集团与蓝色光标(300058)达成战略合作，结合双方在教育行业与元宇宙科技行业的经验，共同探索元宇宙在教育行业的应用与落地。双方通过数科职教和蓝色光标教育共建合资公司，聚焦高校产业学院建设、元宇宙数智人的开发及应用等相关业务。双方在哈尔滨剑桥学院设立了全国高校首家元宇宙产业学院，同时定制并发布了哈尔滨剑桥学院全国首款产教融合元宇宙数智校长与数智教师。

蓝色光标教育科技总经理虞旸表示，蓝色光标率行业之先布局元宇宙业务，学生不仅可以用元宇宙的方式学习元宇宙的必备技能，并可在营销传播领域实时应用，学以致用。（大京网）[2022/1/27 9:17:30]

梳理后合规义务框架如下：

韩国元宇宙主题ETF净流入已达3300亿韩元:金色财经报道，11月19日，韩国元宇宙主题基金出现普涨，其中四个ETF引发关注，分别是：1、三星资产管理推出的Samsung KODEX K-Metaverse Active ETF于10月15日开始正式交易，截至当地时间11月18日收盘，该ETF的涨幅已经达到41.16%；2、韩国未来资产推出的Mirae Asset TIGER Fn Metaverse ETF于10月15日开始正式交易，截至当地时间11月18日收盘，该ETF的涨幅已经达到37.99%；3、KB资产管理推出的KB KBSTAR iSelect METAVERSE ETF于10月15日开始正式交易，截至当地时间11月18日收盘，该ETF的涨幅已经达到28.36%；4、NH Amundi资产管理推出的NH-Amundi HANARO K-Metaverse MZ ETF于10月15日开始正式交易，截至当地时间11月18日收盘，该ETF的涨幅已经达到21.07%。

据彭博社消息，韩国的上述四只元宇宙ETF自发行以来总共获得了2.78亿美元（约合3300亿韩元、18亿人民币）的资金流入，其中大部分资金是在上周流入且由散户投资者推动。另据一位分析师在接受彭博社采访时表示，到2021年底，韩国元宇宙主题基金的资产规模可能超过6亿美元，而散户投资者将贡献其中90%的资金流。[2021/11/19 6:59:44]

征求意见稿将服务提供者视为类似社交媒体平台的角色，有义务对平台内的用户行为进行监督。但是，在现实中深度合成服务提供者的技术同样依赖于第三方的提供，如可能会需要使用外部的引擎来支持自己的服务，在这样的场景下，如何定位各方的主体角色可能是需要推敲论证的，可能更应该将之视为征求意见稿之外的技术开发者，而非服务提供者更加合适。

四、合规启示

基于此前我们为该领域企业提供法律服务的经验，我们建议企业可以依据以下思路开展合规工作：

1.梳理深度合成技术应用场景

企业可以通过问卷、访谈等形式，结合业务场景，全面梳理企业深度学习技术的使用情况。在梳理的过程中，可能需要特别关注用户较多的使用场景。

2.风险评估

就相关技术的使用进行风险评估。对算法、深度合成技术的评估主要通过：查阅材料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式进行。如涉及个人信息的处理，可能还需要将个人信息保护影响评估纳入评估机制中。

3.搭建内部制度规则、完善技术

在主体责任、算法审核、用户注册、信息内容、数据安全和个人信息保护、未成年人保护、教育培训等领域将深度合成技术的风险管控纳入考量。此外，还需要建立内容审核、事件响应、辟谣、协助调查等机制。

4.制定管理规则、平台公约，更新服务协议

针对深度识别技术的使用，要求使用者在使用时：1）不得合成违法违规的内容；2）不得将合成内容用于违法或侵权用途；3）不得将合成内容谎称为自然内容；4）用于合成的素材应当合法合规，对人像、声音等生物识别信息获取单独同意并完成个人信息保护影响评估；5）对生成内容的知识产权的归属、数据处理的权限进行约定；6）其他需要约定或声明的内容。

5.标识深度合成内容

通过添加水印、电子签名等方式，对深度合成内容进行标识，避免公众误认。在此过程中，更重要的是设计该法定提示如何在有效告知公众的基础上，避免对业务的正常开展造成过大的冲击。

6.完成算法备案

在法规正式实施后，尽快在相关系统完成算法备案，对备案中可能需要填写的服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，公司可以提前起草进行准备，以便在相关系统上线后尽快完成备案。

附：其他法规中关于深度合成技术的规定

《互联网信息服务算法推荐管理规定》

发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输不得生成合成虚假新闻信息《网络信息内容生态治理规定》

网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。《网络音视频信息服务管理规定》

网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。

标签：元宇宙ETFMETAMET元宇宙app官方版下载nftCETF币ENTERMETAWORLDMETAN币

Gateio热门资讯