GAN:真假难辨 AI捏脸能有多真？

在未来世界，如果只看脸的话，你可能真的无法辨认真假。

在科幻电影《银翼杀手2049》中人类制作的“复制人”和人类的容貌近乎一致，除非用专业的仪器做情绪测试，或者找到复制人体内的编号，否则人类根本无法用肉眼分辨孰真孰假。

图片来自：《银翼杀手2049》

这样的未来世界对我们来说可能有些遥远，但如果只看脸的话，你可能真的无法辨认真假。

“AI脸”已跨越恐怖谷

先来看一组图片，你有信心一眼分辨出“假人脸”吗？

图片：以上均为AI合成脸

这里提到的“AI脸”指的是由AI合成的人脸照片，并非真人拍摄，以肉眼看，一时间很难判断真假。

比特币矿企Iris Energy计划在明年初将其数据中心算力从5.6EH/s扩展到约9.1EH/s:6月20日消息，比特币矿企Iris Energy计划在2024年初将其数据中心算力从5.6EH/s扩展到约9.1EH/s，正在其600MW Childress站点建设第一阶段剩余的80MW数据中心，之后还会扩建另一个100兆瓦（MW）的设施。[2023/6/20 21:50:14]

加州大学伯克利分校的Hany·Farid教授多年来一直在从事AI图像合成技术的研究。根据他近日发表在美国国家科学院院刊的一项研究显示，AI合成的人脸已与真人没有区别，甚至看起来比真人更加真实。共同参与此项研究的Sophi·Nightingale博士称最开始开展研究的目的，就是为了借助真人对比找到提高AI人脸可信度的方法。Farid认为目前AI图像合成技术发展和改进的速度非常迅速，比传统的CG成像还要快。Farid称：我们认为，我们已经跨越了静态面孔的恐怖谷效应。

恐怖谷理论是一个关于人类对机器人和非人类物体的感觉的假设，它在1970年由日本机器人专家森昌弘提出，由于机器人与人类在外表﹑动作上都相当相似，所以人类亦会对机器人产生正面的情感，直至到了一个特定程度，他们的反应便会突然变得极之反感，哪怕机器人与人类有一点点的差别，都会显得非常显眼刺目，让整个机器人显得非常僵硬恐怖，让人有面对行尸走肉的感觉。人形玩具或机器人的仿真度越高人们越有好感，但在相似度临近100%前，这种好感度会突然降低，越像人反而越反感恐惧，好感度降至谷底，这被称之为恐怖谷。可是，当机器人的外表和动作和人类的相似度继续上升的时候，人类对他们的情感反应亦会变回正面，贴近人类与人类之间的移情作用。

Binance.US用户因SEC诉讼和资产冻结担忧撤回超7800万美元:金色财经报道，据DeFillama数据显示，Binance.US用户因SEC诉讼和资产冻结担忧撤回 7848 万美元，尽管声称资金是安全的。数据显示，Binance.US在以太坊链上持有的代币总价值为 3.21 亿美元，表明流出量约为当前TVL的 24%。

金色财经此前报道，美国一家法院批准 SEC 冻结 Binance.US 子公司 BAM Management 和 BAM Trading 资产的请求。但不会影响 Binance.US 客户的资产，只会冻结 Binance.US 的公司资产。[2023/6/7 21:22:11]

从Farid的实验结果来看，AI合成的人脸很可能已经脱离了“行尸走肉”的阶段。

生成模型为关键技术

如此逼真的人脸是怎么合成的？AI合成主要采用GAN生成模型技术。

GAN全称对抗生成网络，顾名思义是生成模型的一种，试图通过学习让模型尽可能生成逼真的输入分布。GANs的最终目的是预测给定标签的特征，而不是预测给定特征的标签。对生成对抗网络的一种直观理解是，想象一名造假者试图伪造红酒。一开始，作为一名小白，他非常不擅长这任务。他将自己造的假酒和真酒混在一起，并将其给品鉴师。品鉴师对每瓶酒进行真实评估，并向这个伪造者给出相应的反馈，告诉他怎么才是更真的红酒。造假者回到自己的作坊，根据品鉴师的反馈，开始制作一些新的假酒。随着时间的推移，二人一来一往的交流，造假者变得越来越擅长造假酒，品鉴师也变得越来越擅长找出假酒。最后，造假者终于造出了足以以假乱真的红酒。整个过程可以类似下图所示：

美SEC向币安附属公司BAM以及赵长鹏发出临时限制令:6月7日消息，美国证券交易委员会（SEC）对币安及其附属公司 BAM Managemen、BAM Trading 以及币安首席执行官赵长鹏发出临时限制令

文件中美 SEC 还提到禁止币安销毁、更改或隐藏相关记录；称 BAM Trading 在 Binance.US 上的质押计划是一项投资合同，因此属于证券的定义；币安及赵长鹏指导 BAM Trading 在美国的业务运营。文件表示，自法院发布限制令之日 10 天内，每位被告应将投资者在 Binance.US 平台上存放、持有、交易和 / 或应计的所有法定货币和加密资产返还美国，包括 BAM 的质押服务计划。

此前报道，SEC已请求法院批准冻结与Binance.US相关的资产。[2023/6/7 21:20:44]

同理，在“AI脸”方面可以想象GAN里有一个“画家”和一个“鉴定师”，“画家”需要画出尽可能像人脸的图片，交给“鉴定师”评判。“鉴定师”在评判之前要看非常多的真人照片，分析出人脸的特征，当“画家”的画能够过阅脸无数的“鉴定师”时，一张AI合成人脸照片就诞生了。在这个过程中，“鉴定师”经过不断的学习准确度会不断提高，相应的“画家”的技艺也要随之增长，两者形成一种对抗关系，从而提高合成图像的质量，直到能够以假乱真。

Celsius：已在出售Celsius资产的竞拍程序和现金管理等方面取得进展:10月21日消息，加密借贷平台Celsius发推称，周四的听证会对重要问题上取得了进展，包括用于潜在出售Celsius资产的竞拍程序，现金管理以及任命费用检查员以审查专业费用。下一次听证会目前定于11月1日举行。[2022/10/21 16:33:53]

图片：NVIDIAStyleGAN2

Farid在实验中采用的是英伟达发布的NivdiaStyleGAN2模型。

2018年12月，美国芯片巨头英伟达开发的一款超逼真面部生成器。这个基于GAN的模型表现得非常好，以至于大多数人都无法分辨它是一张合成的“假脸”。2019年2月，英伟达宣布将开源这款漂亮的工具，并将其命名为StyleGAN。这一机器学习技术是为了生成模拟真实图像的新图像。使用StyleGAN，不同于大多数其他生成器，可以定制不同的因素来更改生成的图像的结果。StyleGAN生成的图像非常逼真，它是一步一步地生成人工的图像，从非常低的分辨率开始，一直到高分辨率。通过分别地修改网络中每个级别的输入，它可以控制在该级别中所表示的视觉特征，从粗糙的特征到精细的细节，而不会影响其它的级别。但是，StyleGAN还有一些缺陷，最明显的是生成的图像有时包含斑点似的伪影(artifacts)，经过几个月的改进，这一缺陷也被完美解决了。NVIDIA的研究人员发布了StyleGAN的升级版——StyleGAN2，重点修复artifacts问题，并进一步提高了生成图像的质量。

美元指数DXY日内大涨1.00%，现报111.30:行情显示，美元指数DXY日内大涨1.00%，现报111.30。[2022/10/6 18:40:22]

图片：NVIDIAStyleGAN2

研究人员认为，已具备一定可信度的AI合成照片未来很有可能会被不法分子利用，在社交网络实施或引起混乱，这个问题需要得到社会的重视，并且图片合成技术的发展需要一些条约约束。

那么问题来了，既然AI合成人脸具有一定的社会风险，为什么人们还要投入精力研究呢？

AI脸或是?“双刃剑”

2019年E3电子游戏展上，基努李维斯在《赛博朋克2077》预告片中的惊喜亮相瞬间引爆了所有场内外观众的情绪，随即其本人上场宣布将担任游戏中重要角色“强尼银手”的脸模，勾起了无数玩家的期待。

图片：《赛博朋克2077》

因为在虚拟世界中，一张逼真的人脸能给玩家带来强烈的沉浸感，随着游戏机能的提升，用真人作为脸模代替数字捏脸，成为了越来越多游戏厂商塑造角色的手段。

但使用真人脸模，往往意味着高昂的肖像授权费以及动作捕捉成本，这对一些小型工作室来说并不现实。这时候一张免版权的AI合成人脸便能派上用场——由一个世界上并不存在的人来扮演虚拟角色，听起来合情合理。例如免费AI合成照片项目GeneratedPhoto就与动画软件公司Reallusion合作，用AI合成的人像用作动画、游戏或者广告的3D形象上，开发者可以自由地选择人物的种族、年龄、性别，并且不会有版权问题。可以试想一下，假如模拟人生或者GTA等游戏的NPC人脸都由逼真的人像制作，游戏的沉浸感和临场感将得到大幅提升。

除了游戏，一些客服类软件也需要大量的真人头像与客户沟通，如果将真人头像换用AI人像，既可以避免人像版权纠纷，又能保护个人隐私不被泄露。不过，虽然AI合成照片有着合理的存在意义，但与此同时，也会对网络照片的真实性造成一定冲击，毕竟谁也不想在交友app被一个根本不存在的人迷得神魂颠倒。

Farid认为想要解决这个问题，唯一的办法就是为每张真实拍摄的照片加入一个“真实性”认证，这样人们在浏览和使用照片时，才能辨别其真实性。这听起来就像是《银翼杀手》的逆向版本，电影里人们在复制人的眼球中刻入编号识别，现实中则相反地在真实照片标记，以对抗“假货”。

事实上，目前Adobe、微软等公司已经在推广相关的技术。在2021年2月，Adobe、微软、英特尔、Arm和Truepic等公司与机构联合成立了一个名为“内容来源和真实性联盟”的项目，以打击虚假信息，建立一个可验证图片真实性和溯源的技术标准。而验证的方法也很直接——将照片的拍摄、后期修改等信息用区块链技术原封不动的保留下来，无论照片怎么修改，都能直接查看。经过认证的真实照片会在右上角多一个“i”的小角标，当你点击它时，你就可以看到由相机生成的拍摄日期、地点、镜头等详细信息，而如果有人用Photoshop等软件修改过该照片，你还可以回退到照片的原图，得到完整图像。

C2PA的认证手段能够在一定程度确保严肃新闻等领域的照片真实性，但由于成立时间较短，目前只在部分媒体或社交平台上使用，想要为互联网所有内容提供真实性保障还为时过早。

也就是说，在未来的一段时间里，AI合成照片都有可能会是个社会安全隐患，目前类似NivdiaStyleGAN2等图像合成模型都可以在Github等平台上公开下载得到，这么做真的安全吗？Farid认为这需要技术人员平衡利益与风险后慎重考虑。

标签：GANLEGSTYLSTYLEGanymedeLegends of AriaSTYLE币STYLE币

TUSD热门资讯