AI换脸：人工智能的一场裸奔(2)
2019-09-05 admin
2018年1月，一个名为FakeApp的软件上线，可实现“一键换脸”，视频内容也是千奇百怪，包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星上。虽然Reddit明令禁止换脸视频和图片在该网站传播，但仍有超过9万名用户在Reddit上传播这类视频。
今年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为，深度伪造技术对美国2020大选具有潜在威胁——若放任伪造视频扩散，则会对美国民主选举产生不良影响，挫伤选民的积极性。
就在听证会结束后不久，一款名为DeepNude（深裸）的App宣称能实现“一键脱衣”，它再次把AI技术应用中的法律伦理问题推到台前。操作十分简单，只要给它一张人像照片，等待30秒，就能得到一张裸照。由于风险超出可控范围，研发团队在产品上线几天后便匆忙下架了该产品。
“我们启动这个项目是出于娱乐的目的……从没想过它会像病毒一样扩散。我们不希望通过这种方式挣钱……从现在开始，不再放出任何版本，也不会授权任何人使用。” DeepNude团队6月27日公开声明道。
教育科技公司Coursera联合创始人、美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也在推特上公开批判，称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。
“AI换脸技术是成熟的，之所以没有被推广，就是因为还有很多法律、伦理问题没有讨论清楚。”李昆蔚对《中国新闻周刊》说，“Zao现在的盈利方式还不清楚，但要是为了赚钱，去做一些钻法律空子的事情，从而伤害了广大用户，是行不通的。”
除了侵权问题，还有网友担心，既然人脸识别已经在支付场景得到应用，面部信息泄露，是否会导致账户被盗刷？对此，支付宝安全中心8月31日发布公告：“不管换脸软件多逼真，都无法突破刷脸支付。”支付宝安全中心表示，刷脸支付采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情況。
瑞士科学家在一篇论文中就首次对人脸识别方法检测Deepfake的效果进行了较为全面的测评，尝试用最前沿的人脸识别系统去识别假视频，结果错误率高达95%。
《人民法院报》官网微博评论道：“试用任何一款新型软件的时候一定要认真阅读用户协议，多留个心眼，保护好自己的各项权益。”
“我不知道我们能否为此做好充分准备，但是我们还可以做更多的工作，确定敌人的计划和意图，尽早找出并揭露它，告知公众他们需要关注什么，应当做什么，而不仅仅忽略他们所看到的一切。”美国众议院情报委员会听证会主席亚当·希夫表示。
虽然没有一招制胜的方法，但阻止深度伪造负面影响蔓延的方法有很多，诚如马里兰大学法学教授丹尼尔·希特龙在上述听证会上总结的，对深度伪造的内容不能一竿子打死，很多深度伪造的合成媒体内容具有存在的正当性，而对影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。涉及刑事犯罪和一般网络侵权的深度伪造适用不同的规制，监管应区别对待，美国相关立法目前主要从刑事犯罪角度对深度伪造予以规制。
