海南新闻网

45位女明星的换脸视频卖49元,AI换脸产业链的隐患令人担忧

最近,一款名为“ZAO”的变脸软件突然变得流行起来,在“ZAO”热潮之后,人工智能变化的灰色产业链开始浮出水面。中新经纬的调查发现,在网络平台上,淫秽视频销售明星面孔,提供定制的视频换面服务,以及教学变脸技术已成为一项业务。

律师指出,生产和销售人工智能面对不雅视频已构成散布淫秽物品以谋取利益的罪行,同时涉嫌侵犯他人肖像和声誉的权利。此外,律师还提醒说,变脸的视频可能被用于欺诈或勒索,造成更大的伤害,应引起全社会的注意。

文|张涛

01超过40位女演员被改变面孔,数百个视频售价49元

9月2日下午,在二手交易平台上,中信经纬(微信号:jwview)搜索关键词“AI face change”,系统提示“无法搜索违规信息”,但在搜索时“改变面子“你可以检索卖家印刷的信息,如”爱脸,整个网络是最完整,最低价“和”改变脸部收集可以尝试“。中信经纬与两位商家进行了沟通,发现他们在平台上卖掉了不朽的明星视频。

卖家余瑜(化名)告诉中新经纬,他手里有45个女明星,有数百个人工智能改变面貌的视频资源。随后,余宇将上述视频截图发送至中新经纬。 “网盘发货,在线观看,套餐价格49元。担心不喜欢免费试用,热门第一线(明星)的内容更好,第三和第四行(明星)的内容是一般的。”/p>

▲视频面部更改操作页面照片的受访者

另一位卖家还表示,它可以打包和销售数百款AI变身视频中的40多位女明星,价格为75元,你可以免费试用,网盘发货。

两位卖家都提到他们不应该在二手交易平台上沟通,而是要求在QQ上聊聊。其中一位卖家对中信经纬说:“该平台更严格地监控这些信息,产品信息可能随时被删除。我们也很幸运能卖出一个。”

中信经纬指出,9月2日晚,平台已删除上述两种产品的信息,但搜索“换面”仍可看到许多其他类似的产品信息。

02改变面部视频可定制,一分钟10元

此外,在其他电子商务平台上,也有卖家可以提供视频定制的换脸产品。只有买家需要提供面部变化人物的一些照片,并且卖家可以将照片中的面部“转向”特定视频中的特定人物。

“提供五到十张照片以及正在更换的人的视频片段。收费是每分钟10元,五分钟,一到两个小时发货,如果视频很长,可能会更便宜。”卖家说:“你可以自己提供视频或使用它,但视频越清晰越好。不要面对你的脸,遮住你的脸。”

卖方强调视频是由他自己完成的,他手里有许多固定客户。 “在做视频时,电脑无法做任何事情,它也会丢失显卡,所以我的价格非常公平。”卖家说:“找我的人就是做'小黄片',但更多的是做一些产品推广。短片,每个人都有自己的用途。”

▲来源:QQ群截图

另外,在一些与“人脸改变”相关的QQ群中,有一些卖家可以教授人脸改变技术,“教学套餐,公平价格”,还可以提供全套明星面貌变化的视频资源。据了解,“学习”AI换脸技术的学费约为500元,可以在四五个小时内学到。

一些用户对此表示担忧。网友“嘻嘻”说:“有人会在社交平台上使用我的自画像制作改变面貌的视频吗?那太可怕了。”还有评论说这个简单的应用程序可能会被误解。用户使用它来制作各种色情,暴力,虚假的视频。

03律师:人工智能改变面部被滥用的风险不容忽视

ZAO App的突然普及引发了人们关于AI变脸技术的关注和讨论,但事实上,这项技术最近还没有出现。在今年年初,一部通过人工智能技术取代演员朱寅在《射雕英雄传》与杨宓面对的视频在互联网上引起了激烈的讨论。目前,在一些视频网站上仍然有很多人脸变化的视频。

AI的面孔背后是Deepfake技术,Deepfake指的是用FakeApp程序创建的人工智能软件制作的假视频,FakeApp可以实现AI面部改变。

由于可能存在版权和隐私问题,ZAO引起了用户的广泛关注,北京安利律师事务所高级合伙人王新瑞表示,ZAO软件使用深度学习技术改变面貌的最大问题是大规模收集。生物识别信息和Deepfake“不真实且难以区分”,给社会带来了安全风险,目前公众普遍低估了这种风险,但实际上却造成了严重的后果。

北京芝林律师事务所律师赵志战在接受中信经纬采访时表示,制造和销售人工智能淫秽视频无疑构成传播淫秽物品的罪行,并涉嫌侵犯肖像权利和他人的声誉。对于购买面部色情影片人工智能的买家,如果他们传播或传播它以获取利润,它也可能构成非法甚至是犯罪。

赵职业进一步指出,除了使用人工智能变脸技术制作淫秽视频外,提供定制的视频变脸服务如果被非法使用,可能会造成更大的社会危害。 “对于普通人来说,有人拍摄你的照片来改变视频的面貌。这可能是为了戏弄,但也可以使用这个视频诈骗和勒索面子改变者的亲属。职业说,“我担心这项技术被滥用,或被那些肆无忌惮和恶意的人使用,它相当于打开潘多拉的盒子。

赵职业认为,对于这种新型的刑事犯罪,有必要及时改进现有的法律规则和技术手段,同时应采取更多手段让公众了解这种行为造成的危害。

[作者:张涛](编辑:李思融)

关键词: