搜索
首页科技周边人工智能分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

AI换脸创意图图据CFP

分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

网上“AI孙燕姿”演唱的众多歌曲截图

一秒改变容貌——在AI浪潮下,“变脸”也开始实现技术迭代了。如今,在直播间、短视频里,主播时而像迪丽热巴、时而像易烊千玺,你能点出的明星名字,不论男女老幼,充当明星带货的主播都能通过以手遮脸后在屏幕之后实现。

视频AI换脸,是指通过人工智能大数据技术,根据用户需求,通过技术手段将视频中某个人物的脸替换成另一个人的脸。当前,AI换脸技术已经广泛应用于短视频、广告、电影等领域,带来了不少的创意效果。

但是,这一技术也被一些不法分子用于违法犯罪活动,即AI换脸诈骗。面对“AI换脸+AI拟声”,就像让你在屏幕前辨认“真假美猴王”一样困难,你无法轻易分辨出孙大圣的真假。

“AI诈骗”冲上微博热搜

据“平安包头”微信公众号消息,近日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法定代表人郭先生10分钟内被骗430万元,随后话题#AI诈骗正在爆发#冲上微博热搜。

已经对公共利益构成威胁的AI变脸,到底是怎么进行诈骗的?

具体来说,不法分子会利用AI换脸技术制作虚假的视频或图片,以此进行诈骗活动。比如,通过将某个人物或名人的脸替换到色情影片中,制造虚假事件,或者通过将受害者的脸替换到一些不雅或违法视频中,以此进行敲诈勒索。这些诈骗行为不仅侵犯了受害者的个人隐私和合法权益,还可能对受害者造成巨大的精神伤害和财产损失。

实际上,AI诈骗此前也在我国发生过多起。据华西都市报、封面新闻记者此前调查报道,浙江温州公安曾发布消息,2021年拱宸桥派出所接到报警,受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。根据警方调查,对方使用了人工智能换脸技术,将小陈的面部合成到不雅视频中,然后利用此视频对其进行勒索。

2020年,上海某公司高管因对方使用AI换脸与人工生成的语音技术制作成公司领导的面孔,并要该高管转账,致使该高管被诈骗150万元。

“用户利用AI换脸技术伪装,导致被伪装人的肖像权等权利被侵犯,或导致其他人的感情和财产大量受损时,平台在未尽到合理审核义务、未有效规制该类行为发生的情况下,需要承担一定的帮助侵权甚至直接侵权法律责任。”泰和泰律师事务所律师刘青告诉记者,除非平台故意为之或协助诈骗人进行诈骗行为,否则很难认定平台构成诈骗罪。

“用户在使用AI技术介入的软件或互联网产品时,一方面应当注意勿恶意利用AI技术进行不法行为,另一方面也应注意识别、核对交流方的真实身份,切勿轻信表象,在需要转账或花销采购时谨慎考虑。”刘青指出,若民众遭遇诈骗应当第一时间报警寻求警方的帮助,注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。“此外,一旦发现自己的肖像被盗用或者‘被换脸’,应当第一时间保留证据,以便后续维权;同时还可以向网络平台运营商提出投诉,要求强制下架侵权图片或视频;最后,也可以提起人格权诉讼,用法律武器维护合法权益。”

最近,中国互联网协会发布了一份声明,呼吁广大公众应该提高警惕,加强对利用人工智能技术的新型骗局的预防措施。在AI时代,文字、声音、图像和视频都有可能是深度合成的,在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款,无论对方是谁。

明星也难逃AI“魔法”

日前,在AI孙燕姿火爆全网之后,歌手孙燕姿在网站上发布了《我的AI》一文,首度回应了对AI技术的看法。孙燕姿形容自己像是坐在电影院最佳位置,享受着爆米花的观众一样,面对威势逼人的AI技术。“在这无边无际的存在之海中,凡事皆有可能,凡事皆无所谓,我认为思想纯净、做自己,已然足够。”

但事实上,如果“AI”技术使用了明星的语音信息,可能会侵犯其隐私权。根据我国《民法典》第一千零三十四条规定,自然人的个人信息受法律保护。个人信息是以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息。如果未经明星同意在其直播间使用“AI换脸”或“AI变声”技术,可能会侵犯其隐私权。

有人在网络上发布了一些“换脸直播”的教程,声称使用相应的软件可以更好地在直播带货中用明星的脸来代替自己的脸。对此,刘青说,根据我国《民法典》第一千零二十四条规定,任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。这种行为有可能侵犯艺人的肖像权和名誉权,并且如果用于商业行为,还可能涉嫌虚假宣传。

当记者查询民法典时,发现AI换脸技术牵涉到多种权利,包括肖像权、名誉权和隐私权。据我国《民法典》第一千零一十九条规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段侵犯他人肖像权的方式,制作、使用、展示他人肖像。通过使用人工智能换脸技术制作虚假肖像,会侵犯他人的肖像权,并有可能导致侵权纠纷。

谁打开了AI换脸潘多拉魔盒?

AI换脸直播的发展史可以追溯到2018年,当时DeepFaceLab等工具的发布开启了AI换脸技术的发展。各大直播平台已开始应用AI换脸直播技术,这一技术正不断得到优化和升级。

2020年,美国的真力(Zoom)公司推出了AI面部替换功能,允许用户在Zoom视频会议中将自己的面部替换为他人面部。AI换脸技术的发展和应用得到了广泛的关注和讨论,这项功能也为此功不可没。

2021年,随着AI换脸技术的不断成熟和完善,AI换脸直播的应用范围也不断扩大。越来越多的平台和企业推出了自己的AI实时换脸服务,例如抖音的“Faceu秀颜”和“Perfect”等。这些应用不仅可以实现面部替换,还可以实现声音、动作、表情等多种维度的替换和合成,使得AI换脸直播更加真实和生动。

然而,随着AI换脸直播的普及和应用,也出现了不少争议和问题。有人认为AI换脸直播可能会侵犯个人隐私和肖像权,也有人担心AI换脸直播可能会被用于虚假宣传和色情内容等非法用途。因此,许多国家和地区已开始制定相关政策和法规,以规范人工智能换脸直播的应用与发展。

2021年,我国某知名电商平台开始在直播中使用AI换脸技术,用户可以通过该功能将自己的面部替换为明星或网红的面部,从而实现更生动、更真实的展示效果。此外,该电商平台还推出了自己的AI换脸直播服务,通过该服务,品牌方可以在直播中使用更为真实和生动的展示效果。

AI换脸技术未来受多方影响

目前,AI换脸直播已经成为我国直播行业的一种趋势,越来越多的平台和企业开始在直播中应用AI换脸技术。同时,随着技术的不断发展和应用,AI换脸直播在我国的应用前景也将更加广泛和多样化,但仍受多种因素的影响。

某头部直播平台工作人员张蕾(化名)向记者透露,据她从业以来的经验,AI技术的发展将推动AI换脸直播的进步。随着AI算法的不断优化和升级,AI换脸直播将会更加精确和真实,从而更好地满足品牌方的需求。“市场需求和消费者行为也将影响AI换脸直播的发展。如果市场需求持续上升,AI换脸直播的发展就会得到更强劲的促进。AI换脸直播的发展方向会受到消费者行为和喜好的影响,比如消费者更喜欢观看哪类直播内容。”

张蕾在回答记者有关政策法规对AI换脸的影响时,坦承政策和法规对AI换脸直播的未来发展有着极大的影响。“如果政策法规对AI换脸直播的发展持积极态度,那么AI换脸直播的发展可能会更加迅速和广泛,但一切都还是未知的。”

华西都市报-封面新闻记者 边雪

以上是分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:搜狐。如有侵权,请联系admin@php.cn删除
10个生成AI编码扩展,在VS代码中,您必须探索10个生成AI编码扩展,在VS代码中,您必须探索Apr 13, 2025 am 01:14 AM

嘿,编码忍者!您当天计划哪些与编码有关的任务?在您进一步研究此博客之前,我希望您考虑所有与编码相关的困境,这是将其列出的。 完毕? - 让&#8217

烹饪创新:人工智能如何改变食品服务烹饪创新:人工智能如何改变食品服务Apr 12, 2025 pm 12:09 PM

AI增强食物准备 在新生的使用中,AI系统越来越多地用于食品制备中。 AI驱动的机器人在厨房中用于自动化食物准备任务,例如翻转汉堡,制作披萨或组装SA

Python名称空间和可变范围的综合指南Python名称空间和可变范围的综合指南Apr 12, 2025 pm 12:00 PM

介绍 了解Python功能中变量的名称空间,范围和行为对于有效编写和避免运行时错误或异常至关重要。在本文中,我们将研究各种ASP

视觉语言模型(VLMS)的综合指南视觉语言模型(VLMS)的综合指南Apr 12, 2025 am 11:58 AM

介绍 想象一下,穿过​​美术馆,周围是生动的绘画和雕塑。现在,如果您可以向每一部分提出一个问题并获得有意义的答案,该怎么办?您可能会问:“您在讲什么故事?

联发科技与kompanio Ultra和Dimenty 9400增强优质阵容联发科技与kompanio Ultra和Dimenty 9400增强优质阵容Apr 12, 2025 am 11:52 AM

继续使用产品节奏,本月,Mediatek发表了一系列公告,包括新的Kompanio Ultra和Dimenty 9400。这些产品填补了Mediatek业务中更传统的部分,其中包括智能手机的芯片

本周在AI:沃尔玛在时尚趋势之前设定了时尚趋势本周在AI:沃尔玛在时尚趋势之前设定了时尚趋势Apr 12, 2025 am 11:51 AM

#1 Google推出了Agent2Agent 故事:现在是星期一早上。作为AI驱动的招聘人员,您更聪明,而不是更努力。您在手机上登录公司的仪表板。它告诉您三个关键角色已被采购,审查和计划的FO

生成的AI遇到心理摩托车生成的AI遇到心理摩托车Apr 12, 2025 am 11:50 AM

我猜你一定是。 我们似乎都知道,心理障碍包括各种chat不休,这些chat不休,这些chat不休,混合了各种心理术语,并且常常是难以理解的或完全荒谬的。您需要做的一切才能喷出fo

原型:科学家将纸变成塑料原型:科学家将纸变成塑料Apr 12, 2025 am 11:49 AM

根据本周发表的一项新研究,只有在2022年制造的塑料中,只有9.5%的塑料是由回收材料制成的。同时,塑料在垃圾填埋场和生态系统中继续堆积。 但是有帮助。一支恩金团队

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
3 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
3 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
3 周前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解锁Myrise中的所有内容
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

螳螂BT

螳螂BT

Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

MinGW - 适用于 Windows 的极简 GNU

MinGW - 适用于 Windows 的极简 GNU

这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

功能强大的PHP集成开发环境

EditPlus 中文破解版

EditPlus 中文破解版

体积小,语法高亮,不支持代码提示功能

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境