真假难辨引争议，AI语音克隆的适用边界在哪？

最近，模拟出来的孙燕姿和周杰伦等AI创作作品在网络上广受关注，并迅速激起网友们的热议。AI声音因其拟真性，不仅能复现知名歌手的作品，同时也引发了一系列伦理和法律问题，甚至被不法分子利用，成为了提升电信诈骗成功率的重要手段。

据科技日报报道，在电信诈骗中，骗子使用AI软件扫描语音记录并复制，其准确率高达99%。其语料数据提取自社交媒体的视频和其他上传音频中的片段，输入AI软件后，可以生成声音并说出不同短语或句子。根据国外学者的介绍，有一些模型和算法只需要1分钟甚至更短的时间就能生成一段相当高质量的克隆声音。如果利用更先进的人工智能模型和算法，产出的声音更难以让普通人分辨真假。

更令人担忧的是，当AI克隆声音、AI换脸与个人信息泄露等黑灰产全面合流，骗子不仅能通过合成的AI视频和语音形成电诈“组合拳”，还能通过已掌握的隐私信息、高度成熟的骗术剧本，生成深度定制化的对话文本，将电诈升级为难以防范、难以察觉、难以醒悟、无处可查的“平行世界”。

此外，将AI克隆音频用于创作歌手、歌曲、音乐等艺术领域，也是对版权领域的强烈挑战。二次创作品的产生可能会对原声作者构成侵权，同时该作品的版权归属也同样存在模糊难定的问题，究竟归于人还是AI。

正如历史上不断重复的过程那样，技术先行、制度随后，中间这段规范和秩序的空白期内，不仅存在常规的“野蛮生长”，暗面的不择手段，传统亦会被进步所打破并取代。

以上是真假难辨引争议，AI语音克隆的适用边界在哪？的详细内容。更多信息请关注PHP中文网其他相关文章！