AI伪造录音技巧:三秒零成本曝光
近期,随着“卢文庆录音”事件爆发,AI合成录音技术再次引发公众关注。该事件中,一段令人震惊的录音被公之于众,随后却被证实为AI伪造,引发了舆论的广泛讨论。
在技术层面,AI合成录音属于深度伪造技术的一种,即通过深度学习算法实现音视频的模拟和伪造。这种技术可以将人的声音、面部表情及身体动作进行拼接,合成为极具逼真的虚假内容。尽管技术本身是中性的,但其被滥用时,就会造成不可忽视的社会影响。
针对此类事件,国内头部AI数字人公司风平智能的创始人兼CEO林洪祥表示,AI技术的广泛应用确实提高了生产效率,但在应用的扩展过程中,要防止违规事件的发生,需要建立系统性的规范并严格执行。
据林洪祥透露,目前用户仅需找到几分钟的零散素材作为AI学习样本,就能迅速克隆出完整的AI人声。同时,录音中的情绪语调也可以通过技术手段进行调整。实际上,复制一套AI人声的成本已经不高,一些市场上流行的应用甚至提供了免费的声音克隆服务。
以Reecho睿声模型为例,它提供了免费的声音克隆服务,而更专业的版本则需付费。利用这个模型,只需将一段卢老板的直播音频导入,短短几秒钟后,卢老板的AI声音就克隆成功。再根据原事件中情绪和文本非常离谱的一段录音作为脚本,一段卢文庆的AI合成录音就制作完成。
尽管AI合成的音视频在技术层面上可以比较直观地通过数据分辨真伪,但行业内部尚未有统一的标准。目前,AI数字人行业正在建设中,要求各种AI生成的内容都加上可识别的“特征标记”。这些标记会添加到人说话声音的频段之外,以方便机器识别。
然而,由于普及这项功能会增加企业成本,目前愿意实施的企业并不多。尽管如此,AI音视频行业仍在不断发展,相关产品和产业也在不断完善。
事实上,AI合成音视频技术并非只用于造假。例如,在电影《流浪地球2》中,刘德华饰演的角色以数字生命的形式复活了丫丫,而在现实生活中,已故的知名影星吴孟达也通过AI技术重返银幕。
综上所述,在类似事件发生时,我们应首先关注的是如何控制人性,避免AI技术被滥用。只有这样,才能真正实现AI技术的健康发展。