继AI拍照写真软件妙鸭相机一夜爆红后，一个基于AI技术克隆声音的网站MyVocal.AI又火了一把。这款声称可免费克隆声音的网站，不但可以克隆声音，还可以利用克隆的声音输出音乐和流利口播。虽然有不少年轻人玩起来了，但更多的网友表达了担忧，担心这会给诈骗分子提供便利。
免费克隆你的声音，并输出音乐和流利口播
只需花费9.9元，上传二十几张照片，就能获取一套人工智能生成的写真集。日前，妙鸭相机成为我国生成式人工智能领域的一个爆款应用。刷屏的同时，妙鸭也刷出了用户隐私保护、消费者权益保护等暗雷。
△MyVocal.AI网站
人们对于妙鸭相机的大讨论尚未结束，一个基于AI技术克隆声音的网站MyVocal.AI又乘着AI的东风小火了一把。这个克隆声音的网站有多神奇？可以在这里克隆你的声音后生成歌曲、口播语音。此外，让它得到广大网友安利的原因还在于，目前这个网站是可以免费使用的。
△各种语音模板
8月3日，现代快报记者登录该网站，进入后显示有25个声音样本等待采集，依次点击声音样本，朗读样本中的提示语句，将25个样本全部采集完成，就可以进行声音克隆。在声音克隆完成后，网友还可以前往各个模块，生成歌曲和口播语音。方法也很简单，选择自己想唱的歌曲，进入后点击同步我的声音，即可将原歌曲一键变为由你演唱的作品。
免费玩家每月可享受2000个TTS（文字转语音），每个TTS要在500个字符以内。如果是人民币玩家，则可以享受到更广范围的服务。例如每月10元的标准玩家，每月可以享受50000个TTS，每个TTS可扩大至1000个字符。每月30元的流行玩家，则每月享受120000个TTS，每个TTS可扩大至1500个字符。
三无网站让网友质疑：自己的声音是否被随意采集使用
这个克隆声音的网站吸引了很多网友尝鲜使用，但在使用过程中，一些细心的网友注意到，这个克隆声音的网站，是个名副其实的三无网站。这个网站无备案号、无网络经营执照、无审核管理方，甚至网站上连运营方的名称和联系方式都没有。网友们纷纷质疑，一个三无网站如何保证声音采集后的安全性？自己的声音会不会被不法分子用作诈骗？
今年5月，一个名为AI孙燕姿的虚拟歌手在视频平台上火啦。这个虚拟歌手用孙燕姿的声音翻唱了周杰伦、赵雷、郭顶等多名歌手的经典歌曲，让网友们惊叹不已。随着AI模拟人声技术被广泛使用，在这个过程中，AI技术也被有心之人利用，甚至做出违法的事。
今年6月，江苏警方接到一工厂员工报警称，其同事可能遭遇诈骗。民警赶到现场时，被骗女子情绪激动，不愿配合调查。民警一直坚持耐心劝导，终于在女子与骗子通话近3个小时后将其拦下。挂断骗子来电后，女子的哥哥就打来电话询问是否要向其借钱。民警立刻识破这是一种利用AI技术进行诈骗的新方式，骗子通过AI合成声音，甚至影像，向受害人亲友借钱。同时在通话过程中，骗子还盗取了女子的身份进行网贷。最终，民警联系网贷平台中断放款，成功为女子挽回5万元损失。
律师建议：应尽快出台详细法律法规，对AI拟声进行监管
人工智能作为近几年兴起的领域，竞争激烈，不少企业前赴后继，想要在这个领域抢占先机，分一杯羹，这也导致行业中鱼龙混杂，存在着对用户隐私和消费者权益的潜在隐患。江苏漫修律师事务所律师衡晓春建议，国家应尽快出台详细的法律法规，对其进行约束和规范。
目前AI拟声在法律层面，尚未出台明确的规定。衡晓春表示，2023年5月23日，国家互联网信息办公室2023年第12次室务会会议审议通过《生成式人工智能服务管理暂行办法》（以下简称办法），办法中提到生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是，办法中还明确，对于生成式人工智能产品，提供者应当对生成的图片、视频等内容进行标识。
但是对AI拟声该如何保护，办法中却没有明确提及。衡晓春解释，办法只是笼统的规定，当发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。衡晓春建议，在未来，还需要对不同主体进行更加明晰的责任认定，最好细化到对于用户声音的采集和AI拟声内容生成、发布的每一个阶段。