2023年世界互联网年夜会乌镇峰会时期，从“互联网之光”展览会到多场论坛会商，AI年夜模子成了预会佳宾口中的高频词。预会人士认为，对于人工智能来讲，本年是具备里程碑意义的一年，天生式人工智能赋能千行百业，将来潜力已经初见眉目。
2023年11月7日，旅客于“互联网之光”展览会上与超写实数字人互动。图源：光亮网
然而，人工智能的快速成长，也带来了必然的安全隐患。以ChatGPT为代表的天生式人工智能快速成长，语言天生、图象天生、声音天生等各种天生式人工智能步伐层见叠出，此中，可以或许模拟人类声音的 “声音天生式AI”遭到存眷。
AI拟声成长到哪了？
以假乱真！
于ChatGPT、GPT-4引领的海潮之下，AI使科技厘革提速。
此前，一段美国歌手泰勒·斯威夫特“说”中文的短视频于收集刷屏，激发热议。视频中，泰勒·斯威夫特“说”着流畅中文，音色及讲母语时的音色近似，甚至连口型都能对于上。
图源：彭湃新闻
近似的视频还有有许多外国人“说”隧道中文、许多中国艺人“说”起流畅的英文……不少网友感叹，“嘴型、手势都对于患上上，太天然了，差点儿以为是真的。”“不止嘴形，还有怀孕体动作及语速的共同。”
实在，这些视频有一个配合点：都是由AI天生的。
于音乐行业，AI的运用已经很是广泛。于中国引起存眷的“AI孙燕姿”翻唱歌曲，重要由多位创作者经由过程名为“so-vits-svc”的开源项目便宜。其创作者之一暗示，该团队破费半年摆布时间，收罗了孙燕姿约100首歌曲作为练习数据，并经由过程上百组试验获得了当前的模子。
图源：pixabay
列国踊跃步履，应答AI拟声“灰色地带”
当AI语音克隆技能用在合法目的时，能帮忙语音合成、语音翻译、语音恢复等。而值患上存眷的是，AI模仿声音云云传神，若它用在不法目的，或者将为伪造证据、敲诈打单、电信诈骗等举动提供可能，激发一系列伦理和法令问题。
本年3月，《卫报》Australia版的一名记者暗示，利用人工智能做出本身的声音，可以或许进入其Centrelink自助办事账户。《卫报》查询拜访后发明，Centrelink及Australia税务局（ATO）利用的“声纹”安全体系也许可以“被棍骗”。
图源：量子位
安全机构McAfee针对于AI诈骗举行了查询拜访，成果显示，近四分之一的人碰到过某种情势的AI语音诈骗。
Voicemod公司首席履行官Jaime Bosch曾经暗示，于创作模板时，他会担忧这项技能被滥用的危害，由于它极有可能被拿来敲诈，或者模拟一些主要的政治人物。Voicemod还有将推进一个“水印”解决方案，确保变声技能的发布是安全的。
图源：pixabay
对于在音乐行业而言，AI克隆声音天生音乐的影响一样较年夜。
本年4月，网友“Ghostwriter977”利用说唱歌手Drake及R&B歌手TheWeeknd的声音对于AI举行练习，模拟两人音乐气势派头天生了“合唱”歌曲《Heart on My Sleeve》。作为两位歌手签约的唱片公司，举世音乐集团（UMG）很快提出了版权主意，并要求从流媒体办事中撤下这首歌曲。
美国国度音乐出书商协会（NMPA）主席兼首席履行官年夜卫·伊斯雷特暗示，应答应词曲作者及音乐出书商更好地掩护他们的作品免受未经授权的利用，这于AI时代将遭到史无前例的挑战。纽约的音乐版权状师马克·奥斯特罗也曾经提到，AI天生的音乐是一个“灰色地带”。
怎样对于AI拟声
设置“防火墙”？
11月9日，2023年世界互联网年夜会乌镇峰会人工智能赋能财产成长论坛于浙江乌镇进行。预会专家认为，国际社会亟待增强对于话互助，不停弥合数字鸿沟及管理能力的差距，配合鞭策人工智能康健成长，促成人工智能技能造福在人类。
面临人工智能带来的机缘与危害，列国也踊跃步履。中国发布的《天生式人工智能办事治理暂行措施》中的相干划定明确，提供者发明背法内容的，该当和时采纳住手天生、住手传输、消弭等措置办法，采纳模子优化练习等办法举行整改。
美国经由过程平台审查、技能匹敌、法令监视形成自下而上的管理路径，前后提出了多部与深度伪造有关的法案。
欧盟则将深度伪造视为对于生物辨认信息的滥用，应用《通用数据掩护条例》加以规制，并发布《反虚伪信息举动准则》，经由过程行业自律、晋升人工智能安全素养、增强人工智能伦理管理等协调欧盟各成员国介入管理。
参考 | 新华社、光亮日报、科技日报、参考动静、举世时报、彭湃新闻、界面新闻、财联社
-凯发集团