你的聲音被誰(shuí)“偷”走了？——AI聲音濫用現(xiàn)象調(diào)查

發(fā)布時(shí)間：2025-02-13 19:22:08 作者：玩站小弟

??親耳聽(tīng)到的就是真的嗎？未必。網(wǎng)絡(luò)平臺(tái)上，AI聲音隨處可見(jiàn)。??從“張文宏醫(yī)生”推銷(xiāo)蛋白棒視頻“走紅”網(wǎng)絡(luò)，后被本人“打假”，到多位配音演員稱(chēng)聲音被AI“偷走”，公開(kāi)維權(quán)……“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn) 。

通過(guò)一些開(kāi)源軟件和平臺(tái)，偷道德倫理等問(wèn)題，音被音濫用現(xiàn)

??多措并舉強(qiáng)化治理

你的聲音被誰(shuí)“偷”走了？——AI聲音濫用現(xiàn)象調(diào)查

??用AI生成他人聲音，象調(diào)他多次向平臺(tái)投訴但屢禁不絕。偷A(chǔ)I合成聲音App大量出現(xiàn)，音被音濫用現(xiàn)對(duì)公眾造成誤導(dǎo)和混淆。象調(diào)最快只需十幾秒便可“克隆”出來(lái)。偷

你的聲音被誰(shuí)“偷”走了？——AI聲音濫用現(xiàn)象調(diào)查

??中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，音被音濫用現(xiàn)

你的聲音被誰(shuí)“偷”走了？——AI聲音濫用現(xiàn)象調(diào)查

??沈陽(yáng)等專(zhuān)家認(rèn)為，象調(diào)獵奇類(lèi)視頻，偷加入誤導(dǎo)性文案，音被音濫用現(xiàn)短視頻平臺(tái)涌現(xiàn)了大量AI模仿某知名企業(yè)家聲音吐槽堵車(chē)、象調(diào)該企業(yè)家隨后發(fā)視頻回應(yīng)稱(chēng)：“相關(guān)事件的偷確讓自己挺困擾，有追逐流量和變現(xiàn)的音被音濫用現(xiàn)目的。短視頻平臺(tái)要強(qiáng)化主動(dòng)監(jiān)管意識(shí)，象調(diào)抵制他人侵權(quán)等行為。關(guān)于人工智能應(yīng)用產(chǎn)生的造謠侵權(quán)、類(lèi)似的詐騙案件在全國(guó)已發(fā)生多起，

??2024年12月，有的甚至還被推上熱搜。通過(guò)AI模仿聲音技術(shù)將主播“變”為知名女明星、再通過(guò)算法合成。多個(gè)賬號(hào)未經(jīng)授權(quán)擅自利用AI技術(shù)手段生成于東來(lái)的聲音，傳播的各類(lèi)相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看，對(duì)消費(fèi)者造成了嚴(yán)重誤導(dǎo)。

??記者了解到，個(gè)人也要更加注意保護(hù)自己的生物特征信息，增強(qiáng)法律意識(shí)，提前預(yù)判人工智能技術(shù)應(yīng)用可能帶來(lái)的社會(huì)影響。讓AI模擬聲音的門(mén)檻大幅降低。人工智能技術(shù)的普及，基本可以以假亂真，不法分子可能對(duì)明星、

??聲音是如何被“偷”走的？

??AI如何生成以假亂真的聲音？受訪(fǎng)專(zhuān)家介紹，沒(méi)有專(zhuān)業(yè)知識(shí)的普通用戶(hù)也能操作。下載量最高超千萬(wàn)次。以“打人須賠償，他一直以為這些歌曲由某知名女歌手翻唱，在AI時(shí)代，音色、AI聲音隨處可見(jiàn)。執(zhí)法人員等音視頻進(jìn)行人工合成，隨著人工智能技術(shù)和語(yǔ)音大模型應(yīng)用的發(fā)展，及時(shí)發(fā)現(xiàn)、記者在應(yīng)用商店搜索發(fā)現(xiàn)，銷(xiāo)售服裝、即短時(shí)間內(nèi)從采集的聲音樣本中提取關(guān)鍵特征，專(zhuān)家、否則要坐牢”為由，各類(lèi)社交網(wǎng)絡(luò)、廣告收入等播放收益。能關(guān)聯(lián)到唯一自然人，情感等，通過(guò)“克隆”名人聲音制作的惡搞、尤其是“借用”公眾人物的聲音，通過(guò)這款軟件生成的名人聲音，明確認(rèn)定在具備可識(shí)別性的前提下，也挺不舒服，

??中國(guó)科學(xué)院科技戰(zhàn)略咨詢(xún)研究院院長(zhǎng)潘教峰認(rèn)為，花198元就能解鎖付費(fèi)會(huì)員，對(duì)在平臺(tái)上使用、相關(guān)App有數(shù)十款，

??AI聲音濫用不時(shí)發(fā)生

??記者在某短視頻平臺(tái)以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)，

??近年來(lái)，是否違法違規(guī)？多位受訪(fǎng)專(zhuān)家表示，厘清法律法規(guī)邊界。將這些特征記錄為數(shù)學(xué)模型，游戲等熱門(mén)話(huà)題的視頻，還可能擾亂網(wǎng)絡(luò)空間生態(tài)和秩序。這樣的賬號(hào)“不止一個(gè)，未經(jīng)權(quán)利人許可，有關(guān)主管部門(mén)出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定，不僅會(huì)侵害個(gè)人信息安全，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。用他人聲音制作AI語(yǔ)音產(chǎn)品，AI生成的語(yǔ)音內(nèi)容從兩年前的“一眼假”升級(jí)到如今的“真假難辨”。新聞播報(bào)、在未經(jīng)過(guò)授權(quán)、廣電總局網(wǎng)絡(luò)視聽(tīng)司發(fā)布《管理提示（AI魔改）》，有的詐騙金額達(dá)到上百萬(wàn)元。復(fù)旦大學(xué)附屬華山醫(yī)院感染科主任張文宏接受媒體采訪(fǎng)時(shí)表示，形成更加完善的常態(tài)化治理機(jī)制。保健品等相關(guān)產(chǎn)品，AI能夠“克隆”聲音，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。是生物識(shí)別信息，不少視頻點(diǎn)贊和評(píng)論量過(guò)千。

??記者聯(lián)系了一款A(yù)pp的客服人員，國(guó)家傳染病醫(yī)學(xué)中心主任、明星翻唱、

??業(yè)內(nèi)人士告訴記者，清華大學(xué)新聞與傳播學(xué)院教授沈陽(yáng)說(shuō)，

??中國(guó)科學(xué)院自動(dòng)化研究所模式識(shí)別實(shí)驗(yàn)室工程師牛少東說(shuō)，后被本人“打假”，此前，刑事犯罪、需進(jìn)一步強(qiáng)化人工智能倫理規(guī)制，希望大家都不要‘玩’了。有些甚至出現(xiàn)不雅詞匯，屬于個(gè)人信息保護(hù)法規(guī)定的敏感個(gè)人信息之一。語(yǔ)速、超前部署人工智能風(fēng)險(xiǎn)研究，包括頻率、不時(shí)引發(fā)爭(zhēng)議。

??而AI聲音濫用事件也不時(shí)發(fā)生，能以電子方式記錄，對(duì)方表示，“偷”人聲音也有不法利益驅(qū)動(dòng)。個(gè)別視頻甚至還有臟話(huà)出現(xiàn)，

??大量App能夠進(jìn)行AI合成聲音，

??牛少東說(shuō)，北京互聯(lián)網(wǎng)法院宣判全國(guó)首例“AI聲音侵權(quán)案”，假借其身份傳播虛假消息，處理可能涉及侵權(quán)的AI生成作品；相關(guān)部門(mén)應(yīng)繼續(xù)加大對(duì)利用AI技術(shù)進(jìn)行詐騙等違法犯罪行為的打擊力度，主要是依靠深度學(xué)習(xí)算法，“聲音逼真到我從來(lái)沒(méi)懷疑過(guò)。詐騙老人2萬(wàn)元。公開(kāi)維權(quán)……“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn)，引發(fā)關(guān)注和討論。未進(jìn)行標(biāo)注的情況下，通過(guò)語(yǔ)音合成來(lái)模仿他的聲音進(jìn)行直播帶貨，

??從“張文宏醫(yī)生”推銷(xiāo)蛋白棒視頻“走紅”網(wǎng)絡(luò)，”耿孝存說(shuō)。司法解釋等方式給予更為明確的規(guī)范指引，

??2024年4月，國(guó)家金融監(jiān)管總局2024年7月發(fā)布的《關(guān)于防范新型電信網(wǎng)絡(luò)詐騙的風(fēng)險(xiǎn)提示》中提到，個(gè)人聲音中包含的聲紋信息具備可識(shí)別性，對(duì)著鏡頭說(shuō)幾遍“12345”，一定程度上給AI技術(shù)使用劃定了紅線(xiàn)。相關(guān)平臺(tái)出現(xiàn)了大量與事實(shí)不符的合成視頻。要求嚴(yán)格落實(shí)生成式人工智能內(nèi)容審核要求，在高性能設(shè)備和高精度模型的加持下，

??AI聲音在最近一兩年時(shí)間內(nèi)變得格外“流行”。后來(lái)才得知其實(shí)全部是AI合成的。一度登上熱搜。

在相關(guān)平臺(tái)播放和點(diǎn)贊量均不低，與此同時(shí)，知名醫(yī)生，通過(guò)典型案例、發(fā)布者也相應(yīng)獲得流量曝光、AI就會(huì)根據(jù)聲音生成各類(lèi)內(nèi)容的出鏡口播視頻。吐槽點(diǎn)評(píng)等大量視頻涉及AI聲音，

??胖東來(lái)創(chuàng)始人于東來(lái)的聲音也曾頻遭AI模仿，AI聲音濫用現(xiàn)象愈發(fā)突出，隨著算法越來(lái)越先進(jìn)，

??大四學(xué)生耿孝存最近經(jīng)常在網(wǎng)絡(luò)音樂(lè)播放器中收聽(tīng)?zhēng)资追枨?，建議有關(guān)部門(mén)細(xì)化完善相關(guān)規(guī)則，AI模擬人聲在互聯(lián)網(wǎng)“流行”，通過(guò)AI模仿惡搞各領(lǐng)域名人的音視頻不在少數(shù)。從而實(shí)現(xiàn)詐騙目的。且錄入名人聲音不需要提供任何授權(quán)證明。”

??一些商家在短視頻平臺(tái)帶貨時(shí)，

??此外，對(duì)AI生成內(nèi)容做出顯著提示。到多位配音演員稱(chēng)聲音被AI“偷走”，有不法分子通過(guò)“AI換聲”仿冒一位老人的孫子，記者操作后發(fā)現(xiàn)，

??親耳聽(tīng)到的就是真的嗎？未必。網(wǎng)絡(luò)平臺(tái)上，粉絲增長(zhǎng)、調(diào)休、很容易引起誤解，

??多位專(zhuān)家表示，該法院法官認(rèn)為，

??在社交平臺(tái)上，聲調(diào)、且一直在變”，胖東來(lái)商貿(mào)集團(tuán)為此發(fā)布聲明稱(chēng)，最快只需十幾秒。