原標(biāo)題：全紅嬋“被帶貨”土雞蛋，AI克隆詐騙何時休?
當(dāng)“AI孫燕姿”橫空出世時，人們還在驚嘆于技術(shù)進(jìn)步之快，而今被濫用的AI克隆技術(shù)已經(jīng)成了人工智能合規(guī)發(fā)展的“攔路虎”。
近日，央視曝光了多個利用AI仿冒奧運(yùn)冠軍全紅嬋帶貨土雞蛋的賬號，AI全紅嬋一會兒賣土雞蛋、一會又推薦農(nóng)家土蜂蜜，打著助農(nóng)的旗號讓不少喜愛全紅嬋的網(wǎng)友信以為真，點(diǎn)贊下單以示支持，但全紅嬋的家人早在四月就對外聲明過，全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。
中招“被帶貨”的不僅是全紅嬋，AI仿冒的孫穎莎、王楚欽也去帶貨推銷農(nóng)產(chǎn)品了，被AI克隆的明星藝人更是不計(jì)其數(shù)，AI楊冪直播賣女裝，AI靳東詐騙中老年錢財(cái)，AI孫儷宣傳某奶粉，就連綜藝節(jié)目片段都沒能逃過，綜藝《一路繁花》中，一段劉曉慶吃飯的片段就被人用AI合成替換成某減肥產(chǎn)品的廣告，劉曉慶發(fā)文對此進(jìn)行辟謠：“畫面是我的臉，聲音像我的聲音，但真不是我。”
利用人工智能深度偽造技術(shù)制作的帶貨視頻播放量動輒幾十萬甚至幾百萬，還有眾多消費(fèi)者對此深信不疑，買到了假冒偽劣產(chǎn)品又陷入維權(quán)困局。更令人憂心的是還有平臺利用AI合成技術(shù)，假借古天樂、林峰等港星合成出線上賭博網(wǎng)站宣傳片，逼得兩人的經(jīng)紀(jì)公司出面辟謠。
耳聽或?yàn)樘摚垡娨喾菍?shí)，體育名人、知名企業(yè)家、明星藝人通通都上了AI克隆受害者名單，這一情況絕非是人工智能技術(shù)開發(fā)者的初心。別有用心的商家濫用AI技術(shù)其目的無外乎是牟利，直播帶貨也好廣告宣傳視頻也罷，總歸是想要利用大眾對名人的信任、喜愛走捷徑快速攫取利益。
AI深度偽造技術(shù)如此泛濫、屢禁難止的原因之一在于獲取AI深度偽造工具的成本低、門檻低但利潤高，在高利益的誘惑下，一批賬號被封禁了還會有一批賬號再起來。在網(wǎng)上具有AI深度偽造合成功能的工具、使用教程唾手可得，記者在網(wǎng)上隨便搜索了一款宣稱可以免費(fèi)AI聲音克隆的工具，該工具客服介紹AI可以通過深度學(xué)習(xí)精準(zhǔn)分析樣本語音模式和音調(diào)特征，生成的AI克隆聲音還原度高達(dá)99%，使用僅需三步：上傳5到30秒音頻樣本，AI自動克隆聲音，輸入文字即可讓AI朗讀任意文本，生成的音頻可以下載，直接用于商用或者個人用途，當(dāng)然該工具也做出了免責(zé)聲明，要求克隆出的聲音僅限合法用途，但這樣的君子協(xié)定到底具有多大的約束力，恐怕要打一個問號。
要遏制濫用AI深度偽造功能帶來的仿冒名人問題，多方面的努力必不可少，在技術(shù)層面，一方面需要加強(qiáng)對開源代碼的合理限制，從技術(shù)源頭上減少非法利用的可能，另一方面還需要更強(qiáng)的反制技術(shù)，僅依靠人類經(jīng)驗(yàn)識別或用戶自覺打上“AI生成”標(biāo)識并不足夠，傳播平臺需要更強(qiáng)的識別AI深度偽造內(nèi)容的技術(shù)，健全對AI深度偽造合成內(nèi)容的審核、識別、懲罰機(jī)制。在法律層面，新技術(shù)帶來新發(fā)展的同時也會帶來新問題，針對AI技術(shù)發(fā)展帶來的新問題，需要細(xì)化侵權(quán)認(rèn)定標(biāo)準(zhǔn)和懲罰措施，降低維權(quán)成本，提高違法成本，加大對侵權(quán)行為的打擊力度。對于每一個普通人而言，面對互聯(lián)網(wǎng)上紛紛雜雜的聲音，對內(nèi)容保持懷疑并加以求證，或許才是我們抵御虛假信息的最后防線。
編輯：齊少恒
本文鏈接：http://m.rrqrq.com/showinfo-102-35114-0.html全紅嬋“被帶貨”土雞蛋 AI克隆詐騙何時休?
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號
