一鍵生成“換臉”視頻作品 真假難辨的AI內(nèi)容該如何監(jiān)管？

　　這幾天，國(guó)內(nèi)AI大模型都在密集上線新的版本，其中，國(guó)內(nèi)平臺(tái)進(jìn)行內(nèi)測(cè)的新一代視頻生成模型，就給相關(guān)行業(yè)帶來了巨大的震撼。只要輸入簡(jiǎn)單的文字描述，然后一鍵點(diǎn)擊，這個(gè)大模型就能自動(dòng)生成包含多鏡頭切換、連貫敘事和同步音效的視頻作品，影視制作的門檻大大降低，甚至有人驚呼，以后做一部電影只需要導(dǎo)演一個(gè)人就夠了。

　　但驚喜背后，驚嚇也隨之而來，由該平臺(tái)生成的明星、演員的視頻在網(wǎng)絡(luò)瘋傳，真假難辨的程度前所未見。要知道，此前的AI換臉和聲音克隆技術(shù)，就已經(jīng)讓不少人上當(dāng)受騙。如今，如果假視頻的生成到了電影級(jí)別，我們?nèi)绾文芊值们逄摂M和現(xiàn)實(shí)呢？人們的肖像權(quán)、隱私權(quán)以及著作權(quán)，該如何保護(hù)？

　　臨近春節(jié)，中國(guó)的人工智能領(lǐng)域，迎來了創(chuàng)新“井噴”。去年，還是DeepSeek一枝獨(dú)秀，今年，卻是多款大模型密集升級(jí)上線，而且在多個(gè)技術(shù)賽道，實(shí)現(xiàn)重大突破。本周，在智能體編程賽道，智譜推出新一代旗艦?zāi)Ｐ虶LM-5，引爆全球技術(shù)圈。更受矚目的是，在視覺生成賽道上，字節(jié)跳動(dòng)正式上線新一代AI視頻生成模型Seedance 2.0，以“可導(dǎo)演的電影級(jí)全流程生成引擎”為定位，刷屏國(guó)內(nèi)外的內(nèi)容創(chuàng)作圈。

　　只需輸入簡(jiǎn)短描述和參考圖即可生成具備多機(jī)位運(yùn)鏡、原生音效的高質(zhì)量視頻，還支持多鏡頭長(zhǎng)敘事等功能，Seedance 2.0模型的出現(xiàn)，讓知名視頻博主潘天鴻感慨，它簡(jiǎn)直就是萬能的視頻生成模型。潘天鴻還參與了該模型正式發(fā)布前的灰度測(cè)試，其測(cè)評(píng)視頻標(biāo)題為：改變視頻行業(yè)的AI，快來了，但有點(diǎn)恐怖。

　　潘天鴻：它永遠(yuǎn)帶給你的是驚喜，不是失望，這就是這個(gè)模型“恐怖”的地方。它遠(yuǎn)超出我的預(yù)期，這個(gè)AI的特性在于它有導(dǎo)演意識(shí)，會(huì)做明確分鏡，并且所有的人物呈現(xiàn)不會(huì)失真，非常真實(shí)。

　　Seedance 2.0與國(guó)外最優(yōu)秀的視頻大模型Sora比較，誰更優(yōu)秀？本周，記者與視頻博主合作進(jìn)行了測(cè)試，記者希望大模型生成一個(gè)“大熊貓參加冬奧會(huì)并完成單板滑雪內(nèi)轉(zhuǎn)1980度抓板動(dòng)作”的視頻，給兩款大模型分別輸入了80字的任務(wù)提示詞。

　　Sora版的視頻，用現(xiàn)場(chǎng)解說可實(shí)現(xiàn)如何向?qū)I(yè)動(dòng)作靠攏，而Seedance版視頻，似乎更強(qiáng)調(diào)炫酷，也更適合傳播。

　　再看看專業(yè)人士點(diǎn)評(píng)。潘天鴻團(tuán)隊(duì)稱，Seedance 2.0不是工具升級(jí)，而是行業(yè)革命；測(cè)評(píng)人士之外，游戲制作人馮驥評(píng)價(jià)說：AIGC，也就是人工智能，生成多模態(tài)內(nèi)容的創(chuàng)作方式，其童年期時(shí)代，結(jié)束了，并表示，該模型是“當(dāng)前地表最強(qiáng)視頻生成模型”；而多位美國(guó)導(dǎo)演或影視從業(yè)者，在使用之后，更是公開表達(dá)諸如“好萊塢要完蛋了”，或“這東西說不定真能搞垮好萊塢”的感慨。

　　2024年就有數(shù)據(jù)顯示，我國(guó)網(wǎng)絡(luò)視聽行業(yè)市場(chǎng)規(guī)模超1.22萬億元，短視頻用戶規(guī)模達(dá)到10.4億，使用率達(dá)93.8%。行業(yè)普遍認(rèn)為，隨著AI視頻技術(shù)的不斷迭代，AI將深度參與從創(chuàng)意、拍攝到傳播等各個(gè)環(huán)節(jié)，內(nèi)容生產(chǎn)的產(chǎn)業(yè)鏈將發(fā)生重構(gòu)。

　　一句話、一個(gè)人，就能拍電影，很多媒體用“顛覆”二字來形容Seedance 2.0的性能。它顛覆的不僅僅是整個(gè)行業(yè)，對(duì)個(gè)體來說，還在顛覆人的判斷力。在Seedance 2.0灰度測(cè)試的真人照片生成視頻階段，由于生成的視頻過于逼真，有評(píng)論就說，其以假亂真的程度，讓“眼見為實(shí)”四個(gè)字，受到更大的挑戰(zhàn)。

　　如今，新一代視頻大模型的出現(xiàn)，讓仿真能力更強(qiáng)，技術(shù)門檻更低，當(dāng)然也讓人更擔(dān)憂。爭(zhēng)議之下，這個(gè)大模型內(nèi)測(cè)僅僅兩天之后，企業(yè)就宣布緊急優(yōu)化，暫停使用真人圖像作為主體參考，在本周四正式上線的版本中，這個(gè)功能也依舊不能使用。大家都在問：這個(gè)功能會(huì)恢復(fù)嗎？更重要的是：我們?cè)撊绾螢檫@項(xiàng)強(qiáng)大的技術(shù)，劃定清晰的邊界？

　　在沒有向AI提供任何聲音文件的情況下，僅僅上傳了一張照片，AI就自動(dòng)匹配出了本人的聲音。Seedance 2.0的爆火，帶來的不僅是技術(shù)的驚嘆，更引發(fā)了公眾對(duì)隱私權(quán)的深層擔(dān)憂。

　　擔(dān)心不止于此。在此前Seedance 2.0內(nèi)測(cè)期間，就有網(wǎng)友利用該工具生成與明星的相關(guān)視頻，導(dǎo)致名人形象被隨意使用，“魔改”內(nèi)容泛濫。相比于此前語言大模型在文本層面的突破，Seedance 2.0所帶來的視頻生成能力的飛躍，更像是一個(gè)被打開的潘多拉魔盒。

　　短短兩天內(nèi)測(cè)，Seedance 2.0已暴露出諸多侵權(quán)風(fēng)險(xiǎn)，其中爭(zhēng)議最大的是真人素材參考功能。2月9日，相關(guān)運(yùn)營(yíng)方在內(nèi)測(cè)群內(nèi)發(fā)布通知，進(jìn)行緊急優(yōu)化，暫不支持輸入真人素材作為主體參考。而在本周四Seedance 2.0正式上線時(shí)，真人圖像參考功能依然無法使用。

　　真人素材的參考功能，如何才能合規(guī)、安全地使用呢？個(gè)人信息保護(hù)法中已有明確說法，人臉、聲音等生物識(shí)別信息，被明確界定為“敏感個(gè)人信息”。而法律也明確規(guī)定，處理此類信息，應(yīng)當(dāng)取得個(gè)人的單獨(dú)同意。

　　除了真人素材，Seedance 2.0還面臨著影視動(dòng)漫作品版權(quán)侵權(quán)的隱憂。

　　AI生成的視頻，越來越難辨真假，那些負(fù)責(zé)生成視頻的AI平臺(tái)，理應(yīng)是第一責(zé)任人，必須建立完善的內(nèi)部、外部監(jiān)督機(jī)制，防止侵權(quán)視頻的產(chǎn)生。但除了生成平臺(tái)，那些發(fā)布、傳播這些視頻的短視頻平臺(tái)、社交媒體，同樣責(zé)無旁貸。在AI內(nèi)容海量生成、瞬時(shí)傳播的今天，單靠個(gè)人舉報(bào)和事后刪除已經(jīng)遠(yuǎn)遠(yuǎn)不夠。平臺(tái)是否應(yīng)該把責(zé)任前置，建立更嚴(yán)格的審核機(jī)制，從源頭上遏制這些侵權(quán)視頻的發(fā)布和傳播呢？

　　根據(jù)明星、名人形象合成的視頻，充斥在各類短視頻平臺(tái)和社交媒體，有的涉嫌侵權(quán)，有的甚至被用來帶貨，作為傳播平臺(tái)，該負(fù)怎樣的責(zé)任呢？民法典規(guī)定，網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實(shí)施侵權(quán)行為的，權(quán)利人有權(quán)通知網(wǎng)絡(luò)服務(wù)提供者采取刪除、屏蔽、斷開鏈接等必要措施，這就是“避風(fēng)港原則”。在這一原則下，平臺(tái)只需要按“通知—?jiǎng)h除”的原則進(jìn)行事后補(bǔ)救。專家認(rèn)為，在海量AI生成內(nèi)容涌現(xiàn)的當(dāng)下，這一原則顯然已經(jīng)需要改進(jìn)。

　　其實(shí)，民法典中已有規(guī)定，網(wǎng)絡(luò)服務(wù)提供者知道或者應(yīng)當(dāng)知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。其中，“應(yīng)當(dāng)知道”四個(gè)字，意味著平臺(tái)要承擔(dān)起更多的注意義務(wù)，專家認(rèn)為，面對(duì)AI侵權(quán)視頻，網(wǎng)絡(luò)平臺(tái)應(yīng)該從事后刪除的被動(dòng)應(yīng)對(duì)，轉(zhuǎn)向事前識(shí)別和審核的主動(dòng)治理。

　　目前，各大傳播平臺(tái)已普遍采用一定的過濾和攔截技術(shù)，防止侵權(quán)視頻的傳播。在專家看來，相比傳播平臺(tái)，作為內(nèi)容提供者的AI視頻生成平臺(tái)，在侵權(quán)違法內(nèi)容的審查中，理應(yīng)承擔(dān)更高的責(zé)任。2023年8月開始施行的《生成式人工智能服務(wù)管理暫行辦法》中就明確，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

　　AI的不斷升級(jí)，也需要監(jiān)管的發(fā)力。本周四，國(guó)家網(wǎng)信辦表示，針對(duì)發(fā)布AI生成信息時(shí)不添加標(biāo)識(shí)、傳播虛假不實(shí)內(nèi)容等問題，已開展專項(xiàng)整治，已處置賬號(hào)1.3萬余個(gè)，清理違法違規(guī)信息54.3萬條，典型案例中，就包含了AI換臉假冒運(yùn)動(dòng)員、售賣AI生成的公眾人物“送祝?！币曨l等情形。

　　從文字、圖片、聲音，再到如今愈發(fā)逼真的視頻生成，AI技術(shù)的迭代速度，已經(jīng)超出了很多人的想象。但AI發(fā)展得越快，我們?cè)叫枰Ｏ聛硭伎家粋€(gè)根本問題：我們發(fā)展AI，究竟是為了什么？如果科技進(jìn)步帶來的是一個(gè)越來越難以分辨真與假、善與惡、美與丑的世界，這樣的“進(jìn)步”，是我們想要的嗎？技術(shù)的發(fā)展，永遠(yuǎn)都是一把雙刃劍，為了避免技術(shù)被濫用，相關(guān)的監(jiān)管和規(guī)則的制定，也必須加速跟上。

（文章來源：央視新聞）

(原標(biāo)題：一鍵生成“換臉”視頻作品 真假難辨的AI內(nèi)容該如何監(jiān)管？)

(責(zé)任編輯：38)