2024年04月09日
□新華社記者 顏之宏
僅需一張照片和一段逝者錄音，就能在數(shù)字世界中讓逝者“永生”……清明節(jié)前后，此類AI“復(fù)活”廣告宣傳在各大電商和社交平臺上日益活躍，甚至演變成一門新“生意”。
技術(shù)的發(fā)展為滿足人們的精神與情感需求提供了更多載體，與此同時，AI“復(fù)活”也引發(fā)強(qiáng)烈爭議。有專家提出，AI“復(fù)活”技術(shù)被濫用，或?qū)砬趾€人權(quán)益、數(shù)據(jù)隱私安全、傳播虛假信息等問題。
新“生意”背后的技術(shù)難度有多高
“大家好！其實(shí)我沒有真正離開這個世界……”不久前，已故藝人與公眾親切“打招呼”的視頻在社交平臺上引發(fā)網(wǎng)民關(guān)注，也讓AI“復(fù)活”這一話題進(jìn)入公眾視野。
利用AI技術(shù)將逝者“復(fù)活”，漸已發(fā)展成新“生意”。某電商平臺的數(shù)據(jù)顯示，在平臺經(jīng)營AI“復(fù)活”相關(guān)業(yè)務(wù)的商家達(dá)1900余個。
在一家電商平臺上，某商家稱，讓照片中的人物動起來20元，如果要配上“AI人聲”則需收費(fèi)50元。數(shù)據(jù)顯示，該商家已達(dá)成超800次交易。在該電商平臺上，“復(fù)活”親人的“商品”售價在幾十元至幾百元不等。
在短視頻平臺上，一些商家展示多位已故藝人的“復(fù)活”視頻，疑似為其“復(fù)活親人”業(yè)務(wù)引流。視頻中，從表情到說話口型，呈現(xiàn)效果參差不齊。
“有的‘復(fù)活’效果‘一眼假’，其實(shí)是過去‘照片活化’技術(shù)的延伸。有的‘復(fù)活’效果很逼真，多是采用‘深度合成’技術(shù)。”中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測評實(shí)驗室副主任何延哲認(rèn)為，當(dāng)前市面上絕大部分的AI“復(fù)活”并非剛出現(xiàn)的“新技術(shù)”。
一些商家已開始兜售“AI‘復(fù)活’技術(shù)變現(xiàn)指南”。在某二手交易平臺上，記者以19.9元的價格購買了一份“AI‘復(fù)活’技術(shù)教程”。除文字說明外，還有視頻講授如何制作“照片活化”的短視頻。
記者了解到，當(dāng)前網(wǎng)絡(luò)上的AI“復(fù)活”工具主要分為3種。
一種在手機(jī)應(yīng)用商店中即可下載獲得，只要一張正臉照片就能根據(jù)應(yīng)用中所提供的模板“活化”，可實(shí)現(xiàn)歌唱、“演電影”等場景轉(zhuǎn)化。
第二種是利用線上工具，由用戶提供正臉照片和相關(guān)音頻文件，經(jīng)過系統(tǒng)自動編輯后，實(shí)現(xiàn)照片中人物“開口說話”的效果，該工具需要用戶支付一定費(fèi)用。
第三種則是在開源社區(qū)中，由程序員編寫AI測試程序，在經(jīng)過相關(guān)語料訓(xùn)練后，將照片轉(zhuǎn)化為能簡單對話互動的“數(shù)字人”。此類程序門檻較高，需要一定計算機(jī)知識基礎(chǔ)。
引發(fā)法律與倫理多重爭議
AI“復(fù)活”的話題引發(fā)重重爭議。
有專家認(rèn)為，是否進(jìn)入公共場域，是判斷AI“復(fù)活”是否侵權(quán)的重要分界線。
世輝律師事務(wù)所合伙人王新銳表示，個人利用AI“復(fù)活”親人、緬懷紀(jì)念，且在必要范圍內(nèi)使用，無需過度干預(yù)。而如果在公共平臺擴(kuò)散傳播，用于市場盈利，是否侵犯他人或社會公共利益就要特別考量。
今年3月，一些已故藝人的近親屬已就相關(guān)“復(fù)活”視頻提出下架要求，并表示后續(xù)或?qū)⒉扇》墒侄尉S權(quán)。
“在未依法獲得逝者相關(guān)近親屬授權(quán)的情況下，擅自使用逝者面容將其‘復(fù)活’并進(jìn)行商業(yè)推廣，涉嫌侵害逝者的肖像和名譽(yù)等權(quán)利?！北本┛颠_(dá)（廈門）律師事務(wù)所高級合伙人張翼騰說，根據(jù)民法典相關(guān)規(guī)定，如未經(jīng)許可，擅自使用逝者的姓名和面容用于“復(fù)活”，逝者的近親屬有權(quán)依法請求行為人承擔(dān)民事責(zé)任。
一家社交平臺相關(guān)負(fù)責(zé)人表示，平臺認(rèn)為，未經(jīng)逝者生前同意或逝者家屬授權(quán)，他人不應(yīng)使用AI或任何技術(shù)手段“復(fù)活”逝者。該負(fù)責(zé)人稱，如果家屬投訴或侵權(quán)行為被查實(shí)，平臺將對侵權(quán)賬號作出處罰。
AI“復(fù)活”還涉及“數(shù)字遺產(chǎn)”問題。張翼騰說，逝者生前的個人信息、聊天記錄等“數(shù)字遺產(chǎn)”能否繼承，目前沒有明確法律規(guī)定。對于誰有權(quán)使用、如何避免不當(dāng)獲取、使用時應(yīng)遵循何種規(guī)范等問題，仍需進(jìn)一步明確。
此外，相關(guān)服務(wù)中，AI需要處理大量個人敏感數(shù)據(jù)，如面部表情、語音語調(diào)等；數(shù)據(jù)一旦被濫用或泄露，會對用戶隱私造成威脅。業(yè)內(nèi)人士建議，開發(fā)者和使用者都應(yīng)承擔(dān)責(zé)任，確保技術(shù)不會誤導(dǎo)用戶或影響人類情感；同時也要注意隱私保護(hù)和數(shù)據(jù)安全。
值得關(guān)注的是，AI“復(fù)活”技術(shù)使用不當(dāng)，也可能成為犯罪分子實(shí)施詐騙等犯罪活動的工具。
“服務(wù)提供者不會也沒有能力核實(shí)‘逝者’的身份信息，一些不法分子也可能以‘復(fù)活’之名行‘詐騙’之實(shí)?！敝袊茖W(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟說，面對新的電信網(wǎng)絡(luò)違法犯罪活動時，不熟悉網(wǎng)絡(luò)應(yīng)用的中老年群體更易成為受害者。
AI“復(fù)活”也可能衍生新型法律糾紛?！安慌懦腥藭鐰I‘復(fù)活’來偽造逝者遺囑或做出其他違背逝者意愿的事?！蓖跣落J提出，如有近親屬利用這項技術(shù)偽造音視頻遺囑，或?qū)⒑馁M(fèi)更多時間和人力成本來驗證真實(shí)性，甚至給司法鑒定帶來一定挑戰(zhàn)。
亟待完善法規(guī)厘清邊界
業(yè)內(nèi)專家認(rèn)為，技術(shù)創(chuàng)新永無止境，其應(yīng)用應(yīng)有道德邊界和法律規(guī)范。應(yīng)抓緊完善相關(guān)法律法規(guī)，警惕AI“復(fù)活”技術(shù)可能產(chǎn)生的社會風(fēng)險。
首先，AI“復(fù)活”技術(shù)的應(yīng)用，應(yīng)嚴(yán)格遵守知情同意原則，在網(wǎng)絡(luò)傳播過程中不侵犯他人利益。
2022年，國家網(wǎng)信辦等三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對深度偽造等新技術(shù)應(yīng)用進(jìn)行了規(guī)范。規(guī)定明確，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨(dú)同意。業(yè)內(nèi)人士認(rèn)為，如果被編輯人是逝者，理應(yīng)取得有義務(wù)保護(hù)逝者肖像權(quán)的親屬的同意。
其次，不少專家提出，AI“復(fù)活”產(chǎn)品應(yīng)恪守技術(shù)管理規(guī)范，加強(qiáng)內(nèi)容“標(biāo)識”。
左曉棟等專家表示，根據(jù)有關(guān)規(guī)定，相關(guān)技術(shù)服務(wù)提供者必須對“生成內(nèi)容”進(jìn)行“標(biāo)識”；在已有原則性要求的背景下，可出臺相關(guān)行業(yè)標(biāo)準(zhǔn)，要求相關(guān)技術(shù)服務(wù)提供者在生成式內(nèi)容中添加“水印”，防止不法分子借用該技術(shù)實(shí)施違法犯罪活動。
另外，業(yè)內(nèi)人士提出，在數(shù)據(jù)處理過程中，更要注重隱私保護(hù)和數(shù)據(jù)安全。
2023年，國家網(wǎng)信辦、國家發(fā)展改革委、教育部等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，進(jìn)一步明確了生成式人工智能的行業(yè)發(fā)展規(guī)范。辦法規(guī)定，提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個人信息的，依法承擔(dān)個人信息處理者責(zé)任，履行個人信息保護(hù)義務(wù)。
專家還建議，要進(jìn)一步落實(shí)相關(guān)平臺的主體責(zé)任，處置借AI“復(fù)活”概念不當(dāng)牟利的不法商家。
“不能放任AI‘復(fù)活’變成一門沒有規(guī)矩和底線的‘生意’，尤其要保護(hù)對新技術(shù)不敏感的中老年用戶群體?！敝袊▽W(xué)會消費(fèi)者權(quán)益保護(hù)法研究會副秘書長陳音江建議，有關(guān)平臺要幫助中老年用戶群體辨別深度偽造技術(shù)，取締不當(dāng)?shù)美倪`法違規(guī)商家，盡可能減少技術(shù)濫用帶來的社會風(fēng)險。
法律界人士建議，有關(guān)部門對AI“復(fù)活”的需求和其衍生的產(chǎn)業(yè)鏈要保持關(guān)注、合理辨析，在現(xiàn)行法律法規(guī)基礎(chǔ)上做好數(shù)據(jù)保護(hù)、涉詐犯罪風(fēng)險預(yù)防等方面的監(jiān)管。
此外，普通群眾在面對諸如AI“復(fù)活”等新技術(shù)時，要提高警惕，一方面要避免掉入不法商家借新技術(shù)之名設(shè)下的虛假宣傳之坑，另一方面也要提防詐騙者運(yùn)用深度偽造技術(shù)喬裝“親友”實(shí)施電詐行為。（新華社福州4月7日電）
