分享縮略圖

分享到:
鏈接已復制
首頁> 智庫中國>

高艷東:防范AI復活法律風險,引導數(shù)字人安全發(fā)展

2024-03-26 13:30

來源:環(huán)球時報

分享到:
鏈接已復制
字體:


文 | 高艷東 浙江省新型重點專業(yè)智庫浙江數(shù)字化發(fā)展與治理研究中心研究員

近日,一些網(wǎng)絡博主使用人工智能(AI)技術(shù)“復活”已故明星引發(fā)廣泛關(guān)注。不僅李玟、張國榮、喬任梁等明星被“數(shù)字還原”的視頻瘋傳,還有人借機推廣收費定制服務。目前,AI復活還只是用圖像和音頻技術(shù)合成,類似于視頻數(shù)字人。隨著生成式人工智能的發(fā)展,出現(xiàn)如電影中可以互動、具有一定獨立意識的智能數(shù)字人的未來也在變成現(xiàn)實。

從前景來講,AI復活具有廣泛的應用價值:可以讓喪親的家屬寄托哀思,可以讓粉絲感受偶像的陪伴,可以讓英雄鼓勵年輕人前行。但任何技術(shù)都有兩面性,一旦濫用,輕則侵權(quán),重則可能涉嫌違法犯罪。確保AI復活不侵害個人權(quán)益、不侵犯公共利益應是相關(guān)立法的底線。

第一,AI復活可能侵犯死者家屬的權(quán)益。一方面,雖然死者不是民事主體,不享有民法意義上的肖像權(quán),但這并不意味著其肖像可以被他人隨意使用?!睹穹ǖ洹返?94條規(guī)定:“死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的,其配偶、子女、父母有權(quán)依法請求行為人承擔民事責任。”因此,死者的肖像仍然受到法律保護。另一方面,AI復活使用的是深度合成技術(shù),《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第14條規(guī)定:“深度合成服務提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,并取得其單獨同意?!币虼耍摲帐褂谜咝枞〉帽痪庉嬋说膯为毻?,在被編輯人是死者時,應取得其近親屬的同意。雖然一些博主AI復活明星是為了獲得流量和關(guān)注,并未直接收費,但考慮到互聯(lián)網(wǎng)的特殊性,流量即價值,博主可通過流量獲得廣告等收益,所以“賺流量”也屬于商業(yè)使用。

第二,除了侵犯死者親屬的權(quán)益之外,AI復活也存在許多亟待解決的法律問題。一方面,AI復活可能導致社會、法律關(guān)系的混亂。工業(yè)時代的法律是以自然人為核心建立起來的,而數(shù)字人的出現(xiàn),尤其未來的智能數(shù)字人,將讓法律面臨“自然人+數(shù)字人”的雙主體困惑。例如,自然人的遺囑是把房產(chǎn)留給大兒子,而數(shù)字人與小兒子的感情密切,想把房產(chǎn)留給小兒子,如何協(xié)調(diào)兩者間的關(guān)系是一大問題。此外,數(shù)字人創(chuàng)作的作品權(quán)益由誰享有?在近親屬死亡后,如何解決數(shù)字人的權(quán)益問題?這些目前都是法律空白。另一方面,AI復活可能引發(fā)違法犯罪,損害公共利益。某種程度上,AI復活是深度偽造技術(shù)的應用,而深度偽造技術(shù)已經(jīng)被用于電信網(wǎng)絡詐騙,犯罪者同樣可能利用AI復活對尚不知情的公眾進行詐騙。同時,智能數(shù)字人若在網(wǎng)絡空間實施其他違法犯罪行為,如發(fā)布虛假信息、傳播恐怖主義、傳授犯罪方法,在管理者已經(jīng)死亡時,如何對數(shù)字人進行追責?此外,如果AI復活了秦檜、希特勒等有爭議的歷史人物,對大眾的情感可能也是一種傷害。

第三,對于AI復活,法律應采用“不管私用、嚴管公用”的思路。從人情角度考慮,法律上不對私人領域的AI復活加以干涉,即便近親屬為了緬懷親人而AI復活死者,只要限制在個人用途,不進入公共網(wǎng)絡空間,法律就無須干涉。而在公共網(wǎng)絡空間,法律就必須嚴格防止AI復活的潛在風險。具體而言,一是應根據(jù)復活對象設置不同的審查標準,例如,對于AI復活英雄、烈士,應當采用事前特別審批制,嚴格管控使用用途、開發(fā)者的主體資質(zhì)。而對于復活明星,則可以采用事后追責的模式,根據(jù)危害后果對相關(guān)主體進行追責。二是應建立強制標注制度。為了防止AI復活以假亂真,對于AI生成物,法律應強制要求開發(fā)者增加顯著的數(shù)字水印,做到可以快速識別數(shù)字人。而使用、管理數(shù)字人的平臺,必須對數(shù)字人形象作出特別標注,讓用戶清楚知道其屬性。三是建立數(shù)字人銷毀制度。數(shù)字人應當有明確的管理者,在開發(fā)者死亡且缺乏其他管理人時,應建立一套數(shù)字人銷毀機制或保存機制,以免數(shù)字人成為失控的“數(shù)字幽靈”。

總之,AI復活對現(xiàn)有法律體系帶來的挑戰(zhàn)是巨大的。鼓勵技術(shù)發(fā)展的同時防范技術(shù)風險,是法律的永恒主題。未來立法應當平衡技術(shù)創(chuàng)新與風險防范之間的關(guān)系,既不能因其存在風險而一禁了之,也不能無視其潛在的風險。只有采用包容審慎的監(jiān)管思路,使AI復活技術(shù)既能滿足個人的情感需要,又不損害公共利益,才能讓技術(shù)成為推動數(shù)字經(jīng)濟發(fā)展與社會和諧的正能量。


【責任編輯:申罡】
返回頂部