（香港文匯報(bào)記者 俞晝 兩會報(bào)道）AI話題的火爆延續(xù)到了今年的全國兩會上，代表委員們在為AI如何賦能各行各業(yè)建言獻(xiàn)策的同時(shí)，對由AI引發(fā)的新問題也提出了許多審慎的思考。香港文匯報(bào)關(guān)注並訪問與會代表、委員，就AI大熱背後引發(fā)的隱憂提出思考與建議。
全國人大代表、小米集團(tuán)董事長雷軍在今年兩會上提出五份建議，其中《關(guān)於加強(qiáng)「AI換臉擬聲」違法侵權(quán)重災(zāi)區(qū)治理的建議》引發(fā)業(yè)界強(qiáng)烈共鳴。這份凝結(jié)著企業(yè)家切膚之痛的建議，源於去年國慶期間引爆社交媒體的「AI雷軍追罵事件」——當(dāng)技術(shù)狂歡撞上法律真空，一場關(guān)於人工智能倫理的全民討論就此展開。
人工智能立法已是全球共識。中國於2023年8月15日起施行《生成式人工智能服務(wù)管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等單行法的人工智能規(guī)範(fàn)。剛剛發(fā)布的最高人民法院工作報(bào)告也指出，將依法妥善審理涉人工智能糾紛案件，支持人工智能依法應(yīng)用；懲治利用人工智能技術(shù)侵權(quán)行為，促進(jìn)規(guī)範(fàn)有序發(fā)展。
伴隨著人工智能技術(shù)的飛躍式提升，文、視、圖、聲等的合成和製作門檻大幅降低，AI生成的內(nèi)容「李逵」「李鬼」難辨，不僅誤導(dǎo)消費(fèi)者，也損害了被侵權(quán)公民的合法權(quán)益。為此，多位代表委員在全國兩會期間提出建議，亟須通過完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺責(zé)任等手段防範(fàn)AI造假侵權(quán)。
2024年國慶長假期間，短視頻平臺湧現(xiàn)大量「雷軍」發(fā)言視頻。AI生成的「雷軍」不僅怒斥調(diào)休制度、吐槽遊戲氪金，甚至出現(xiàn)「用小米SU7撞人」等荒誕言論，相關(guān)話題瀏覽量突破1.2億次。儘管大多數(shù)網(wǎng)友將其視為娛樂，但仍有大量用戶通過官方渠道求證視頻真實(shí)性。對此，雷軍本人在社交媒體平臺回覆了三個(gè)憤怒表情，表達(dá)自己的態(tài)度。
「AI換臉擬聲」濫用頻現(xiàn)
「人工智能深度合成技術(shù)的快速發(fā)展，推動了『AI換臉擬聲』在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會喜聞樂見、傳播力強(qiáng)、易成熱點(diǎn)的技術(shù)應(yīng)用?！估总娫掍h一轉(zhuǎn)，「但同時(shí)也看到，『AI換臉擬聲』濫用成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來社會治理等風(fēng)險(xiǎn)?！?/p>
在雷軍看來，AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來較大挑戰(zhàn)。為此，他建議：加快單行法立法進(jìn)程，在安全與發(fā)展並重的基礎(chǔ)上提升立法位階；強(qiáng)化行業(yè)自律共治，壓實(shí)平臺企業(yè)等各方的責(zé)任和義務(wù)；加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。
兩會期間，全國政協(xié)委員、內(nèi)地知名演員靳東也回應(yīng)了AI換臉導(dǎo)致的詐騙問題。「一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣，希望能建立更好的規(guī)則?！闺S後，「靳東兩會建議AI換臉立法」話題一度登頂熱搜。
「必須承認(rèn)，當(dāng)下國內(nèi)針對AI的法律法規(guī)不是很健全?！谷珖舜蟠?、四川省律師協(xié)會會長李世亮坦言，AI技術(shù)的迅猛發(fā)展在為生產(chǎn)生活帶來便利的同時(shí)，也引發(fā)了一系列法律問題。事實(shí)上，在2024年的全國兩會期間，李世亮就曾對AI引發(fā)的摩擦表達(dá)過看法。不過，彼時(shí)他仍對此持保守意見。當(dāng)時(shí)他表示，專門的AI立法「還不用太著急，應(yīng)該給予市場一定的發(fā)展空間」。
一年過去了，李世亮的觀點(diǎn)產(chǎn)生了變化。「AI的發(fā)展速度遠(yuǎn)超人類想像。」李世亮舉例道，人工智能正快速融入各行各業(yè)，如養(yǎng)老機(jī)器人、醫(yī)療系統(tǒng)等等?！高@些都是法律行為，法律行為會產(chǎn)生法律後果。產(chǎn)生了法律後果以後，責(zé)任該如何分擔(dān)？這必須要有法律規(guī)範(fàn)?！估钍懒琳J(rèn)為，數(shù)據(jù)的合規(guī)性、著作權(quán)的歸屬、責(zé)任的承擔(dān)……一系列新問題都迫切需要立法支持。
可從生成式AI切入立法
「就目前的情況來看，要制定一部既要解決當(dāng)下問題，又能充分考慮長遠(yuǎn)的人工智能法難度極大?！谷珖f(xié)委員、中華全國律師協(xié)會監(jiān)事長呂紅兵坦言，「AI技術(shù)有著複雜性、隱蔽性等特徵，在查處違法違規(guī)問題時(shí)，執(zhí)法機(jī)構(gòu)面臨調(diào)查難、取證難、定性難等諸多難題?！挂虼?，呂紅兵建議，可以從生成式AI這一社會最關(guān)心最現(xiàn)實(shí)的問題切入，重點(diǎn)加快出臺相關(guān)立法。
「其中，AI生成內(nèi)容過程中的著作權(quán)保護(hù)是個(gè)核心又敏感的問題，」呂紅兵進(jìn)一步闡釋道，這個(gè)問題包含兩個(gè)方面：輸入階段，使用語料是否構(gòu)成侵權(quán)；產(chǎn)出階段，涉及生成作品性質(zhì)和作者資格，即是否足以確權(quán)及維權(quán)。「從國際慣例看，輸入端使用作品相對寬鬆，但前提是文本挖掘和數(shù)據(jù)訓(xùn)練使用為非商業(yè)性，一旦進(jìn)入商業(yè)領(lǐng)域則版權(quán)應(yīng)受到嚴(yán)格保護(hù)。」
此外，從發(fā)展的角度來看，規(guī)定輸入階段數(shù)據(jù)必須得到許可，「實(shí)踐中做不到，也不利於研發(fā)?！挂虼?，呂紅兵建議：應(yīng)當(dāng)按照更好發(fā)揮數(shù)據(jù)要素作用的立法本意，淡化所有權(quán)、強(qiáng)化使用權(quán)，明確使用原則，在涉及商業(yè)使用時(shí)，要求技術(shù)開發(fā)者支付報(bào)酬，由其與權(quán)利人組織協(xié)商解決。
【特稿】《紅樓夢》成打戲 「魔改」侵蝕經(jīng)典
《甄嬛傳》變身「槍戰(zhàn)片」，《紅樓夢》充斥「武打戲」，孫悟空騎著摩托車揚(yáng)長而去……打開短視頻平臺，大量被AI「魔改」的經(jīng)典劇目片段點(diǎn)擊率超過百萬?！敢婚_始我還覺得挺搞笑的，刷到就點(diǎn)進(jìn)去看，後面越看越不是滋味?！苟桃曨l用戶萬女士告訴香港文匯報(bào)記者，「在平臺的不斷推送下，我現(xiàn)在滿腦子都是舉著手槍的安陵容和喝著紅酒的諸葛亮，都快忘記他們之前的形象了?！?/p>
萬女士的困惑在全國兩會期間也引發(fā)了文藝界代表委員們的熱議。全國政協(xié)委員、中國國家話劇院一級演員張凱麗指出，AI「魔改」視頻創(chuàng)作者未經(jīng)授權(quán)便使用原影視作品的素材，對經(jīng)典角色進(jìn)行惡搞、醜化，篡改劇情，傳播低俗、暴力等不良信息，既侵犯了著作權(quán)人的合法權(quán)益，也侵犯了演員的肖像權(quán)和名譽(yù)權(quán)。
記者注意到，去年12月7日，國家廣播電視總局網(wǎng)絡(luò)視聽司發(fā)布《管理提示（ AI魔改）》，指出近期AI「魔改」視頻以假亂真、「魔改」經(jīng)典現(xiàn)象頻發(fā)，要求短視頻平臺進(jìn)行排查清理。張凱麗表示，這是抵制亂象、保護(hù)經(jīng)典，引導(dǎo)AI技術(shù)合規(guī)創(chuàng)新的重要舉措，助力促進(jìn)網(wǎng)絡(luò)視聽產(chǎn)業(yè)健康發(fā)展。
籲健全AI影視審核機(jī)制
「應(yīng)明確哪些情形下AI創(chuàng)作構(gòu)成侵權(quán)與違法，為打擊侵權(quán)行為提供更為明確清晰的法律依據(jù)，從而切實(shí)維護(hù)著作權(quán)人的合法權(quán)益。」張凱麗坦言，這需要進(jìn)一步完善法律法規(guī)，有效遏制侵權(quán)和違規(guī)行為?！赋藙?chuàng)作者需要審視自己的行為，平臺也應(yīng)建立健全AI影視審核機(jī)制，對涉及版權(quán)問題、違背公序良俗、惡意篡改經(jīng)典等內(nèi)容進(jìn)行嚴(yán)格把控?！?/p>
「AI技術(shù)本應(yīng)是驅(qū)動文化創(chuàng)新的積極力量，而非侵蝕經(jīng)典的 『邪風(fēng)』，」張凱麗建議，相關(guān)部門應(yīng)牽頭成立影視短視頻行業(yè)協(xié)會，制定AI影視短視頻創(chuàng)作的行業(yè)規(guī)範(fàn)與自律公約，引導(dǎo)從業(yè)者自覺遵守法律法規(guī)與道德規(guī)範(fàn)?！钙诖⑵鹨?guī)範(fàn)有序的影視短視頻創(chuàng)作和傳播環(huán)境，激發(fā)創(chuàng)作者的創(chuàng)作積極性，提高作品質(zhì)量，促進(jìn)影視行業(yè)的高質(zhì)量發(fā)展?！?/p>
【記者手記】啟動加速度 更需安全帶
（香港文匯報(bào)記者 王玨 兩會報(bào)道）連日來，全國政協(xié)委員、內(nèi)地知名演員靳東兩會倡議AI換臉立法的話題一直佔(zhàn)據(jù)社交平臺的熱搜，並在網(wǎng)上引發(fā)熱烈討論，反映出公眾對飛速發(fā)展中的新興技術(shù)被濫用的深切憂慮。AI生成的假視頻、假聲音（如模仿明星帶貨、偽造專家發(fā)言），不僅損害了名人的個(gè)人形象和聲譽(yù)，也讓用戶尤其是老年人真假難辨，加劇社會信任危機(jī)。此外，AI訓(xùn)練依賴海量數(shù)據(jù)，讓信息洩露成了新隱患；它還善於一本正經(jīng)地胡說八道，生成的虛假新聞和深度偽造內(nèi)容在網(wǎng)絡(luò)上廣泛傳播，擾亂了公眾的信息判斷力和社會秩序。
須加強(qiáng)監(jiān)管 方長治久安
如何用人類智慧駕馭人工智能，趨利避害地使用技術(shù)，是今年兩會的熱點(diǎn)話題，更是AI時(shí)代的重要課題。全國政協(xié)委員周鴻禕警告，大模型一旦胡亂編造，AI「幻覺」可能帶來嚴(yán)重後果；全國人大代表李東生建議強(qiáng)制標(biāo)識AI生成內(nèi)容；全國政協(xié)委員呂紅兵則倡議，嚴(yán)懲利用AI深度合成技術(shù)的網(wǎng)絡(luò)暴力。還有不少代表委員強(qiáng)調(diào)，要長治久安，必須在立法層面加強(qiáng)監(jiān)管。全國人大代表雷軍建議，加快單行法立法進(jìn)程，在安全與發(fā)展並重的基礎(chǔ)上提升立法位階；強(qiáng)化行業(yè)自律共治，壓實(shí)平臺企業(yè)等各方的責(zé)任和義務(wù)；加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。全國人大代表陳達(dá)也表示，通過立法明確AI技術(shù)的使用範(fàn)圍和條件，可以引導(dǎo)企業(yè)和社會各界在合法合規(guī)的框架內(nèi)發(fā)展AI技術(shù)，推動「科技向善」，讓技術(shù)更好地服務(wù)於社會。
杭州互聯(lián)網(wǎng)法院首例判決：平臺幫助侵權(quán)也算侵權(quán)
在AI技術(shù)加持下，人人都能成為「藝術(shù)家」。只需輸入幾個(gè)關(guān)鍵詞，AI就能在幾秒內(nèi)生成精美圖片。這種創(chuàng)作方式的低門檻和高效率，使得AI生成內(nèi)容呈現(xiàn)爆發(fā)式增長。但狂歡背後，版權(quán)問題日益凸顯。AI模型訓(xùn)練需要海量數(shù)據(jù)，這些數(shù)據(jù)中難免包含受版權(quán)保護(hù)的作品，而當(dāng)AI「學(xué)習(xí)」這些作品後生成的新內(nèi)容，就有可能帶有原作的獨(dú)創(chuàng)性特徵，進(jìn)而構(gòu)成侵權(quán)。
當(dāng)AI生成內(nèi)容觸及法律紅線時(shí)，平臺應(yīng)當(dāng)承擔(dān)何種責(zé)任？近日，杭州互聯(lián)網(wǎng)法院對全國首例生成式人工智能平臺侵害信息網(wǎng)絡(luò)傳播權(quán)案（即「奧特曼杭州案」）作出一審判決，認(rèn)定被告杭州某智能科技公司構(gòu)成幫助侵權(quán)，判決其停止侵權(quán)並賠償經(jīng)濟(jì)損失及合理費(fèi)用3萬元。
據(jù)了解，在該案件中，原告?zhèn)S奧特曼系列形象的知識產(chǎn)權(quán)權(quán)利人，被告運(yùn)營某AI平臺，該平臺提供Checkpoint基礎(chǔ)模型和Lo-RA模型，支持圖生圖、模型在線訓(xùn)練等諸多功能，平臺用戶可以通過上傳奧特曼圖片，選擇平臺基礎(chǔ)模型，調(diào)整參數(shù)進(jìn)行訓(xùn)練後生成與奧特曼形象實(shí)質(zhì)性相似的作品並進(jìn)行下載、發(fā)布或分享鏈接。
在一審判決中，杭州市互聯(lián)網(wǎng)法院認(rèn)為，被告公司雖然提供生成式人工智能服務(wù)，但輸入端侵權(quán)訓(xùn)練素材由用戶上傳，被告公司並沒有與用戶共同提供侵權(quán)作品，不構(gòu)成直接侵權(quán)。綜合考量被告公司提供生成式人工智能服務(wù)性質(zhì)、人工智能技術(shù)發(fā)展水平、可能引發(fā)的侵權(quán)後果、平臺盈利模式等因素，認(rèn)定被告公司構(gòu)成侵害信息網(wǎng)絡(luò)傳播權(quán)的幫助侵權(quán)行為。
評論