“過去一年,至少有幾十個冒用我聲音、形象,講述虛假內(nèi)容的視頻,有的我自己看了都覺得很逼真?!?月9日,十四屆全國人大三次會議天津代表團舉行小組會議,中國工程院院士張伯禮代表在發(fā)言時提到,當下利用人工智能生成虛假內(nèi)容的違法犯罪事件越來越多,他自己深受其害。
“我投訴反饋過多次,都得不到有效解決?!睆埐Y呼吁,必須采取有力措施對此類違法事件予以遏制。
中招的不只是張伯禮。今年兩會期間,小米集團創(chuàng)始人雷軍雷軍代表也提到,去年國慶長假期間,短視頻平臺上曾出現(xiàn)大量以人工智能技術模擬其聲音進行配音的惡搞視頻,效果以假亂真,對網(wǎng)友造成了誤導。
人工智能深度合成技術的快速發(fā)展,顯著降低了生成虛假內(nèi)容的門檻和成本,“AI換臉擬聲”已成為互聯(lián)網(wǎng)違法侵權行為的重災區(qū)。
打開社交平臺,搜索“AI換臉”“AI擬聲”等關鍵詞,可以檢索到許多提供此類技術的網(wǎng)站平臺,以及可本地化運行的合成軟件。許多產(chǎn)品的運營主體設在境外,難以實施有效管控。
中國政法大學數(shù)據(jù)法治研究院教授張凌寒認為,總的來看,我國目前已出臺《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法規(guī),對內(nèi)容造假者和傳播平臺的法律責任都有明確規(guī)定?!暗悄壳靶枰趫?zhí)行層面進一步加強落實,尤其是多部門聯(lián)合協(xié)同執(zhí)法?!彼f。
作為當下內(nèi)容傳播的主要渠道,互聯(lián)網(wǎng)平臺承擔著對信息真實性把關的責任。張凌寒認為,針對人工智能生成的虛假內(nèi)容泛濫的現(xiàn)象,下游的傳播平臺應當主動采取措施減少違法信息的流通,例如建立辟謠機制和舉報機制,針對在平臺中傳播的虛假內(nèi)容及時停止傳輸,并對相關主體加以限制和處罰。
當下,生成式人工智能技術已進入快速迭代階段,技術樣態(tài)不斷更新、應用形式魚龍混雜,對規(guī)范治理提出了更高要求。
西南政法大學教授付子堂代表表示,人工智能等技術加速突破,必將深刻改變現(xiàn)行的生產(chǎn)生活方式,而目前相關的法律制度仍存在一定滯后性。例如,生成式人工智能等新興領域存在規(guī)范真空,數(shù)據(jù)隱私保護、算法責任認定等方面存在法律適用問題,并且在個人數(shù)據(jù)信息保護、算力治理等方面存在多頭管理問題,監(jiān)管協(xié)同性不足。
他建議,要著手構建階梯式法律框架,夯實制度根基,可細分制定人工智能法等專門法律,并完善能與個人信息保護法等上位法相銜接的、對深度合成內(nèi)容進行有效規(guī)范的配套條例。
圍繞人工智能立法,張凌寒認為要重點關注虛假內(nèi)容生成,強化深度合成技術的前期治理,如要求技術與服務提供者在相關內(nèi)容中履行添加可識別水印或有效警示信息的義務;完善深度合成內(nèi)容的法律擔責鏈條,改進監(jiān)管框架,實施全鏈條治理;升級深度合成的監(jiān)管工具,在繼續(xù)使用與改進傳統(tǒng)算法監(jiān)管工具的同時,也要不斷更新新的技術支撐與保障,應對不斷變化的技術發(fā)展趨勢。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2024 中國高新網(wǎng)chinahightech.comAll Rights Reserved.京ICP備14033264號-5
電信與信息服務業(yè)務經(jīng)營許可證060344號主辦單位:《中國高新技術產(chǎn)業(yè)導報》社有限責任公司