近日,,知名模特葉凱薇發(fā)布視頻表示,有人利用AI換臉技術(shù)制作淫穢視頻,,并廣泛傳播,,給她帶來了嚴重困擾。她已經(jīng)收集證據(jù)并向警方報案,。經(jīng)鑒定,,該視頻確系偽造,警方正在進一步調(diào)查,。
近年來,,AI技術(shù)在內(nèi)容生成方面的能力日益強大,能夠創(chuàng)造文本,、圖像和音頻等多種形式的內(nèi)容,,為人們的工作和生活帶來便利。然而,,如果缺乏有效規(guī)范,,這種技術(shù)可能會被濫用。此前曾有“地震被壓廢墟下戴帽小孩”系A(chǔ)I生成的案例,,如今又出現(xiàn)了葉凱薇遭遇AI換臉制作淫穢視頻的情況,,這些事件不斷提醒人們警惕技術(shù)濫用的風(fēng)險。
用AI將普通人變成色情視頻的主角,,不僅侵犯了個人的人格權(quán),,也破壞了社會秩序。根據(jù)《民法典》的規(guī)定,,任何組織不得利用信息技術(shù)偽造他人肖像,。但面對AI深度偽造技術(shù),現(xiàn)行法律在技術(shù)認定,、證據(jù)保全和責(zé)任追溯等方面已顯得滯后,,因此完善AI立法變得尤為緊迫。
在AI技術(shù)快速發(fā)展的背景下,,越來越多的案例表明,,治理技術(shù)濫用問題需要強有力的制度約束,。在今年全國兩會期間,全國政協(xié)委員,、合肥市律師協(xié)會會長周世虹建議完善生成式人工智能立法,,提出將倫理和道德原則納入法律框架,引導(dǎo)企業(yè)和開發(fā)者在技術(shù)開發(fā)和應(yīng)用過程中遵循倫理和道德規(guī)范,,禁止生成違背倫理道德的內(nèi)容。
完善AI立法刻不容緩,,只有明確人工智能技術(shù)在研發(fā),、使用和治理等方面的法律準則,才能發(fā)揮法治對AI健康發(fā)展的引領(lǐng)和規(guī)范作用,,遏制技術(shù)濫用,,實現(xiàn)AI與人類社會的良好互動。