近日,知名模特葉凱薇發(fā)布視頻稱,,有人利用AI換臉技術(shù)制作淫穢視頻并廣泛傳播,,給她帶來了嚴(yán)重困擾。她已收集證據(jù)并向警方報(bào)案,。經(jīng)鑒定,,該視頻確系偽造,警方正在進(jìn)行進(jìn)一步調(diào)查,。
近年來,,AI的內(nèi)容生成能力越來越強(qiáng)大,,能夠創(chuàng)造出文本、圖像,、音頻等多種形式的內(nèi)容,,為人們的工作和生活帶來諸多便利。然而,,缺乏有效規(guī)范的情況下,,技術(shù)濫用問題日益突出。此前曾有“地震被壓廢墟下戴帽小孩”事件被證實(shí)是AI生成,,現(xiàn)在又發(fā)生了葉凱薇遭遇AI換臉制作淫穢視頻的事件,,這些案例不斷提醒我們技術(shù)濫用的危害。
將普通人變成色情視頻主角的行為不僅侵犯了其人格權(quán),,也對社會秩序造成破壞,。根據(jù)《民法典》規(guī)定,任何組織不得利用信息技術(shù)偽造他人肖像,。但面對AI深度偽造技術(shù),,現(xiàn)行法律在技術(shù)認(rèn)定、證據(jù)保全,、責(zé)任追溯等方面存在滯后現(xiàn)象,,因此完善AI立法刻不容緩,。
隨著AI技術(shù)的快速發(fā)展,,越來越多的案例表明,治理技術(shù)濫用問題需要強(qiáng)有力的制度約束,。在今年的全國兩會上,,合肥市律師協(xié)會會長周世虹建議完善生成式人工智能立法,提出將倫理和道德原則納入法律框架,,引導(dǎo)企業(yè)和開發(fā)者在技術(shù)開發(fā)和應(yīng)用過程中遵循相關(guān)規(guī)范,,并禁止生成違背倫理道德的內(nèi)容。
完善AI立法迫在眉睫,,只有明確人工智能技術(shù)在研發(fā),、使用和治理等方面的法律準(zhǔn)則,才能發(fā)揮法治對AI健康發(fā)展的引領(lǐng)和規(guī)范作用,,遏制技術(shù)濫用,,實(shí)現(xiàn)AI與人類社會的良好互動(dòng)。