如今,,從智能家居的語(yǔ)音助手到自動(dòng)駕駛汽車,,從高效能的數(shù)據(jù)分析到醫(yī)療領(lǐng)域的精準(zhǔn)診斷,,AI正以前所未有的方式改變著世界。然而,,隨著AI技術(shù)的不斷發(fā)展和應(yīng)用,,其雙刃劍的特性也逐漸顯現(xiàn)。其中,,深度偽造技術(shù)就帶來(lái)了不小的隱患,。
所謂的深度偽造技術(shù),是一種利用人工智能算法生成高度逼真但并非真實(shí)的視頻或圖像的技術(shù),。通過深度學(xué)習(xí)算法,,深度偽造技術(shù)能夠分析大量的真實(shí)視頻或圖像數(shù)據(jù),從而學(xué)習(xí)到特定人物或場(chǎng)景的特征,,并生成與之極為相似的虛假內(nèi)容。這種技術(shù)的出現(xiàn),,使得造假變得更加容易和難以辨別,,給社會(huì)帶來(lái)了諸多安全隱患。
今年以來(lái)AI深度偽造假冒名人的事件時(shí)有發(fā)生,,不久前,,就有人利用AI技術(shù),深度偽造了張文宏醫(yī)生的臉部和聲音進(jìn)行直播帶貨,。在這段視頻中,,被合成的人像反復(fù)介紹一種產(chǎn)品,聲音也很像張文宏本人,,商品中的蛋白棒產(chǎn)品已經(jīng)售賣了1200多件,。目前該賬號(hào)已經(jīng)搜索不到。而張文宏醫(yī)生本人對(duì)有人利用AI模仿自己帶貨的行為也非常氣憤,。
張文宏醫(yī)生:這個(gè)事情已經(jīng)有幾個(gè)星期了,,一開始我也是投訴,。特別是對(duì)AI不是很熟悉的年紀(jì)比較大的市民,他們很容易就會(huì)相信,。
用AI制作,,假冒名人欺騙網(wǎng)民的現(xiàn)象,張文宏事件并非個(gè)例,。今年國(guó)慶期間就有人用企業(yè)家雷軍的聲音和頭像制作了眾多惡搞視頻,。
也有人AI制作了劉德華的聲音為自己增加流量。該視頻出現(xiàn)后,,劉德華電影公司連續(xù)發(fā)布兩則聲明,,提醒各方人士注意,,避免落入偽造劉德華聲音的AI語(yǔ)音合成技術(shù)騙局,。