為正確看待該事件,沈陽(yáng)建議提升公眾科普水平,,澄清技術(shù)與意識(shí)的區(qū)別,;推動(dòng)行業(yè)建立合規(guī)測(cè)試基準(zhǔn),公開(kāi)失敗案例,;引導(dǎo)監(jiān)管關(guān)注“可驗(yàn)證關(guān)閉能力”,,作為未來(lái)高風(fēng)險(xiǎn)模型的核心合規(guī)標(biāo)準(zhǔn)。對(duì)于今后的高能力AI系統(tǒng),,必須通過(guò)硬件層,、策略層、系統(tǒng)層等各維度進(jìn)行監(jiān)管,。
劉偉強(qiáng)調(diào),,評(píng)估這一事件的意義,需要從技術(shù)和社會(huì)兩個(gè)角度進(jìn)行考量,。從技術(shù)角度看,,它揭示了當(dāng)前AI訓(xùn)練機(jī)制的潛在缺陷,提醒我們?cè)谠O(shè)計(jì)AI系統(tǒng)時(shí)必須更加注重安全性和可控性,,避免模型行為偏離人類預(yù)期,。而從社會(huì)角度看,這一事件引發(fā)了公眾對(duì)AI自主性和安全性的廣泛關(guān)注,促使AI行業(yè)重新審視技術(shù)路線和安全機(jī)制,,為未來(lái)AI的安全發(fā)展提供了重要的反思和改進(jìn)方向,。