二是算法監(jiān)督檢查,?!兑?guī)定》中明確了網(wǎng)信、電信,、公安,、市場(chǎng)監(jiān)管等有關(guān)部門(mén)對(duì)算法推薦服務(wù)依法開(kāi)展算法監(jiān)督檢查工作的職責(zé),,并對(duì)發(fā)現(xiàn)的問(wèn)題及時(shí)提出整改意見(jiàn)并限期整改。一方面,,算法監(jiān)督檢查工作著眼于督促企業(yè)落實(shí)算法安全主體責(zé)任,、完善相關(guān)管理制度和技術(shù)措施、配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐,;另一方面,算法監(jiān)督檢查工作從網(wǎng)民反映強(qiáng)烈的互聯(lián)網(wǎng)信息服務(wù)算法亂象入手,,剖析算法亂象的成因,,現(xiàn)場(chǎng)檢查互聯(lián)網(wǎng)信息服務(wù)提供者是否存在涉算法違法違規(guī)行為,通過(guò)檢查督促企業(yè)提高算法安全風(fēng)險(xiǎn)意識(shí),,防范和排除潛在的算法安全風(fēng)險(xiǎn),。
三是算法風(fēng)險(xiǎn)監(jiān)測(cè)。算法風(fēng)險(xiǎn)監(jiān)測(cè)是一個(gè)常態(tài)化的工作,,包括企業(yè)開(kāi)展的算法風(fēng)險(xiǎn)監(jiān)測(cè),、公眾監(jiān)督舉報(bào)、監(jiān)管部門(mén)巡查等多個(gè)方面,。從算法安全監(jiān)管體系的角度來(lái)看,,算法風(fēng)險(xiǎn)監(jiān)測(cè)致力于對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景,、影響效果等開(kāi)展日常監(jiān)測(cè),,感知算法應(yīng)用帶來(lái)的網(wǎng)絡(luò)傳播趨勢(shì)、市場(chǎng)規(guī)則變化,、網(wǎng)民行為等信息,,預(yù)警算法應(yīng)用可能產(chǎn)生的不規(guī)范、不公平,、不公正等隱患,,發(fā)現(xiàn)算法應(yīng)用安全問(wèn)題,。從實(shí)施層面看,算法風(fēng)險(xiǎn)監(jiān)測(cè)包括人工巡查和技術(shù)巡查兩種方式,,發(fā)展趨勢(shì)是加強(qiáng)算法風(fēng)險(xiǎn)監(jiān)測(cè)的系統(tǒng)建設(shè),,持續(xù)提高互聯(lián)網(wǎng)信息服務(wù)算法運(yùn)行時(shí)風(fēng)險(xiǎn)監(jiān)測(cè)能力,增強(qiáng)技術(shù)治網(wǎng)水平,。
四是算法安全評(píng)估,。算法安全評(píng)估工作包括分析算法機(jī)制機(jī)理,評(píng)估算法設(shè)計(jì),、部署和使用等環(huán)節(jié)的缺陷和漏洞,,研判算法應(yīng)用過(guò)程中產(chǎn)生的安全風(fēng)險(xiǎn),提出針對(duì)性應(yīng)對(duì)措施,?!兑?guī)定》中明確的算法安全評(píng)估包括算法推薦服務(wù)提供者定期開(kāi)展的自評(píng)估和監(jiān)管部門(mén)對(duì)算法推薦服務(wù)依法開(kāi)展的安全評(píng)估兩個(gè)方面。對(duì)于互聯(lián)網(wǎng)企業(yè)而言,,算法安全評(píng)估是防范和應(yīng)對(duì)算法安全風(fēng)險(xiǎn)的重要舉措,,企業(yè)的自評(píng)估報(bào)告也是算法備案的重要組成部分。對(duì)于監(jiān)管部門(mén)而言,,算法安全評(píng)估是算法備案,、算法風(fēng)險(xiǎn)監(jiān)測(cè)和算法監(jiān)督檢查等工作的落腳點(diǎn)。