給“算法”立規(guī)矩！3月1日起,，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實(shí)施,。保護(hù)個(gè)人權(quán)益,，維護(hù)國家安全。算法不能變“算計(jì)”,！《新聞1+1》連線中國信息安全研究院副院長(zhǎng)左曉棟,，共同關(guān)注：算法，須依法,！

△本期完整視頻

規(guī)范算法,，聚焦五類應(yīng)用！

如何理解這次實(shí)施的規(guī)定,，要從“生成合成類,、個(gè)性化推送類、排序精選類,、檢索過濾類,、調(diào)度決策類”這五類應(yīng)用去規(guī)范算法的“黑箱”操作,？

中國信息安全研究院副院長(zhǎng)左曉棟：因?yàn)檫@五類應(yīng)用有兩個(gè)特點(diǎn)。①大多數(shù)用戶使用互聯(lián)網(wǎng),，每天都會(huì)經(jīng)歷的這些應(yīng)用,。比如我們?cè)L問的信息，新聞信息是算法推薦的,，我們使用搜索引擎,，搜索引擎呈現(xiàn)的搜索結(jié)果是算法推薦的等等。②因?yàn)榍趾駛€(gè)人權(quán)益乃至危害國家安全的事件在這些領(lǐng)域多發(fā),。因此要規(guī)范算法的使用,，聚焦這五類應(yīng)用，才能很好地從根本上維護(hù)公民在網(wǎng)絡(luò)空間的合法權(quán)益,，維護(hù)國家安全和公共利益。

規(guī)范算法推薦,，如何保障用戶的知情權(quán)和選擇權(quán),？

中國信息安全研究院副院長(zhǎng)左曉棟：算法規(guī)定文件要保證用戶的知情權(quán)和選擇權(quán)。但是在實(shí)踐中,，的確平臺(tái)擁有者有可能會(huì)規(guī)避這些要求,，比如應(yīng)當(dāng)給予用戶提供不使用算法推薦的服務(wù)，或者給用戶提供關(guān)閉算法推薦服務(wù)的選項(xiàng)等,。如果用戶提出了這樣的申請(qǐng),，服務(wù)提供者可能就退出服務(wù)，用戶不能用了,，這個(gè)是很有可能發(fā)生的,。所以首先要在文件的層面上作出嚴(yán)格的規(guī)定，同時(shí)后續(xù)還要嚴(yán)格地執(zhí)法,，對(duì)于違反政策規(guī)定的行為要進(jìn)行責(zé)任追究,。

避免算法變算計(jì)，平臺(tái)企業(yè)的開放,、透明是關(guān)鍵

中國信息安全研究院副院長(zhǎng)左曉棟：有的人說算法是個(gè)“黑箱”問題,，這的確給治理帶來了很大的挑戰(zhàn)。因此在3月1日實(shí)施的這份文件,，包括此前的一些法律規(guī)定中,，都明確了算法一定要做到開放，一定要做到透明,。包括給平臺(tái)企業(yè)提出的一些要求,，也是要讓他們落實(shí)這方面的法律的責(zé)任義務(wù)。

對(duì)“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”進(jìn)行監(jiān)督管理

中國信息安全研究院副院長(zhǎng)左曉棟：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中特別對(duì)“具有輿論屬性和社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者”作出了要求,，主要體現(xiàn)在兩個(gè)方面,。

①履行備案手續(xù)。3月1日是這個(gè)文件正式實(shí)施的日子，在2月28日國家網(wǎng)信部門已經(jīng)正式公布了備案的網(wǎng)址,。

②開展安全評(píng)估,。2018年國家網(wǎng)信部門聯(lián)合有關(guān)部委就已經(jīng)發(fā)布《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》，算法推薦服務(wù)提供者自然屬于這類,，應(yīng)該由此進(jìn)行管理,，所以要進(jìn)行安全評(píng)估。

對(duì)算法推薦管理規(guī)定施行的期待

中國信息安全研究院副院長(zhǎng)左曉棟：算法推薦是一個(gè)綜合性,、全局性問題,，還涉及平臺(tái)治理、數(shù)據(jù)安全保護(hù)等多方面,。因此3月1日這份文件的實(shí)施,，的確是一個(gè)重大進(jìn)步，但這也僅僅是一個(gè)開頭,，今后還要繼續(xù)加強(qiáng)工作,。比如大家現(xiàn)在反映比較多的，互聯(lián)網(wǎng)企業(yè)制定的平臺(tái)規(guī)則,，實(shí)施算法是不是應(yīng)當(dāng)征得社會(huì)同意,？在2021年11月國家網(wǎng)信部門向社會(huì)公開意見的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》中就提到平臺(tái)運(yùn)營者應(yīng)當(dāng)對(duì)平臺(tái)規(guī)則、隱私政策和算法征求社會(huì)意見,，如果是特大型的互聯(lián)網(wǎng)平臺(tái),，那么所涉及的規(guī)則、隱私政策和算法還應(yīng)當(dāng)征得主管部門批準(zhǔn),，這些動(dòng)作都體現(xiàn)了主管部門在解決算法推薦問題上所作的積極的努力,，這些工作還會(huì)持續(xù)下去?？偟膩碇v,，通過一系列的努力，一段時(shí)間內(nèi)不懈地治理,，期待這份規(guī)定能夠切實(shí)保證公民在網(wǎng)絡(luò)中的合法權(quán)益,，積極有效的維護(hù)國家安全和公共利益。

如何看待算法誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)的危害性,？

沉迷網(wǎng)絡(luò)并不是一個(gè)“新鮮詞”,，但當(dāng)算法加入，進(jìn)行誘導(dǎo),，后果會(huì)怎樣,？

中國信息安全研究院副院長(zhǎng)左曉棟：算法推薦有一個(gè)特點(diǎn)，就是你喜歡什么,，它給你推送什么,。青少年往往涉世未深,，而且自制力不夠，如果服務(wù)提供者專門針對(duì)青少年的個(gè)人喜好,，甚至是一些不健康的喜好,，專門推送定制信息，比如某種題材的小說或者游戲,，就更容易使青少年沉溺其中不能自拔,，后果很嚴(yán)重。

監(jiān)管算法,，是否會(huì)影響技術(shù)發(fā)展,？

中國信息安全研究院副院長(zhǎng)左曉棟：首先需要明確一點(diǎn)，技術(shù)的發(fā)展是中立的,，也就是算法推薦有它存在的必要性,。比如說我們?cè)诰W(wǎng)上買衣服的時(shí)候，穿上衣服效果怎么樣,，通過虛擬試衣,，提供一張照片，形象效果就可以展示出來了,，這是好的應(yīng)用。但是也的確存在著一些濫用的情況,，有些對(duì)社會(huì)危害還是比較大,，所以要讓算法運(yùn)行在法律的軌道上，我們鼓勵(lì)它正確,、合理地向上向善應(yīng)用,，而需要規(guī)范監(jiān)管的是不當(dāng)?shù)膽?yīng)用，這個(gè)工作必須要進(jìn)行下去,。

如何理解算法作惡可能會(huì)影響到國家安全,？

中國信息安全研究院副院長(zhǎng)左曉棟：因?yàn)樗惴ㄓ幸环N功能，就是社會(huì)動(dòng)員能力,。如果服務(wù)提供者針對(duì)一批特定的人,，專門定制一批特定的政治性信息定向推送，從而影響他們的政治判斷,，甚至去動(dòng)員他們從事某種社會(huì)活動(dòng),，這個(gè)后果就可能比較嚴(yán)重。因?yàn)闀?huì)嚴(yán)重影響這些人客觀正確的判斷和認(rèn)知,。事實(shí)上,，在世界很多地方的政治選舉中，算法推薦都有它的影子,，甚至有一些算法推薦的應(yīng)用導(dǎo)致政治選舉結(jié)果被直接改變了,。

全球首批針對(duì)算法進(jìn)行的綜合性立法

中國信息安全研究院副院長(zhǎng)左曉棟：算法推薦中的“黑箱”算計(jì)問題,，是一個(gè)全球各國面臨的共同問題，而且是一個(gè)發(fā)展中的問題,，各國都在采取措施加以解決,。從全球范圍看，我們國家制定這樣一個(gè)算法管理的規(guī)定,，是處于全球首批,。制定這個(gè)規(guī)定是基于我們國家互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展的實(shí)際情況，同時(shí)也基于我們國家對(duì)互聯(lián)網(wǎng)治理的具體經(jīng)驗(yàn),，而這些產(chǎn)業(yè)發(fā)展的情況,，這些治理經(jīng)驗(yàn)往往體現(xiàn)了中國特色，所以制定這個(gè)規(guī)定,，實(shí)際上是我們國家對(duì)全球互聯(lián)網(wǎng)治理,、網(wǎng)絡(luò)空間治理所作的中國貢獻(xiàn)，體現(xiàn)了中國智慧,。