構(gòu)建互聯(lián)網(wǎng)信息服務(wù)算法安全監(jiān)管體系

目前，人類社會(huì)的信息化進(jìn)程正在快速?gòu)臄?shù)字化、網(wǎng)絡(luò)化進(jìn)入智能化階段。隨著人工智能、大數(shù)據(jù)等新型信息技術(shù)的發(fā)展，算法廣泛應(yīng)用于互聯(lián)網(wǎng)信息服務(wù)，為用戶提供個(gè)性化、精準(zhǔn)化、智能化的信息服務(wù)。與此同時(shí)，算法的不合理應(yīng)用也影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來(lái)了嚴(yán)峻挑戰(zhàn)。

為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），為互聯(lián)網(wǎng)信息服務(wù)算法綜合治理提供了重要法治保障?！兑?guī)定》的出臺(tái)，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時(shí)應(yīng)勢(shì)之舉，具有很強(qiáng)的探索性和前瞻性，也標(biāo)志著我國(guó)網(wǎng)絡(luò)空間治理邁入新的發(fā)展階段。同時(shí)，我們需要清晰地認(rèn)識(shí)到算法綜合治理的復(fù)雜性和長(zhǎng)期性，明確算法治理的邊界，完善算法安全監(jiān)管體系，推進(jìn)算法自主創(chuàng)新，促進(jìn)算法健康、有序、繁榮發(fā)展。

“算法”本身是一個(gè)技術(shù)概念，顧名思義是指“計(jì)算的方法”，體現(xiàn)為一系列解決問(wèn)題的步驟或計(jì)算機(jī)指令。隨著電子計(jì)算機(jī)的普及，“算法”一詞逐漸為人們所熟知，算法在人們的最初印象中只是在“不折不扣”地執(zhí)行人的指令，對(duì)算法的探討也主要停留在其時(shí)間復(fù)雜度和空間復(fù)雜度等技術(shù)層面，算法安全風(fēng)險(xiǎn)尚未引起廣泛關(guān)注。后來(lái)，隨著人工智能、大數(shù)據(jù)等新型信息技術(shù)快速發(fā)展，算法的內(nèi)涵逐漸演變?yōu)?ldquo;用數(shù)據(jù)訓(xùn)練的模型”，算法不再一成不變，而是在不斷被投喂數(shù)據(jù)的過(guò)程中持續(xù)進(jìn)化。算法在變得越來(lái)越“智能”的同時(shí)，也給人們帶來(lái)了日益強(qiáng)烈的“不適應(yīng)感”，算法安全風(fēng)險(xiǎn)逐步進(jìn)入公眾視野，引起越來(lái)越多的關(guān)注。本質(zhì)上講，智能和風(fēng)險(xiǎn)是算法的一體兩面，這也是技術(shù)從誕生到應(yīng)用的必經(jīng)階段?？傮w來(lái)看，算法安全風(fēng)險(xiǎn)既包括算法自身存在的算法漏洞、算法脆弱性、算法黑箱等“技術(shù)風(fēng)險(xiǎn)”，也包括算法不合理應(yīng)用帶來(lái)的算法偏見(jiàn)、算法霸凌、算法共謀等“社會(huì)風(fēng)險(xiǎn)”。

互聯(lián)網(wǎng)信息服務(wù)算法綜合治理著眼于管理好使用好發(fā)展好算法應(yīng)用，引導(dǎo)算法應(yīng)用公平公正、透明可釋，充分保障網(wǎng)民合法權(quán)益。為此，《規(guī)定》首先從算法分級(jí)分類管理的角度出發(fā)，有效識(shí)別出互聯(lián)網(wǎng)信息服務(wù)中的高風(fēng)險(xiǎn)類算法，重點(diǎn)關(guān)注生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等五大類互聯(lián)網(wǎng)信息服務(wù)中廣泛使用的算法。進(jìn)而，《規(guī)定》從信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)兩個(gè)方面明確了算法推薦服務(wù)提供者的主體責(zé)任，在鼓勵(lì)充分發(fā)揮算法服務(wù)正能量傳播作用的同時(shí)，重點(diǎn)明確了算法應(yīng)用應(yīng)當(dāng)遵循的準(zhǔn)則和不得存在的行為，最大限度地保護(hù)網(wǎng)民在使用算法推薦服務(wù)時(shí)的知情權(quán)、選擇權(quán)以及未成年人、老年人、勞動(dòng)者、消費(fèi)者等群體的合法權(quán)益?？傊?，互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的著眼點(diǎn)不僅是算法自身的技術(shù)風(fēng)險(xiǎn)，還在于防范算法不合理應(yīng)用影響正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序。

互聯(lián)網(wǎng)信息服務(wù)算法綜合治理著眼于標(biāo)本兼治，關(guān)鍵是構(gòu)建完善算法安全監(jiān)管體系。國(guó)家互聯(lián)網(wǎng)信息辦公室等九部委印發(fā)的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》，明確了算法安全監(jiān)管體系，規(guī)定了算法備案、算法監(jiān)督檢查、算法風(fēng)險(xiǎn)監(jiān)測(cè)、算法安全評(píng)估等四項(xiàng)舉措。其中，算法備案是算法安全監(jiān)管的抓手和基石；算法監(jiān)督檢查和算法風(fēng)險(xiǎn)監(jiān)測(cè)相輔相成、互為補(bǔ)充，檢查是現(xiàn)場(chǎng)監(jiān)測(cè)，監(jiān)測(cè)是線上檢查；算法安全評(píng)估是出口，是算法安全監(jiān)管的落腳點(diǎn)。算法自身的復(fù)雜性和算法安全風(fēng)險(xiǎn)的隱蔽性，給算法安全監(jiān)管體系各項(xiàng)舉措的實(shí)施提出了挑戰(zhàn)。從實(shí)施角度，這四項(xiàng)舉措的落實(shí)關(guān)鍵在于：

一是算法備案工作?！兑?guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)履行算法備案手續(xù)，并在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)。算法備案是算法安全監(jiān)管體系的重要一環(huán)，推薦算法備案工作首先需要明確算法備案的范圍，即哪些算法需要進(jìn)行備案、算法的哪些信息需要備案。從備案“登記備查”的目的來(lái)看，備案信息應(yīng)當(dāng)涵蓋算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制，包括算法所使用的數(shù)據(jù)描述、基礎(chǔ)模型、應(yīng)用場(chǎng)景、服務(wù)形式、人工干預(yù)等。從備案實(shí)施層面來(lái)看，算法備案工作應(yīng)當(dāng)以用戶可以感知到的互聯(lián)網(wǎng)信息服務(wù)或功能為入口，對(duì)支撐服務(wù)或功能的算法進(jìn)行備案；算法推薦服務(wù)提供者作為備案算法的責(zé)任主體，負(fù)責(zé)完成算法備案，并保證備案信息的真實(shí)性。算法種類繁多、形式多樣，給算法備案工作帶來(lái)了諸多困難，推進(jìn)備案工作的關(guān)鍵是將算法和服務(wù)作為有機(jī)整體來(lái)看，“以服務(wù)為入口、以算法為載體”，綜合考慮備案工作的有效性和實(shí)施難度，穩(wěn)步推進(jìn)算法備案工作。

二是算法監(jiān)督檢查。《規(guī)定》中明確了網(wǎng)信、電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門對(duì)算法推薦服務(wù)依法開(kāi)展算法監(jiān)督檢查工作的職責(zé)，并對(duì)發(fā)現(xiàn)的問(wèn)題及時(shí)提出整改意見(jiàn)并限期整改。一方面，算法監(jiān)督檢查工作著眼于督促企業(yè)落實(shí)算法安全主體責(zé)任、完善相關(guān)管理制度和技術(shù)措施、配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐；另一方面，算法監(jiān)督檢查工作從網(wǎng)民反映強(qiáng)烈的互聯(lián)網(wǎng)信息服務(wù)算法亂象入手，剖析算法亂象的成因，現(xiàn)場(chǎng)檢查互聯(lián)網(wǎng)信息服務(wù)提供者是否存在涉算法違法違規(guī)行為，通過(guò)檢查督促企業(yè)提高算法安全風(fēng)險(xiǎn)意識(shí)，防范和排除潛在的算法安全風(fēng)險(xiǎn)。

三是算法風(fēng)險(xiǎn)監(jiān)測(cè)。算法風(fēng)險(xiǎn)監(jiān)測(cè)是一個(gè)常態(tài)化的工作，包括企業(yè)開(kāi)展的算法風(fēng)險(xiǎn)監(jiān)測(cè)、公眾監(jiān)督舉報(bào)、監(jiān)管部門巡查等多個(gè)方面。從算法安全監(jiān)管體系的角度來(lái)看，算法風(fēng)險(xiǎn)監(jiān)測(cè)致力于對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、影響效果等開(kāi)展日常監(jiān)測(cè)，感知算法應(yīng)用帶來(lái)的網(wǎng)絡(luò)傳播趨勢(shì)、市場(chǎng)規(guī)則變化、網(wǎng)民行為等信息，預(yù)警算法應(yīng)用可能產(chǎn)生的不規(guī)范、不公平、不公正等隱患，發(fā)現(xiàn)算法應(yīng)用安全問(wèn)題。從實(shí)施層面看，算法風(fēng)險(xiǎn)監(jiān)測(cè)包括人工巡查和技術(shù)巡查兩種方式，發(fā)展趨勢(shì)是加強(qiáng)算法風(fēng)險(xiǎn)監(jiān)測(cè)的系統(tǒng)建設(shè)，持續(xù)提高互聯(lián)網(wǎng)信息服務(wù)算法運(yùn)行時(shí)風(fēng)險(xiǎn)監(jiān)測(cè)能力，增強(qiáng)技術(shù)治網(wǎng)水平。

四是算法安全評(píng)估。算法安全評(píng)估工作包括分析算法機(jī)制機(jī)理，評(píng)估算法設(shè)計(jì)、部署和使用等環(huán)節(jié)的缺陷和漏洞，研判算法應(yīng)用過(guò)程中產(chǎn)生的安全風(fēng)險(xiǎn)，提出針對(duì)性應(yīng)對(duì)措施?！兑?guī)定》中明確的算法安全評(píng)估包括算法推薦服務(wù)提供者定期開(kāi)展的自評(píng)估和監(jiān)管部門對(duì)算法推薦服務(wù)依法開(kāi)展的安全評(píng)估兩個(gè)方面。對(duì)于互聯(lián)網(wǎng)企業(yè)而言，算法安全評(píng)估是防范和應(yīng)對(duì)算法安全風(fēng)險(xiǎn)的重要舉措，企業(yè)的自評(píng)估報(bào)告也是算法備案的重要組成部分。對(duì)于監(jiān)管部門而言，算法安全評(píng)估是算法備案、算法風(fēng)險(xiǎn)監(jiān)測(cè)和算法監(jiān)督檢查等工作的落腳點(diǎn)。

構(gòu)建互聯(lián)網(wǎng)信息服務(wù)算法安全監(jiān)管體系需要在技術(shù)支撐和能力建設(shè)方面進(jìn)一步加強(qiáng)。國(guó)家科研機(jī)構(gòu)應(yīng)加大算法安全方面的科技攻關(guān)，建設(shè)算法安全評(píng)估和風(fēng)險(xiǎn)監(jiān)測(cè)的科研創(chuàng)新平臺(tái)，探索共建新型研發(fā)機(jī)構(gòu)，形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量。組織建立專業(yè)技術(shù)評(píng)估隊(duì)伍，研究算法安全內(nèi)生機(jī)理、算法安全風(fēng)險(xiǎn)評(píng)估、算法全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)。加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè)，完善算法安全治理人才隊(duì)伍培養(yǎng)體系，提升算法自主創(chuàng)新和安全可控能力。推進(jìn)算法安全的科學(xué)普及工作，提升企業(yè)和社會(huì)公眾的算法安全風(fēng)險(xiǎn)意識(shí)，引導(dǎo)社會(huì)各界積極參與社會(huì)監(jiān)督，共同推進(jìn)算法綜合治理。(作者：沈華偉，中國(guó)科學(xué)院計(jì)算技術(shù)研究所)