構建互聯網信息服務算法安全監管體系

2022-03-01 16:29:18來源：新華網

目前，人類社會的信息化進程正在快速從數字化、網絡化進入智能化階段。隨著人工智能、大數據等新型信息技術的發展，算法廣泛應用于互聯網信息服務，為用戶提供個性化、精準化、智能化的信息服務。與此同時，算法的不合理應用也影響了正常的傳播秩序、市場秩序和社會秩序，給維護意識形態安全、社會公平公正和網民合法權益帶來了嚴峻挑戰。

為規范互聯網信息服務算法應用，國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合發布《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》），為互聯網信息服務算法綜合治理提供了重要法治保障。《規定》的出臺，是進一步提升網絡綜合治理能力的應時應勢之舉，具有很強的探索性和前瞻性，也標志著我國網絡空間治理邁入新的發展階段。同時，我們需要清晰地認識到算法綜合治理的復雜性和長期性，明確算法治理的邊界，完善算法安全監管體系，推進算法自主創新，促進算法健康、有序、繁榮發展。

“算法”本身是一個技術概念，顧名思義是指“計算的方法”，體現為一系列解決問題的步驟或計算機指令。隨著電子計算機的普及，“算法”一詞逐漸為人們所熟知，算法在人們的最初印象中只是在“不折不扣”地執行人的指令，對算法的探討也主要停留在其時間復雜度和空間復雜度等技術層面，算法安全風險尚未引起廣泛關注。后來，隨著人工智能、大數據等新型信息技術快速發展，算法的內涵逐漸演變為“用數據訓練的模型”，算法不再一成不變，而是在不斷被投喂數據的過程中持續進化。算法在變得越來越“智能”的同時，也給人們帶來了日益強烈的“不適應感”，算法安全風險逐步進入公眾視野，引起越來越多的關注。本質上講，智能和風險是算法的一體兩面，這也是技術從誕生到應用的必經階段。總體來看，算法安全風險既包括算法自身存在的算法漏洞、算法脆弱性、算法黑箱等“技術風險”，也包括算法不合理應用帶來的算法偏見、算法霸凌、算法共謀等“社會風險”。

互聯網信息服務算法綜合治理著眼于管理好使用好發展好算法應用，引導算法應用公平公正、透明可釋，充分保障網民合法權益。為此，《規定》首先從算法分級分類管理的角度出發，有效識別出互聯網信息服務中的高風險類算法，重點關注生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等五大類互聯網信息服務中廣泛使用的算法。進而，《規定》從信息服務規范和用戶權益保護兩個方面明確了算法推薦服務提供者的主體責任，在鼓勵充分發揮算法服務正能量傳播作用的同時，重點明確了算法應用應當遵循的準則和不得存在的行為，最大限度地保護網民在使用算法推薦服務時的知情權、選擇權以及未成年人、老年人、勞動者、消費者等群體的合法權益。總之，互聯網信息服務算法綜合治理的著眼點不僅是算法自身的技術風險，還在于防范算法不合理應用影響正常的傳播秩序、市場秩序和社會秩序。

互聯網信息服務算法綜合治理著眼于標本兼治，關鍵是構建完善算法安全監管體系。國家互聯網信息辦公室等九部委印發的《關于加強互聯網信息服務算法綜合治理的指導意見》，明確了算法安全監管體系，規定了算法備案、算法監督檢查、算法風險監測、算法安全評估等四項舉措。其中，算法備案是算法安全監管的抓手和基石；算法監督檢查和算法風險監測相輔相成、互為補充，檢查是現場監測，監測是線上檢查；算法安全評估是出口，是算法安全監管的落腳點。算法自身的復雜性和算法安全風險的隱蔽性，給算法安全監管體系各項舉措的實施提出了挑戰。從實施角度，這四項舉措的落實關鍵在于：

一是算法備案工作。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者通過互聯網信息服務算法備案系統履行算法備案手續，并在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號。算法備案是算法安全監管體系的重要一環，推薦算法備案工作首先需要明確算法備案的范圍，即哪些算法需要進行備案、算法的哪些信息需要備案。從備案“登記備查”的目的來看，備案信息應當涵蓋算法推薦服務的基本原理、目的意圖和主要運行機制，包括算法所使用的數據描述、基礎模型、應用場景、服務形式、人工干預等。從備案實施層面來看，算法備案工作應當以用戶可以感知到的互聯網信息服務或功能為入口，對支撐服務或功能的算法進行備案；算法推薦服務提供者作為備案算法的責任主體，負責完成算法備案，并保證備案信息的真實性。算法種類繁多、形式多樣，給算法備案工作帶來了諸多困難，推進備案工作的關鍵是將算法和服務作為有機整體來看，“以服務為入口、以算法為載體”，綜合考慮備案工作的有效性和實施難度，穩步推進算法備案工作。

二是算法監督檢查。《規定》中明確了網信、電信、公安、市場監管等有關部門對算法推薦服務依法開展算法監督檢查工作的職責，并對發現的問題及時提出整改意見并限期整改。一方面，算法監督檢查工作著眼于督促企業落實算法安全主體責任、完善相關管理制度和技術措施、配備與算法推薦服務規模相適應的專業人員和技術支撐；另一方面，算法監督檢查工作從網民反映強烈的互聯網信息服務算法亂象入手，剖析算法亂象的成因，現場檢查互聯網信息服務提供者是否存在涉算法違法違規行為，通過檢查督促企業提高算法安全風險意識，防范和排除潛在的算法安全風險。

三是算法風險監測。算法風險監測是一個常態化的工作，包括企業開展的算法風險監測、公眾監督舉報、監管部門巡查等多個方面。從算法安全監管體系的角度來看，算法風險監測致力于對算法的數據使用、應用場景、影響效果等開展日常監測，感知算法應用帶來的網絡傳播趨勢、市場規則變化、網民行為等信息，預警算法應用可能產生的不規范、不公平、不公正等隱患，發現算法應用安全問題。從實施層面看，算法風險監測包括人工巡查和技術巡查兩種方式，發展趨勢是加強算法風險監測的系統建設，持續提高互聯網信息服務算法運行時風險監測能力，增強技術治網水平。

四是算法安全評估。算法安全評估工作包括分析算法機制機理，評估算法設計、部署和使用等環節的缺陷和漏洞，研判算法應用過程中產生的安全風險，提出針對性應對措施。《規定》中明確的算法安全評估包括算法推薦服務提供者定期開展的自評估和監管部門對算法推薦服務依法開展的安全評估兩個方面。對于互聯網企業而言，算法安全評估是防范和應對算法安全風險的重要舉措，企業的自評估報告也是算法備案的重要組成部分。對于監管部門而言，算法安全評估是算法備案、算法風險監測和算法監督檢查等工作的落腳點。

構建互聯網信息服務算法安全監管體系需要在技術支撐和能力建設方面進一步加強。國家科研機構應加大算法安全方面的科技攻關，建設算法安全評估和風險監測的科研創新平臺，探索共建新型研發機構，形成引領算法安全基礎研究的戰略力量。組織建立專業技術評估隊伍，研究算法安全內生機理、算法安全風險評估、算法全生命周期安全監測等關鍵技術。加強基礎科研設施建設，完善算法安全治理人才隊伍培養體系，提升算法自主創新和安全可控能力。推進算法安全的科學普及工作，提升企業和社會公眾的算法安全風險意識，引導社會各界積極參與社會監督，共同推進算法綜合治理。

標簽：

構建互聯網信息服務算法安全監管體系

相關閱讀

精彩推薦

閱讀排行

相關詞

推薦閱讀