算法治理第一關(guān)：算法備案監(jiān)管現(xiàn)狀與實務(wù)解讀（上）

算法治理第一關(guān)：算法備案監(jiān)管現(xiàn)狀與實務(wù)解讀（上）

6月20日，國家互聯(lián)網(wǎng)信息辦公室（以下簡稱“網(wǎng)信辦”）發(fā)布了關(guān)于深度合成服務(wù)算法備案信息的公告，并公布了第一批深度合成服務(wù)算法的備案清單，其中百度、騰訊、訊飛等一眾大廠均在清單之列。隨著算法備案逐步進入合規(guī)視野，算法備案的監(jiān)管現(xiàn)狀、算法備案規(guī)范適用主體以及備案的具體流程等問題亟待梳理。本文擬分上下兩篇，上篇主要解讀算法備案的整體監(jiān)管狀況、實務(wù)流程，下篇則針對“具有輿論屬性或者社會動員能力”的內(nèi)涵展開分析與探討。

01 算法備案的監(jiān)管現(xiàn)狀

2020年12月，中共中央印發(fā)了《法治社會建設(shè)實施綱要（2020-2025年）》，提出依法治理網(wǎng)絡(luò)空間，完善法律制度，制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。2021年9月，網(wǎng)信辦聯(lián)合科學(xué)技術(shù)部等九個部門發(fā)布了《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，明確加強互聯(lián)網(wǎng)信息服務(wù)算法安全治理的總體目標(biāo)為：利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。其中監(jiān)管體系完善意指要創(chuàng)新性地構(gòu)建形成算法安全風(fēng)險監(jiān)測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規(guī)行為處置等多維一體的監(jiān)管體系。算法備案管理作為算法監(jiān)管體系中的重要一環(huán)被首次提出。

此后，網(wǎng)信辦聯(lián)合工信部等部門先后就算法推薦類服務(wù)和深度合成類服務(wù)分別出臺管理規(guī)定，即《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法推薦規(guī)定》）與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《深度合成規(guī)定》），要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者、深度合成服務(wù)提供者和技術(shù)支持者履行算法備案義務(wù)。2023年7月13日出臺的《生成式人工智能服務(wù)管理暫行辦法》將于8月15日正式施行，其中再次強調(diào)提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的主體應(yīng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。在實踐方面，自去年2月全國統(tǒng)一的“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”（https://beian.cac.gov.cn/#/index）面世以來，陸續(xù)有5批算法提供者、技術(shù)支持者完成了算法備案。

根據(jù)《算法推薦規(guī)定》，若違反規(guī)定中相關(guān)條款，未履行算法備案等義務(wù)的，可能需要承擔(dān)的法律責(zé)任如下：

警告、通報批評，責(zé)令限期改正；

拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬元以上十萬元以下罰款

治安管理處罰

相關(guān)刑事責(zé)任

02 算法備案的主體及義務(wù)

根據(jù)《算法推薦規(guī)定》《深度合成規(guī)定》以及《生成式人工智能服務(wù)暫行管理辦法》的相關(guān)規(guī)定，下述主體需要按照相應(yīng)規(guī)定的要求履行算法備案義務(wù)。

由上表可見，相關(guān)規(guī)定對于備案主體的界定均為“具有輿論屬性或者社會動員能力”，但并未明確其概念內(nèi)涵。根據(jù)2018年11月30日施行的《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》（以下簡稱《安全評估規(guī)定》）第二條規(guī)定，“具有輿論屬性或社會動員能力”的互聯(lián)網(wǎng)信息服務(wù)包括以下情形：

（一）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能；

（二）開辦提供公眾輿論表達渠道或者具有發(fā)動社會公眾從事特定活動能力的其他互聯(lián)網(wǎng)信息服務(wù)。

盡管《安全評估規(guī)定》對“具有輿論屬性或者社會動員能力”的概念予以解釋，但在實踐中，仍然存在著諸多情形無法明確判斷為是否“具有輿論屬性或者社會動員能力”，我們會在下篇結(jié)合已經(jīng)完成備案的算法具體展開分析。

為保障算法的有效治理以保護用戶權(quán)益、凈化網(wǎng)絡(luò)環(huán)境，促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，前述算法備案主體需履行一系列的合規(guī)義務(wù)，以滿足符合監(jiān)管規(guī)范、防范化解安全風(fēng)險的需要，部分列舉如下：

建立健全算法機制機理審核制度

定期審核評估算法模型

建立健全信息發(fā)布審核制度

進行科技倫理審查

建立數(shù)據(jù)安全保護制度

03 算法備案的內(nèi)容

目前備案系統(tǒng)對于算法備案的內(nèi)容填寫主要包含主體信息、算法信息和產(chǎn)品及功能信息三個板塊。

（一）主體信息填報

企業(yè)主要填寫的內(nèi)容包括主體基本信息、證件信息、法定代表人信息、算法安全責(zé)任人信息，并填寫《算法備案承諾書》與《落實算法安全主體責(zé)任基本情況》。其中，《落實算法安全主體責(zé)任基本情況》要求主體就自身的算法安全專職機構(gòu)設(shè)置和算法安全管理制度兩方面進行具體闡述。算法服務(wù)提供者應(yīng)設(shè)置算法安全專職機構(gòu)并明確其職責(zé)分工、責(zé)任范圍等事項以確保其切實落地。算法安全管理制度建設(shè)則至少應(yīng)當(dāng)包括算法安全自評估制度、算法安全監(jiān)測制度、算法違法違規(guī)處置制度、算法安全事件應(yīng)急處置制度、科技倫理審查制度等。

（二）算法信息填報

算法信息填報包括兩個步驟：一是填寫算法基礎(chǔ)屬性信息；二是填寫算法詳細(xì)屬性信息。

算法基礎(chǔ)屬性信息部分，填報人員應(yīng)根據(jù)實際情況填寫算法的類型、名稱等基本信息，若算法為“生成合成（深度合成）”類，則還需選擇“服務(wù)提供者”或“服務(wù)技術(shù)支持者”填報角色。同時，填報人員需按照模板內(nèi)容填寫并上傳《算法安全自評估報告》《擬公示內(nèi)容》等附件。

算法詳細(xì)屬性信息部分，填報人員則需要根據(jù)實際情況填寫算法數(shù)據(jù)、算法模型、算法策略和算法風(fēng)險與防范機制等信息。

（三）產(chǎn)品及功能信息（或技術(shù)服務(wù)信息）填報

在產(chǎn)品及功能信息或填報技術(shù)服務(wù)方式時，“服務(wù)提供者”角色的填報人員需填報產(chǎn)品及功能信息，“服務(wù)技術(shù)支持者”角色的填報人員需填報技術(shù)服務(wù)方式。

“服務(wù)提供者”需要填寫產(chǎn)品信息、產(chǎn)品的功能訪問路徑以及路徑下的特定功能信息等內(nèi)容。

“服務(wù)技術(shù)支持者”角色的填報人員需根據(jù)實際情況填寫當(dāng)前備案算法的技術(shù)服務(wù)方式信息，包括技術(shù)服務(wù)名稱、技術(shù)訪問方式、技術(shù)服務(wù)對象、技術(shù)服務(wù)頻度等。

04 算法備案的具體流程

《算法推薦規(guī)定》第二十四、二十五條對于備案流程做出了較為詳細(xì)的規(guī)定，具體流程如下圖所示。

深度合成類算法的備案流程則以《算法推薦規(guī)定》為參考，在具體細(xì)節(jié)方面并沒有進行過多贅述，僅就步驟層面作出簡要示例，如下圖所示。

在明確算法備案的整體監(jiān)管狀況和實務(wù)流程之后，企業(yè)可能對于自身是否屬于“具有輿論屬性或者社會動員能力”的相關(guān)算法服務(wù)提供者感到疑惑，下篇我們將基于當(dāng)前已經(jīng)完成備案的主體情況分析，為企業(yè)備案提供參考。

作者：王渝偉、周丹、陸釔潼