《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》解讀
當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革蓬勃發(fā)展，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進(jìn)，算法正成為網(wǎng)絡(luò)平臺(tái)的底層架構(gòu)。在繁榮數(shù)字經(jīng)濟(jì)、推動(dòng)社會(huì)發(fā)展的同時(shí)，算法操縱、算法歧視、算法黑箱等一系列問(wèn)題凸顯，對(duì)算法治理越來(lái)越必要，也越來(lái)越重要。2022年1月4日，國(guó)家網(wǎng)信辦會(huì)同工信部、公安部、市場(chǎng)監(jiān)管總局出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱“《管理規(guī)定》”)，對(duì)算法推薦服務(wù)做出全面規(guī)范，科學(xué)構(gòu)建網(wǎng)絡(luò)平臺(tái)問(wèn)責(zé)體系，成為我國(guó)乃至全球第一部對(duì)算法進(jìn)行全面、系統(tǒng)規(guī)范的立法。
總體來(lái)看，《管理規(guī)定》是在數(shù)字化變革時(shí)代對(duì)算法治理的有效回應(yīng)，在立法目的上，旨在實(shí)現(xiàn)算法技術(shù)創(chuàng)新與用戶權(quán)益保障之間的良性動(dòng)態(tài)平衡。在監(jiān)管機(jī)制上，逐步由行業(yè)分散監(jiān)管轉(zhuǎn)向整體統(tǒng)籌協(xié)調(diào)。在治理理念上，體現(xiàn)了綜合治理和精細(xì)治理并進(jìn)的思路。
一、順應(yīng)國(guó)際算法治理趨勢(shì)，提出中國(guó)本土化方案
從全球范圍來(lái)看，算法治理已經(jīng)成為國(guó)際社會(huì)廣泛關(guān)注的重要議題。在國(guó)際組織層面，OECD、G20、IEEE等相繼發(fā)布人工智能、算法等倫理指南，推動(dòng)算法實(shí)現(xiàn)透明可釋、公平公正、安全可控等。在區(qū)域和國(guó)家層面，歐盟提出技術(shù)主權(quán)話語(yǔ)體系，重點(diǎn)關(guān)注算法帶來(lái)的人類自主性、人性尊嚴(yán)威脅，以及日益突出的極端言論、政治生態(tài)等問(wèn)題，通過(guò)《通用數(shù)據(jù)保護(hù)條例》《數(shù)字服務(wù)法(提案)》《數(shù)字市場(chǎng)法(提案)》《人工智能法(提案)》等制度構(gòu)建，持續(xù)遏制美國(guó)巨頭平臺(tái)攫取歐洲數(shù)據(jù)資源，保障歐洲公民基本權(quán)利�；诙喾N族多文化、對(duì)公權(quán)力信任缺失等社會(huì)背景，美國(guó)在公共治理、招聘、司法等場(chǎng)景下，頻繁出現(xiàn)算法種族歧視、操縱政治選舉等問(wèn)題，直接促使《紐約算法問(wèn)責(zé)法》《機(jī)器人披露和責(zé)任法》等相關(guān)法律問(wèn)世。
近年來(lái)，我國(guó)《電子商務(wù)法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《個(gè)人信息保護(hù)法》《反壟斷法(修正草案)》等相關(guān)立法對(duì)算法問(wèn)題已作出相關(guān)規(guī)定。從規(guī)制范圍來(lái)看，《管理規(guī)定》覆蓋對(duì)象頗為廣泛。不僅包括用于社交媒體、電商場(chǎng)景、搜索平臺(tái)的個(gè)性化推送算法、排序精選算法、檢索過(guò)濾算法，也包括適用于網(wǎng)約車、外賣場(chǎng)景下的調(diào)度決策類算法，還包括用于游戲和虛擬環(huán)境中生成內(nèi)容的生成合成類算法。同時(shí)，不僅限于當(dāng)前討論熱烈的具有典型算法黑箱性、數(shù)據(jù)依賴性和通用目的性的人工智能算法，同時(shí)也包含了當(dāng)前應(yīng)用廣泛，僅基于數(shù)學(xué)、邏輯學(xué)，用以實(shí)現(xiàn)輔助人類功能的非人工智能算法。
一方面，《管理規(guī)定》的出臺(tái)順應(yīng)國(guó)際算法治理趨勢(shì)，體現(xiàn)算法公平正義、安全可信等共同價(jià)值，有助于我國(guó)參與國(guó)際算法治理合作，在全球范圍內(nèi)發(fā)揮算法治理引領(lǐng)作用。另一方面，《管理規(guī)定》聚焦我國(guó)本土實(shí)踐，回應(yīng)較為突出的信息繭房、干預(yù)信息呈現(xiàn)、網(wǎng)絡(luò)沉迷、大數(shù)據(jù)殺熟、勞動(dòng)保障等熱點(diǎn)問(wèn)題，重點(diǎn)關(guān)注商業(yè)領(lǐng)域算法應(yīng)用場(chǎng)景，高度體現(xiàn)我國(guó)本土需求。
二、強(qiáng)化算法透明度要求，同時(shí)注意精細(xì)化區(qū)分
算法透明度是一種針對(duì)算法運(yùn)行的規(guī)制原則，要求算法的設(shè)計(jì)方或者使用方披露算法邏輯、輸入數(shù)據(jù)等算法要素，有效解決算法操縱用戶思想行為、問(wèn)責(zé)缺失等問(wèn)題。對(duì)于深度學(xué)習(xí)算法，還面臨更為復(fù)雜的不可解釋問(wèn)題。當(dāng)前，揭開算法面紗、強(qiáng)化算法透明度已成為公眾熟知且被普遍認(rèn)可的算法倫理準(zhǔn)則，在部分國(guó)家和地區(qū)也已經(jīng)寫入立法。
《管理規(guī)定》將算法公開透明列為基本原則，并從三個(gè)維度進(jìn)行精細(xì)化設(shè)計(jì)，注重算法透明度目的和制度的統(tǒng)一，有效平衡算法透明和企業(yè)利益。首先，強(qiáng)調(diào)對(duì)用戶透明，明確告知機(jī)制�！豆芾硪�(guī)定》第16條規(guī)定平臺(tái)應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。該條款并不要求披露源代碼，僅要求說(shuō)明算法的運(yùn)行邏輯、運(yùn)行目的，同時(shí)強(qiáng)調(diào)以簡(jiǎn)明有效的方式實(shí)現(xiàn)有意義的透明度，便于用戶實(shí)現(xiàn)知情權(quán)和選擇權(quán)。其次，對(duì)監(jiān)管部門透明，確立算法備案制度�！豆芾硪�(guī)定》第24條要求通過(guò)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息。一方面，算法備案有助于監(jiān)管部門掌握算法運(yùn)行狀況，評(píng)估算法風(fēng)險(xiǎn)。另一方面，可作為固定證據(jù)的手段，在損害發(fā)生時(shí)，平臺(tái)應(yīng)就算法損害結(jié)果、輸入數(shù)據(jù)、運(yùn)行目的等是否符合備案信息進(jìn)行說(shuō)明解釋，并承擔(dān)不利后果。最后，對(duì)社會(huì)透明，推動(dòng)廣泛監(jiān)督�！豆芾硪�(guī)定》要求，遵循公開透明原則，鼓勵(lì)行業(yè)組織加強(qiáng)行業(yè)自律，督促指導(dǎo)平臺(tái)制定完善服務(wù)規(guī)范并接受社會(huì)監(jiān)督，制定并公開算法推薦服務(wù)相關(guān)規(guī)則。由于大型平臺(tái)公共屬性增強(qiáng)，算法公開成為平臺(tái)履行社會(huì)責(zé)任的重要內(nèi)容。
此外，算法透明度要求也進(jìn)一步推動(dòng)平臺(tái)積極探索人工智能算法的透明度方案。如引入知識(shí)圖譜、因果推斷等可解釋的技術(shù);在深度學(xué)習(xí)算法中引入可理解的人工規(guī)則，不完全由深度學(xué)習(xí)算法模型完成自動(dòng)化決策;對(duì)于算法模型進(jìn)行可視化分析，輔助人們理解算法模型的決策邏輯，提升透明度等。
三、維護(hù)用戶自主選擇權(quán)利，亟需軟法配合落地
算法人工干預(yù)和自主選擇是重塑人類在算法應(yīng)用中的自主性，避免算法操控的重要手段。歐盟《通用數(shù)據(jù)保護(hù)條例》第22條確立免于自動(dòng)化決策權(quán)，其初衷即是避免人類受到未經(jīng)人工干預(yù)的算法控制，以免造成人類自主性喪失、人類責(zé)任缺失等有損人類尊嚴(yán)的問(wèn)題。隨著算法應(yīng)用的普及，自主選擇權(quán)的實(shí)現(xiàn)需求更為迫切。在工信部開展的侵害用戶權(quán)益專項(xiàng)整治行動(dòng)中，“剛剛聊到某個(gè)話題，很快就能在某個(gè)APP中收到相關(guān)廣告”“APP沒有關(guān)閉推薦算法的選項(xiàng)，有關(guān)閉選項(xiàng)的也隱藏在很難找到的地方”“用蘋果手機(jī)叫車，打車費(fèi)用更高”等侵害用戶權(quán)益問(wèn)題突出。
《管理規(guī)定》落實(shí)《個(gè)人信息保護(hù)法》《電子商務(wù)法》有關(guān)退出算法推薦的權(quán)利內(nèi)容，要求平臺(tái)應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。美國(guó)2021年6月《過(guò)濾氣泡透明度法(提案)》、俄羅斯立法等均提出應(yīng)向用戶提供非基于算法生成的信息選項(xiàng)。同時(shí)，《管理規(guī)定》首次提出對(duì)用戶標(biāo)簽進(jìn)行選擇管理的權(quán)利，確保對(duì)輸入數(shù)據(jù)的干預(yù)。用戶標(biāo)簽作為一種輸入數(shù)據(jù)，直接影響算法模型訓(xùn)練和結(jié)果的生成。賦予用戶對(duì)針對(duì)個(gè)人特征用戶標(biāo)簽的選擇、刪除權(quán)利，有助于用戶在一定程度主導(dǎo)個(gè)人興趣、避免歧視等。
在具體落地層面，單純退出算法推薦是否能滿足用戶最佳需求，如何在界面設(shè)計(jì)中滿足用戶對(duì)大量標(biāo)簽的選擇刪除權(quán)利，針對(duì)隱性標(biāo)簽如何實(shí)現(xiàn)標(biāo)簽管理等，需要發(fā)揮行業(yè)標(biāo)準(zhǔn)、倫理規(guī)則、企業(yè)實(shí)踐等軟法作用，積極探索用戶賦權(quán)方式。如有平臺(tái)對(duì)用戶退出界面進(jìn)行精細(xì)化設(shè)計(jì)，用戶既可以選擇關(guān)閉全部個(gè)性化推薦，也可僅關(guān)閉基于所在位置、基于搜索記錄、基于關(guān)注列表的個(gè)性化推薦，為更好平衡用戶體驗(yàn)、個(gè)人自主及風(fēng)險(xiǎn)控制，提供了優(yōu)質(zhì)企業(yè)實(shí)踐方案。
四、全面確立平臺(tái)主體責(zé)任，同時(shí)注重場(chǎng)景回應(yīng)治理
數(shù)字經(jīng)濟(jì)背景下，平臺(tái)借助算法技術(shù)，成為數(shù)據(jù)生產(chǎn)要素的提煉加工者和資源配置方，同時(shí)扮演市場(chǎng)參與者和組織者雙重身份，具備了一定的社會(huì)權(quán)力。近年，國(guó)外網(wǎng)絡(luò)平臺(tái)責(zé)任改革趨勢(shì)顯著。2020年9月，美國(guó)司法部提出改革《通信規(guī)范法》230條款的法律提案指出，因使用算法推薦內(nèi)容，平臺(tái)具備了審查言論，并將特定觀點(diǎn)施加于用戶的能力。2021年10月，美國(guó)眾議院提出《對(duì)抗惡意算法的正義法案》 ，指出為獲取利潤(rùn)，平臺(tái)主動(dòng)設(shè)計(jì)個(gè)性化算法宣揚(yáng)極端主義、傳播虛假信息和有害內(nèi)容，應(yīng)當(dāng)改革美國(guó)《通信規(guī)范法》第230條對(duì)平臺(tái)責(zé)任的豁免規(guī)則。2020年底，歐盟也發(fā)布《數(shù)字服務(wù)法(提案)》，擬對(duì)《電子商務(wù)指令》中的平臺(tái)責(zé)任進(jìn)行改革。法案對(duì)超大型平臺(tái)使用算法推薦系統(tǒng)作出規(guī)范，要求向用戶說(shuō)明推薦系統(tǒng)的運(yùn)行規(guī)則、采用參數(shù)，并賦予用戶調(diào)整參數(shù)的權(quán)利。同時(shí)要求平臺(tái)定期向數(shù)據(jù)服務(wù)協(xié)調(diào)員和歐盟委員會(huì)提交審計(jì)報(bào)告，其內(nèi)容包括風(fēng)險(xiǎn)評(píng)估、采取的風(fēng)險(xiǎn)控制措施等。
在我國(guó)平臺(tái)責(zé)任設(shè)置上，《管理規(guī)定》注重遵循主客觀相一致、權(quán)責(zé)一致的原則，并遵循《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等立法精神，進(jìn)行分級(jí)分類和場(chǎng)景化治理。一方面，《管理規(guī)定》劃清算法推薦服務(wù)的紅線，規(guī)定了不得設(shè)置誘導(dǎo)用戶沉迷或過(guò)度消費(fèi)、不得利用算法虛假注冊(cè)賬號(hào)等十項(xiàng)“不得”要求。另一方面，《管理規(guī)定》提出應(yīng)當(dāng)定期進(jìn)行算法審核、評(píng)估，完善網(wǎng)絡(luò)日志留存，配合安全評(píng)估和監(jiān)督檢查等十六項(xiàng)“應(yīng)當(dāng)”要求。在分級(jí)分類管理方面，確立了輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等判定標(biāo)準(zhǔn)，為平臺(tái)監(jiān)管和企業(yè)合規(guī)提供指引。
同時(shí)，《管理規(guī)定》對(duì)部分重點(diǎn)場(chǎng)景進(jìn)行集中回應(yīng)。如對(duì)于未成年人網(wǎng)絡(luò)沉迷問(wèn)題，落實(shí)《未成年人保護(hù)法》網(wǎng)絡(luò)保護(hù)專章內(nèi)容，規(guī)定應(yīng)當(dāng)開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)，提出不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)等要求。在老年人權(quán)益保障方面，提出應(yīng)按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置，便利老年人安全使用算法推薦服務(wù)。在勞動(dòng)者權(quán)益保障方面，要求平臺(tái)建立完善訂單派送、報(bào)酬構(gòu)成及支付、工作時(shí)間和獎(jiǎng)懲等相關(guān)算法，維護(hù)新就業(yè)形態(tài)勞動(dòng)者的勞動(dòng)權(quán)益。針對(duì)大數(shù)據(jù)殺熟問(wèn)題，要求不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。
總體來(lái)看，數(shù)字經(jīng)濟(jì)發(fā)展不斷提速，算法作為數(shù)字社會(huì)新型生產(chǎn)力的地位和作用日趨明顯，《管理規(guī)定》的出臺(tái)是上層建筑構(gòu)建的重要步驟。下一步，以《管理規(guī)定》為重要法律依據(jù)，必將促進(jìn)形成治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局，推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展行穩(wěn)致遠(yuǎn)。
- 上一篇：用于數(shù)據(jù)管理的多云策略 2022/11/1
- 下一篇：強(qiáng)化多功能應(yīng)用 手機(jī)銀行進(jìn)入普及期 2013/5/21
