中國(guó)傳媒大學(xué)國(guó)際傳媒教育學(xué)院院長(zhǎng) 金雪濤

【摘要】如果說(shuō)數(shù)據(jù)是數(shù)字經(jīng)濟(jì)時(shí)代的核心生產(chǎn)要素，那么算法則是推進(jìn)這一核心生產(chǎn)要素資產(chǎn)化和價(jià)值化的運(yùn)行基礎(chǔ)。當(dāng)數(shù)字技術(shù)賦能各個(gè)領(lǐng)域，催生了新產(chǎn)品、新組織模式、新商業(yè)模式和新產(chǎn)業(yè)業(yè)態(tài)的同時(shí)，也帶來(lái)了諸如算法歧視、算法操縱、算法協(xié)同、算法黑箱等潛在風(fēng)險(xiǎn)。不同類型的算法經(jīng)由設(shè)計(jì)和實(shí)施，其帶來(lái)的算法應(yīng)用潛在風(fēng)險(xiǎn)不同，并可能導(dǎo)致政府失靈與市場(chǎng)失靈。圍繞“治理主體—治理對(duì)象—治理工具措施”探索算法治理的體系架構(gòu)，可以融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過(guò)程管理理念的基礎(chǔ)上優(yōu)化算法治理措施，推動(dòng)三種機(jī)制并行。

【關(guān)鍵詞】算法風(fēng)險(xiǎn) 算法類型 治理體系 治理措施

【中圖分類號(hào)】D630 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2022.10.004

引言

從技術(shù)的角度看，算法是一個(gè)解決問(wèn)題的計(jì)算過(guò)程，是一個(gè)包含算數(shù)運(yùn)算、邏輯運(yùn)算、關(guān)系運(yùn)算的從輸入到輸出的程序；從社會(huì)學(xué)的角度看，算法是設(shè)計(jì)者與算法參數(shù)（運(yùn)算過(guò)程）及算法對(duì)象之間的互動(dòng)，這個(gè)互動(dòng)過(guò)程也伴隨技術(shù)倫理問(wèn)題的產(chǎn)生；從經(jīng)濟(jì)學(xué)的角度看，算法是完成對(duì)數(shù)據(jù)資源“輸入—輸出”的分析系統(tǒng)，提高生產(chǎn)力的同時(shí)也會(huì)影響生產(chǎn)關(guān)系。伴隨數(shù)字技術(shù)的普及應(yīng)用，社會(huì)體系中的微觀、中觀、宏觀等各層級(jí)無(wú)一不被嵌入算法的技術(shù)環(huán)境與契約環(huán)境之中。依靠機(jī)器學(xué)習(xí)的算法通過(guò)數(shù)據(jù)分析更精準(zhǔn)地掌握了需求側(cè)的偏好，極大地促進(jìn)了供給側(cè)的生產(chǎn)、管理與運(yùn)營(yíng)效率的提升。然而，算法在深度賦能社會(huì)經(jīng)濟(jì)生活方方面面的同時(shí)，也帶來(lái)了諸如算法歧視、算法操縱、算法共謀、算法黑箱等潛在風(fēng)險(xiǎn)。

算法的技術(shù)中立性產(chǎn)品特點(diǎn)與算法應(yīng)用后“技術(shù)權(quán)力”濫用及壟斷的矛盾，促使我們重新審視算法應(yīng)用與潛在風(fēng)險(xiǎn)之間的關(guān)系。我們需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險(xiǎn)的特征以及風(fēng)險(xiǎn)產(chǎn)生的機(jī)理，本研究將從技術(shù)權(quán)力向資本權(quán)力和對(duì)公共資源控制轉(zhuǎn)化的角度闡釋算法應(yīng)用所導(dǎo)致的市場(chǎng)失靈與政府失靈。進(jìn)一步地，圍繞“治理主體—治理對(duì)象—治理工具措施”探索算法治理的體系架構(gòu)，提出融合多元主體協(xié)同、利益均衡和敏捷治理等三種機(jī)制，在元規(guī)制和全過(guò)程管理理念的基礎(chǔ)上優(yōu)化算法治理措施。

算法治理研究溯源

算法研究的總體趨勢(shì)。早在公元前1世紀(jì)，我國(guó)《周髀算經(jīng)》就對(duì)四分歷法進(jìn)行說(shuō)明，同時(shí)用商高問(wèn)答解釋了“勾三股四玄五”這一勾股定律的特例，已經(jīng)有了數(shù)學(xué)及算法的雛形。算法（Algorithm）一詞來(lái)自于波斯數(shù)學(xué)天才花剌子模（Mu?ammad ibn Mūsā al-Khwārizmī）名字的拉丁化，在他的書(shū)籍中不僅闡釋了如何將復(fù)雜的問(wèn)題分解為更為簡(jiǎn)單的部分并加以解決，也闡釋了沿用至今的“算數(shù)運(yùn)算”“關(guān)系運(yùn)算”等概念。此后在人類文明的進(jìn)程中，推進(jìn)幾何學(xué)系統(tǒng)化的歐幾里德算法、“軟件之母”Ada Byron的程序設(shè)計(jì)流程圖、抽象了數(shù)學(xué)計(jì)算過(guò)程的圖靈機(jī)，以及“Pascal創(chuàng)始者”Nicklaus Wirth提出的“算法+數(shù)據(jù)結(jié)構(gòu)=程序”等，每一次探索與進(jìn)步都堅(jiān)實(shí)了算法的應(yīng)用基礎(chǔ)。當(dāng)人類從工業(yè)社會(huì)、信息化社會(huì)步入數(shù)字經(jīng)濟(jì)時(shí)代之后，依托高速互聯(lián)的網(wǎng)絡(luò)、大數(shù)據(jù)存儲(chǔ)及計(jì)算能力，算法已融入個(gè)人的吃穿住行、企業(yè)的生產(chǎn)運(yùn)營(yíng)和政府的公共治理之中。

筆者對(duì)2000年～2021年國(guó)內(nèi)外關(guān)于算法治理、算法規(guī)制的學(xué)術(shù)論文成果進(jìn)行檢索分析。國(guó)外文獻(xiàn)數(shù)據(jù)來(lái)自Web of Science核心合集數(shù)據(jù)庫(kù)，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“TS=（algorithm*）AND TS=（governance OR regulation）”、選擇語(yǔ)言“English”、選擇文獻(xiàn)類型“Article”，選擇時(shí)間截至“2021年”，最終獲取到828篇國(guó)外文獻(xiàn)。國(guó)內(nèi)文獻(xiàn)數(shù)據(jù)來(lái)自中國(guó)知網(wǎng)，為了保證數(shù)據(jù)的全面性，利用專業(yè)檢索，構(gòu)造檢索式“SU='算法'*（'治理'+'規(guī)制'）”，選擇CSSCI期刊為檢索范圍，選擇時(shí)間截至“2021年”，最終獲取到526篇國(guó)內(nèi)文獻(xiàn)。每年中外發(fā)表的論文數(shù)量變化的整體趨勢(shì)如圖1所示。綜合來(lái)看，國(guó)外的研究起步早于國(guó)內(nèi)，文章數(shù)量多于國(guó)內(nèi)。國(guó)內(nèi)外在算法治理領(lǐng)域的研究都是從2017年開(kāi)始顯著增加，這與2016年是算法編輯超越人工編輯的拐點(diǎn)之年密切相關(guān)，更佐證了算法技術(shù)應(yīng)用廣度與深度不斷拓展的現(xiàn)實(shí)。

聚焦國(guó)內(nèi)算法治理問(wèn)題，研究發(fā)現(xiàn)，國(guó)內(nèi)相關(guān)研究中最熱關(guān)鍵詞是“人工智能”，該關(guān)鍵詞節(jié)點(diǎn)的“原點(diǎn)”最大，代表算法治理中與人工智能相關(guān)的研究最多。在國(guó)內(nèi)研究排名前20的關(guān)鍵詞中，有5個(gè)詞與“算法”關(guān)聯(lián)，分別是算法歧視、算法風(fēng)險(xiǎn)、算法規(guī)制、算法權(quán)力和算法倫理，說(shuō)明學(xué)術(shù)界非常關(guān)注算法風(fēng)險(xiǎn)的成因、算法風(fēng)險(xiǎn)的類型和治理措施探索；有6個(gè)詞與“治理”關(guān)聯(lián)，分別是“治理”、“數(shù)據(jù)治理”、“社會(huì)治理”、“協(xié)同治理”、“技術(shù)治理”和“政治治理”，這說(shuō)明當(dāng)前針對(duì)算法應(yīng)用的治理問(wèn)題研究不是只停留在微觀層面，也在中觀和宏觀層面都有所涉及。

算法治理的研究重點(diǎn)。國(guó)內(nèi)外關(guān)于算法治理的相關(guān)研究主要聚焦在傳播學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、經(jīng)濟(jì)學(xué)和法學(xué)等領(lǐng)域，表1列示了代表性學(xué)者的研究觀點(diǎn)。

從傳播學(xué)的視角看，算法的直接影響是產(chǎn)生信息繭房（Information Cocoons）、回聲室效應(yīng)（Echo Chamber）和信息過(guò)濾泡（Filter Bubble）。這三個(gè)概念均指因算法支撐的數(shù)據(jù)分析及內(nèi)容精準(zhǔn)推送，在無(wú)形的網(wǎng)絡(luò)空間中打造了相對(duì)封閉、高度同質(zhì)化的信息空間，人們的視界被熟悉的內(nèi)容和思維所限制并進(jìn)一步固化，甚而這種固有之見(jiàn)會(huì)被推向極端形成群體極化（Group Polarization）。

從社會(huì)學(xué)和政治經(jīng)濟(jì)學(xué)的視角看，盡管算法技術(shù)并非數(shù)字鴻溝、數(shù)字勞動(dòng)、個(gè)人隱私保護(hù)等問(wèn)題存在的唯一因素，但算法應(yīng)用使得橫亙?cè)诨ヂ?lián)網(wǎng)觸達(dá)者和互聯(lián)網(wǎng)無(wú)法觸達(dá)者之間的橫向數(shù)字鴻溝，政府、企業(yè)、個(gè)人等在縱向管理關(guān)系上因?qū)?shù)據(jù)（信息）掌握程度和決策能力不同而導(dǎo)致的縱向數(shù)字鴻溝等更加顯著；算法應(yīng)用也令有酬和無(wú)酬的數(shù)字勞動(dòng)者的勞動(dòng)付出被機(jī)器判斷與指令控制，從而數(shù)字勞動(dòng)被進(jìn)一步商品化和資本化；算法應(yīng)用也會(huì)因隱私（數(shù)據(jù)）主體喪失了控制權(quán)從而產(chǎn)生隱私泄漏等風(fēng)險(xiǎn)。

從經(jīng)濟(jì)學(xué)的角度看，泛在的網(wǎng)絡(luò)平臺(tái)是數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施，也是數(shù)字生產(chǎn)要素利用與配置的場(chǎng)域，更是算法得以應(yīng)用產(chǎn)生價(jià)值增值的舞臺(tái)。傳統(tǒng)經(jīng)濟(jì)中企業(yè)通過(guò)協(xié)議或相互暗示可以形成策略行為的共謀，以限制競(jìng)爭(zhēng)實(shí)現(xiàn)合作集團(tuán)內(nèi)部利益最大化。數(shù)字經(jīng)濟(jì)和人工智能環(huán)境下，算法應(yīng)用更有助于網(wǎng)絡(luò)平臺(tái)通過(guò)收集個(gè)人或企業(yè)的基礎(chǔ)信息及行為信息，通過(guò)加工分析而洞悉平臺(tái)上的價(jià)格趨勢(shì)、產(chǎn)品結(jié)構(gòu)以及各類參與方的行為特征，令共謀行為更易達(dá)成。基于個(gè)人用戶基礎(chǔ)數(shù)據(jù)和行為數(shù)據(jù)分析的算法，還可以針對(duì)個(gè)人用戶的偏好實(shí)施動(dòng)態(tài)的價(jià)格歧視或服務(wù)歧視，剝奪了更多的消費(fèi)者剩余。

從法學(xué)的角度看，中外學(xué)者對(duì)算法權(quán)力的形成及其對(duì)社會(huì)資源和數(shù)據(jù)的控制作用進(jìn)行了分析，同時(shí)對(duì)算法權(quán)力嵌入商業(yè)領(lǐng)域、嵌入公權(quán)力程序所形成的異化風(fēng)險(xiǎn)提出了警示，從立法的角度考慮了治理的架構(gòu)與措施。

伴隨大數(shù)據(jù)分析技術(shù)的升級(jí)與智能技術(shù)的普及，算法應(yīng)用帶來(lái)的風(fēng)險(xiǎn)隱患受到了廣泛關(guān)注，很多國(guó)家政府通過(guò)立法和標(biāo)準(zhǔn)制定對(duì)算法應(yīng)用的相關(guān)領(lǐng)域進(jìn)行實(shí)質(zhì)維度的治理與監(jiān)管，不同行業(yè)、企業(yè)也通過(guò)建立算法應(yīng)用的倫理指南來(lái)實(shí)現(xiàn)自我規(guī)制。

算法應(yīng)用的潛在風(fēng)險(xiǎn)及形成機(jī)理

算法應(yīng)用的潛在風(fēng)險(xiǎn)。1.算法歧視（Algorithmic Bias）。算法歧視是指通過(guò)數(shù)字自動(dòng)化決策，特定條件的數(shù)據(jù)分析導(dǎo)致對(duì)特定數(shù)據(jù)主體產(chǎn)生基于性別、價(jià)格及其他條件的不公正對(duì)待，濫用排序、大數(shù)據(jù)殺熟等都是算法歧視的直接表現(xiàn)。算法歧視可能是源于算法設(shè)計(jì)者的文化差異、判斷差異、目的差異，也可能源于算法使用過(guò)程中意外出現(xiàn)的突發(fā)結(jié)果。不管是哪一種情況，算法歧視都會(huì)產(chǎn)生偏見(jiàn)強(qiáng)化、消費(fèi)者剩余被蠶食、個(gè)人自主選擇被剝奪等不利影響。

現(xiàn)實(shí)生活中，經(jīng)常使用打車APP的人和使用外賣平臺(tái)APP的會(huì)員，他們訂車或訂外賣支付的金額有時(shí)反而會(huì)比不經(jīng)常使用的人更高；又比如企業(yè)在專業(yè)招聘平臺(tái)上招人，會(huì)存在因算法歧視而導(dǎo)致選擇范圍過(guò)窄等問(wèn)題。根據(jù)2019年北京消費(fèi)者協(xié)會(huì)的社會(huì)調(diào)查數(shù)據(jù)，有56.92%的被調(diào)查者有過(guò)被大數(shù)據(jù)“殺熟”的經(jīng)歷；調(diào)查還顯示購(gòu)物類、旅游類、打車類等平臺(tái)APP均存在著大數(shù)據(jù)“殺熟”現(xiàn)象（劉朝，2022）。

2.算法操縱（Algorithmic Manipulation）。算法操縱是指當(dāng)算法部分（或全部）替代“人”成為發(fā)出指令和進(jìn)行決策的主體時(shí)，數(shù)據(jù)（信息、隱私）的所有者、企業(yè)決策主體、勞動(dòng)主體喪失了控制權(quán)，會(huì)造成信息繭房、回音室效應(yīng)、信息過(guò)濾泡以及隱私泄漏等問(wèn)題。

針對(duì)消費(fèi)者的算法操縱包括新聞、文娛、廣告等推送主要依靠對(duì)用戶行為的數(shù)據(jù)分析，算法推斷用戶偏好并只呈現(xiàn)該種類內(nèi)容，比如Facebook的新聞投喂算法（News Feed Algorithm），這使得信息繭房、回音室效應(yīng)、信息過(guò)濾泡等構(gòu)筑“信息隔離空間”的效能大大增強(qiáng)；與此同時(shí)，在算法操縱對(duì)個(gè)人用戶基本數(shù)據(jù)和行為數(shù)據(jù)的收集、分析、預(yù)測(cè)和使用過(guò)程中，因數(shù)據(jù)（信息、隱私）主體喪失了控制權(quán)，有可能導(dǎo)致個(gè)人數(shù)據(jù)或隱私被泄漏和不當(dāng)利用。

針對(duì)勞動(dòng)者的算法操控，最直接的表現(xiàn)就是對(duì)數(shù)字勞動(dòng)的“剝削”。作為工具革命代表的算法能夠?qū)?shù)字勞動(dòng)的價(jià)值精準(zhǔn)計(jì)量和控制，比如外賣騎手走哪條線路能夠最有效率地送出外賣，粉絲收看視頻的完播率、轉(zhuǎn)發(fā)數(shù)量和評(píng)論數(shù)量能夠創(chuàng)造多少流量?jī)r(jià)值等。數(shù)字技術(shù)通過(guò)對(duì)數(shù)字勞動(dòng)的屬性、行為計(jì)算出最佳方案，并以一種可見(jiàn)或不可見(jiàn)的方式推進(jìn)各類數(shù)字勞動(dòng)去“行動(dòng)”，數(shù)字勞動(dòng)所創(chuàng)造的信息內(nèi)容、流量以及生產(chǎn)效率，部分或全部地?zé)o償參與資本擴(kuò)張與增值過(guò)程。

針對(duì)同業(yè)競(jìng)爭(zhēng)者的算法操縱集中地體現(xiàn)在網(wǎng)絡(luò)平臺(tái)通過(guò)算法設(shè)置條件，控制搜索結(jié)果或排名呈現(xiàn)，構(gòu)筑了市場(chǎng)進(jìn)入壁壘，當(dāng)然算法操縱也會(huì)導(dǎo)致同業(yè)競(jìng)爭(zhēng)企業(yè)的數(shù)據(jù)（信息）被泄漏或不當(dāng)利用。算法操縱破壞了公平競(jìng)爭(zhēng)，同時(shí)也給消費(fèi)者帶來(lái)了不良體驗(yàn)。比如韓國(guó)最大的搜索引擎Naver在2020年利用搜索服務(wù)禁止其內(nèi)容供應(yīng)商與它的競(jìng)爭(zhēng)對(duì)手合作，并將自己的產(chǎn)品設(shè)置在搜索結(jié)果的高排名中，將競(jìng)爭(zhēng)對(duì)手的產(chǎn)品設(shè)置在低排名中，這種既欺騙消費(fèi)者又阻礙公平競(jìng)爭(zhēng)的行為被韓國(guó)公平貿(mào)易委員會(huì)（Korea Fair Trade Commission, KFTC）罰款280.2億韓元。

3.算法協(xié)同（Algorithmic Collaboration）。協(xié)同行為（共謀行為）是在特定產(chǎn)業(yè)中多個(gè)企業(yè)通過(guò)協(xié)議或暗示，采取共同限制價(jià)格、限制產(chǎn)量、控制銷售渠道等一致性行為來(lái)壓制競(jìng)爭(zhēng)，獲得超額壟斷利潤(rùn)的策略。在數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)、算法、算力已經(jīng)貫穿了所有的生產(chǎn)要素和各類社會(huì)經(jīng)濟(jì)活動(dòng)，基于互聯(lián)網(wǎng)平臺(tái)的運(yùn)營(yíng)企業(yè)和平臺(tái)內(nèi)參與企業(yè)均有能力對(duì)消費(fèi)者、競(jìng)爭(zhēng)同行的大數(shù)據(jù)進(jìn)行收集與分析，并可自動(dòng)地形成在價(jià)格、服務(wù)標(biāo)準(zhǔn)或產(chǎn)量上的共謀。

英國(guó)學(xué)者阿里爾·扎拉奇（Ariel Ezrachi）和莫里斯·E·斯圖克（Maurice E. Stucke）將算法協(xié)同（共謀）分為四類：1）信使型共謀是通過(guò)分享算法傳遞的信息達(dá)成對(duì)價(jià)格或銷售條件等的共謀，算法的角色類似“信使”；2）軸輻型共謀最為常見(jiàn)，是指作為平臺(tái)的運(yùn)營(yíng)企業(yè)（平臺(tái)樞紐）利用算法形成價(jià)格指導(dǎo)（車軸），協(xié)同平臺(tái)其他參與企業(yè)（輻條）形成上下游縱向共謀，或作為平臺(tái)參與企業(yè)（輻條）之間在平臺(tái)樞紐的影響形成下游橫向的共謀，從而封閉市場(chǎng)成立，限制了競(jìng)爭(zhēng)；3）預(yù)測(cè)型共謀需要依靠更智能的算法，由算法（特別是價(jià)格算法）充當(dāng)企業(yè)高管的代理人角色，動(dòng)態(tài)監(jiān)控市場(chǎng)價(jià)格的變化，通過(guò)信息差來(lái)獲得定價(jià)優(yōu)勢(shì)；4）自主型共謀是在機(jī)器學(xué)習(xí)不斷深化的過(guò)程中，算法可以完成自我學(xué)習(xí)與自我決策的不斷優(yōu)化，形成了自動(dòng)探索優(yōu)化利潤(rùn)的路徑，從而成為操縱市場(chǎng)的力量，盡管目前自主型共謀還處于概念和實(shí)驗(yàn)階段，但其危害值得我們更多關(guān)注。

在現(xiàn)實(shí)中，亞馬遜網(wǎng)站上的書(shū)商因定價(jià)算法設(shè)計(jì)上的漏洞，其銷售的書(shū)籍定價(jià)追隨用戶的留言與評(píng)價(jià)機(jī)械地發(fā)生并無(wú)限循環(huán)，導(dǎo)致一本普通的生物遺傳學(xué)教科書(shū)的定價(jià)高達(dá)2000多萬(wàn)美金，這是信使型共謀的典例；2016年歐盟法院審理的E-Turas案是E-Turas這家線上旅游預(yù)訂系統(tǒng)通過(guò)對(duì)所有會(huì)員單位的報(bào)價(jià)信息分析，自動(dòng)將折扣限制在3%以內(nèi)，而不論成員單位的自我價(jià)格折扣是多少，這是一種典型的軸輻型共謀。

4.算法黑箱（Algorithmic Black Box）。“黑箱”是一種隱喻，指存在于人工智能深度學(xué)習(xí)的輸入與輸出之間，難以為外界所觀察和理解的隱層。算法設(shè)計(jì)者和算法應(yīng)用者作為專業(yè)人士對(duì)算法內(nèi)容和機(jī)制會(huì)有更多了解，但非專業(yè)人士只能觀察到算法系統(tǒng)的輸入與輸出，很難掌握算法的內(nèi)容與邏輯。算法“黑箱”對(duì)多數(shù)主體或個(gè)人是具有不透明性和不公開(kāi)性的，這種不透明性和不公開(kāi)性必然導(dǎo)致數(shù)據(jù)（信息）的不可控，而數(shù)據(jù)（信息）的不可控又加劇了輸出結(jié)果與事實(shí)相悖、或算法決策責(zé)任性缺失，關(guān)聯(lián)地或可能侵犯公眾知情權(quán)和自主決策權(quán)，威脅個(gè)人信息安全，甚至可能引發(fā)公共數(shù)據(jù)資源的使用危機(jī)。算法黑箱也使算法歧視、算法操縱和算法共謀等以更隱蔽的狀態(tài)產(chǎn)生風(fēng)險(xiǎn)蔓延。

算法應(yīng)用存在風(fēng)險(xiǎn)的機(jī)理。OECD將算法分為四類：一是“監(jiān)控式算法”（Monitoring Algorithms），指按既定目標(biāo)，利用數(shù)據(jù)（內(nèi)容信息）爬取技術(shù)，通過(guò)數(shù)據(jù)收集完成監(jiān)控過(guò)程，在監(jiān)控式算法使用過(guò)程中，“人”是發(fā)出指令的控制主體和進(jìn)行決策的主體，算法只是工具；二是“平行式算法”（Parallel Algorithms），依然是根據(jù)既定目標(biāo)通過(guò)特定算法對(duì)數(shù)據(jù)進(jìn)行收集、分析和監(jiān)控，“人”是發(fā)出指令的控制主體，但通過(guò)算法設(shè)計(jì)讓渡了部分“決策權(quán)”給算法；三是“信號(hào)式算法”（Signaling Algorithms），是在算法對(duì)數(shù)據(jù)收集、分析和預(yù)測(cè)的基礎(chǔ)上，按照設(shè)計(jì)程序可以自動(dòng)發(fā)布信號(hào)和處理信號(hào)，此類算法已開(kāi)始對(duì)“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代；四是“自我學(xué)習(xí)式算法”（Self-learning Algorithms），是在人工智能的相關(guān)技術(shù)加持下，擁有智能認(rèn)知的算法可以實(shí)現(xiàn)從發(fā)出指令到完成決策的全過(guò)程，具有了對(duì)“人發(fā)出指令和進(jìn)行決策的功能”完全替代的可能性。

不同類型的算法經(jīng)由設(shè)計(jì)和實(shí)施，對(duì)算法應(yīng)用潛在風(fēng)險(xiǎn)影響不同（如圖2所示）：監(jiān)控式算法不存在發(fā)出指令和完成決策的機(jī)器替代，主要功能是收集和分析數(shù)據(jù)，并產(chǎn)生導(dǎo)向型的數(shù)據(jù)輸出，因此它是產(chǎn)生基于基礎(chǔ)數(shù)據(jù)和基于行為數(shù)據(jù)的算法歧視的主要助力，同時(shí)監(jiān)控式算法也會(huì)加劇信息繭房、回聲室效應(yīng)、信息過(guò)濾泡和信使型共謀所產(chǎn)生的風(fēng)險(xiǎn)；平行式算法的指令發(fā)出主體仍然是人，但部分決策控制權(quán)出現(xiàn)向算法的轉(zhuǎn)移，這種算法的輸出背離事實(shí)的可能性會(huì)推動(dòng)基于行為數(shù)據(jù)的算法歧視產(chǎn)生、信息過(guò)濾泡的構(gòu)建、個(gè)人隱私和公共數(shù)據(jù)的泄漏等，平行式算法的自動(dòng)分析與決策過(guò)程也便利了軸輻型共謀的達(dá)成；信號(hào)式算法已開(kāi)始對(duì)“人發(fā)出指令和進(jìn)行決策的功能”產(chǎn)生部分的替代，因此與算法對(duì)象間的互動(dòng)更為密切，對(duì)于具主動(dòng)性的數(shù)字勞動(dòng)進(jìn)行控制、形成預(yù)測(cè)型共謀和算法黑箱，信號(hào)式算法更有效率；自我學(xué)習(xí)式算法更加智能，算法能夠獨(dú)立完成發(fā)出指令并優(yōu)化決策，因此基于機(jī)器學(xué)習(xí)的自主型共謀和更高難度的算法黑箱有了實(shí)施支撐。

當(dāng)作為技術(shù)的算法，通過(guò)數(shù)據(jù)分析和輸出結(jié)果導(dǎo)向?qū)?jīng)濟(jì)活動(dòng)或社會(huì)活動(dòng)主體的決策與行為產(chǎn)生了一定程度的支配力與控制力，特別是智能技術(shù)的深入融合不斷增強(qiáng)算法的自我學(xué)習(xí)能力，算法可以部分甚至完全替代人這個(gè)主體“發(fā)出指令”“完成決策”，進(jìn)一步地算法對(duì)生產(chǎn)力和生產(chǎn)關(guān)系都會(huì)產(chǎn)生影響，從單純的技術(shù)工具逐漸轉(zhuǎn)變?yōu)榫哂兄黧w性的“技術(shù)權(quán)力者”。而當(dāng)這種技術(shù)權(quán)力與商業(yè)程序相結(jié)合時(shí)，形成了“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——經(jīng)濟(jì)資源控制+行為影響——社會(huì)利益分配重構(gòu)（資本權(quán)力）——市場(chǎng)失靈”的作用機(jī)制路徑；當(dāng)這種技術(shù)權(quán)力與行政程序相結(jié)合時(shí)，則有可能導(dǎo)致“算法（技術(shù)權(quán)力）——數(shù)據(jù)收集、分析與結(jié)果輸出——公共資源（含數(shù)據(jù)／信息）控制——政府失靈”的作用機(jī)制路徑。

算法應(yīng)用治理體系構(gòu)建

對(duì)算法應(yīng)用進(jìn)行治理的難點(diǎn)。算法其實(shí)是一種分析利用數(shù)據(jù)的智能手段，它將數(shù)據(jù)輸入（原因）通過(guò)既定的程序變?yōu)閿?shù)據(jù)輸出（結(jié)果）。首先，算法應(yīng)用的過(guò)程中，人們知道“因和果”，卻難以了解過(guò)程，這種算法的不透明性源于數(shù)據(jù)安全性的考慮，也源于技術(shù)的專業(yè)性，更源于智能技術(shù)的應(yīng)用實(shí)現(xiàn)了“機(jī)器自我學(xué)習(xí)”，可以說(shuō)算法的不透明性與生俱來(lái)，這給治理帶來(lái)了難題。其次，算法的研發(fā)具有物理上的隱蔽性、算法的應(yīng)用具有廣泛的分散性，當(dāng)深度學(xué)習(xí)嵌入算法推動(dòng)人的“決策”向機(jī)器讓渡，對(duì)算法潛在風(fēng)險(xiǎn)的評(píng)估和責(zé)任主體的確認(rèn)就變得更為困難。最后，算法的應(yīng)用基于各領(lǐng)域的平臺(tái)，平臺(tái)是聯(lián)接著不同主體的多邊市場(chǎng)，算法應(yīng)用涉及的潛在風(fēng)險(xiǎn)既涉及個(gè)人用戶、平臺(tái)運(yùn)營(yíng)企業(yè)（平臺(tái)樞紐）和平臺(tái)參與企業(yè)，也涉及平臺(tái)上的數(shù)字勞動(dòng)者和政府管理部門，算法治理主體和算法治理對(duì)象都是多元的，相較于其他領(lǐng)域的治理問(wèn)題，算法治理的難度更大。

算法應(yīng)用治理體系構(gòu)建。1.算法治理體系的構(gòu)成要件?；谒惴ㄖ卫碇黧w和對(duì)象的多元特點(diǎn)，算法治理的復(fù)雜性，算法治理需要構(gòu)建體系。這需要厘清治理主體與治理對(duì)象之間的關(guān)系和職責(zé)，同時(shí)考慮市場(chǎng)失靈和政府失靈的雙重影響，通過(guò)治理主體的一系列工具措施與治理對(duì)象之間形成有效的互動(dòng)，實(shí)現(xiàn)治理目標(biāo)。算法治理體系的構(gòu)成要件包含治理主體、治理對(duì)象、治理工具與措施。

需要說(shuō)明的是，算法治理的主體和治理對(duì)象并非截然分開(kāi)的，算法治理主體有時(shí)與算法治理對(duì)象具有一致性。比如算法治理的主體包括相關(guān)政府部門、行業(yè)協(xié)會(huì)、第三方社會(huì)組織等，但這些主體也會(huì)使用算法進(jìn)行數(shù)字資源的使用與控制，所以要接受公眾的監(jiān)督；算法治理的對(duì)象如算法設(shè)計(jì)開(kāi)發(fā)方、使用算法的平臺(tái)運(yùn)營(yíng)企業(yè)、平臺(tái)參與企業(yè)、公共組織等，也會(huì)采取自我規(guī)制來(lái)實(shí)現(xiàn)技術(shù)倫理責(zé)任。傳統(tǒng)的治理工具主要依賴于政府干預(yù)（外部規(guī)制）和自我治理（自我規(guī)制）等具體措施工具，前者是治理主體通過(guò)治理工具與措施從外部設(shè)定標(biāo)準(zhǔn)等對(duì)治理對(duì)象進(jìn)行引導(dǎo)和監(jiān)管，比如市場(chǎng)準(zhǔn)入，技術(shù)標(biāo)準(zhǔn)，正面及負(fù)面清單等；后者是治理對(duì)象基于社會(huì)責(zé)任、倫理道德等對(duì)自身施以主動(dòng)管理的行為，比如企業(yè)責(zé)任、技術(shù)和道德倫理原則等。算法治理主體通過(guò)外部治理、算法治理對(duì)象通過(guò)自我治理，以及近年來(lái)理論界與實(shí)踐界關(guān)注度不斷提高的對(duì)治理過(guò)程本身或治理主體的“元規(guī)制”，在明晰各類主體權(quán)責(zé)和應(yīng)承擔(dān)技術(shù)倫理責(zé)任的基礎(chǔ)上，形成多元化主體協(xié)同機(jī)制、利益均衡機(jī)制和敏捷治理機(jī)制，實(shí)現(xiàn)算法治理體系的穩(wěn)健運(yùn)行。

2.算法治理體系的運(yùn)行機(jī)制。一是多主體協(xié)同機(jī)制。算法治理首先需要相關(guān)政府部門采取由上而下的行政賦能，通過(guò)立法立規(guī)明晰不同算法應(yīng)用所涉及的各類主體的權(quán)責(zé)，通過(guò)系列的工具和措施來(lái)實(shí)現(xiàn)對(duì)算法的評(píng)估、對(duì)算法的問(wèn)責(zé)、對(duì)算法的審計(jì)，建立責(zé)罰相當(dāng)?shù)闹卫砜蚣?。其次，厘清算法治理主體與治理對(duì)象間的關(guān)系，提高相關(guān)企業(yè)、社會(huì)組織和公眾對(duì)算法應(yīng)用的技術(shù)及倫理的認(rèn)知與理解，推動(dòng)自下而上的多主體、多元化的參與進(jìn)程。在這樣的機(jī)制下，可以充分調(diào)動(dòng)算法所涉及的各類主體的積極性與能動(dòng)性，形成對(duì)公共部門作為單一治理主體的有益補(bǔ)充。

二是利益均衡機(jī)制。算法治理工作的目的是保障和實(shí)現(xiàn)公共利益，而公共利益意味著一定社會(huì)條件下或特定范圍內(nèi)不特定多數(shù)主體利益相一致。利益均衡首先要明確主體利益，然后建立主體利益規(guī)范機(jī)制。算法治理涉及的主體利益既包括用戶個(gè)體和數(shù)字勞動(dòng)者的隱私權(quán)、他們對(duì)算法的知情權(quán)和要求解釋權(quán)，也包括算法設(shè)計(jì)者或控制方應(yīng)享有合法使用信息與數(shù)據(jù)的權(quán)利，以及在知識(shí)產(chǎn)權(quán)保護(hù)下獲得算法應(yīng)用的收益權(quán)，還包括公共部門合法使用算法的權(quán)利等。利益均衡機(jī)制需要依靠立法的權(quán)威和社會(huì)性的、經(jīng)濟(jì)性的規(guī)制手段來(lái)協(xié)調(diào)各方主體，在利益共存和相容的基礎(chǔ)上通過(guò)科學(xué)治理程序和具體治理工具解決制衡與保護(hù)等問(wèn)題。

三是敏捷治理（Agile Governance）機(jī)制。如果說(shuō)多主體協(xié)同機(jī)制與利益均衡機(jī)制更多地是從算法涉及的治理主體與治理對(duì)象的復(fù)雜性出發(fā)構(gòu)建治理體系的原則與基礎(chǔ)，那么敏捷治理機(jī)制則是從算法治理的效率與效果出發(fā)推動(dòng)算法治理體系可持續(xù)運(yùn)行。當(dāng)數(shù)字技術(shù)應(yīng)用超越了傳統(tǒng)治理體系范疇，敏捷治理機(jī)制是為應(yīng)對(duì)技術(shù)帶來(lái)的新風(fēng)險(xiǎn)和新挑戰(zhàn)而開(kāi)展的新型治理。敏捷治理機(jī)制依托“政府為核心+多元參與主體”的模式，通過(guò)跨部門合作形成自上而下與自下而上相結(jié)合的治理程序；從對(duì)需求的被動(dòng)響應(yīng)轉(zhuǎn)向?qū)π枨蟮闹鲃?dòng)響應(yīng)，從結(jié)果導(dǎo)向的治理轉(zhuǎn)向過(guò)程導(dǎo)向的治理，在不斷的自反性學(xué)習(xí)過(guò)程中，動(dòng)態(tài)調(diào)整并優(yōu)化治理工具與措施。盡管敏捷治理在理論研究和實(shí)踐應(yīng)用中仍存在目標(biāo)與效果的差距，但不可否認(rèn)的是，集合各方力量、以迅速響應(yīng)和不斷自反性學(xué)習(xí)為原則的敏捷治理機(jī)制，可以有效地推進(jìn)算法治理中多主體協(xié)同與利益均衡的實(shí)現(xiàn)。

3.算法治理的措施優(yōu)化。推動(dòng)以上三種機(jī)制并行，算法治理的措施優(yōu)化應(yīng)堅(jiān)持過(guò)程導(dǎo)向和主動(dòng)響應(yīng)需求的原則，引入“元規(guī)制”理念，強(qiáng)調(diào)多主體權(quán)責(zé)的明確和系統(tǒng)參與，加強(qiáng)事前、事中和事后全過(guò)程的管理。

首先，算法治理的措施優(yōu)化體現(xiàn)在外部治理和自我治理基礎(chǔ)上元規(guī)制理念的引入。“元規(guī)制”是指規(guī)制本身成為被規(guī)制的對(duì)象（Bronwen Morgan, 2003）。顯然，元規(guī)制不僅對(duì)治理主體進(jìn)行規(guī)制，也強(qiáng)調(diào)對(duì)治理過(guò)程的管控。實(shí)踐中元規(guī)制的主旨不在于對(duì)算法風(fēng)險(xiǎn)個(gè)案解決，而在于對(duì)算法應(yīng)用進(jìn)行整體的技術(shù)標(biāo)準(zhǔn)指引，并對(duì)“算法類型—算法風(fēng)險(xiǎn)”的生成機(jī)制予以過(guò)程性管理的回應(yīng)。例如，國(guó)際標(biāo)準(zhǔn)化組織已于2018年開(kāi)始制定針對(duì)消費(fèi)者數(shù)據(jù)信息保護(hù)的標(biāo)準(zhǔn)，旨在改善算法帶來(lái)的“價(jià)格歧視”問(wèn)題；2019年，德國(guó)數(shù)據(jù)倫理委員會(huì)發(fā)布“針對(duì)數(shù)據(jù)和算法的建議”，建立數(shù)字服務(wù)企業(yè)使用數(shù)據(jù)的5級(jí)風(fēng)險(xiǎn)評(píng)級(jí)制度，對(duì)不同風(fēng)險(xiǎn)類型的企業(yè)采取不同的監(jiān)管措施。目前，我國(guó)已出臺(tái)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)一步明確算法推薦服務(wù)商在保護(hù)個(gè)人信息、防止過(guò)度消費(fèi)、秉持道德倫理等方面的責(zé)任和算法需備案、定期審核等要求，對(duì)打破算法黑箱大有裨益。但目前我國(guó)尚缺乏對(duì)不同類型算法的技術(shù)標(biāo)準(zhǔn)和對(duì)算法風(fēng)險(xiǎn)分級(jí)分類管理的標(biāo)準(zhǔn)，從元規(guī)制視角出發(fā)，這些標(biāo)準(zhǔn)應(yīng)盡快出臺(tái)，以實(shí)現(xiàn)將治理原則和目標(biāo)融入技術(shù)開(kāi)發(fā)和應(yīng)用中，推動(dòng)治理對(duì)象的自我治理和治理過(guò)程的全覆蓋。

其次，算法規(guī)制的措施優(yōu)化體現(xiàn)在對(duì)算法應(yīng)用全過(guò)程的管理。在《中華人民共和國(guó)個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》頒布之前，我國(guó)對(duì)于算法的治理較明顯地體現(xiàn)為事后治理，比如2018年8月頒布的《電子商務(wù)法》第十九條規(guī)定“電子商務(wù)經(jīng)營(yíng)者搭售商品或者服務(wù)，應(yīng)當(dāng)以顯著方式提醒消費(fèi)者注意，不得將搭售商品或者服務(wù)作為默認(rèn)同意的選項(xiàng)”，對(duì)這一條款的違規(guī)處罰上限為50萬(wàn)元罰款。再比如2021年2月出臺(tái)的《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》中明確指出“認(rèn)定平臺(tái)經(jīng)濟(jì)領(lǐng)域的濫用市場(chǎng)支配地位行為，適用《反壟斷法》第三章和《禁止濫用市場(chǎng)支配地位行為暫行規(guī)定》”，認(rèn)定過(guò)程及行政處罰等也是通過(guò)舉報(bào)、調(diào)查等事后追索。因?yàn)樗惴夹g(shù)的迭代更新，事后治理或追責(zé)往往無(wú)法有效應(yīng)對(duì)算法應(yīng)用引致風(fēng)險(xiǎn)的廣泛性和破壞性，增強(qiáng)事中，特別是事前的治理才有利于前瞻性地防范算法風(fēng)險(xiǎn)的產(chǎn)生。2021年12月出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》強(qiáng)調(diào)“算法風(fēng)險(xiǎn)防控機(jī)制備案”“建立健全算法機(jī)制機(jī)理審核與評(píng)估”“驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果”等，這已充分說(shuō)明我國(guó)已逐漸實(shí)現(xiàn)算法問(wèn)責(zé)前置，推進(jìn)事前和事中治理工作。在此基礎(chǔ)上，需進(jìn)一步探索算法內(nèi)容（原理）的備案路徑、拓展第三方算評(píng)估（審計(jì)）的范圍等，讓原則與要求具有落地基礎(chǔ)；同時(shí)要關(guān)注算法影響的平臺(tái)參與企業(yè)、消費(fèi)者、數(shù)字勞動(dòng)者等多重個(gè)體，可以通過(guò)分類別的負(fù)面清單方式，阻斷算法風(fēng)險(xiǎn)的產(chǎn)生。

總體而言，算法應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)是多維度的，是算法應(yīng)用中技術(shù)權(quán)力轉(zhuǎn)化為資本權(quán)力和對(duì)公共資源的控制，從而導(dǎo)致了市場(chǎng)失靈或政府失靈。技術(shù)本無(wú)善惡，是具有中立性的工具和手段。技術(shù)應(yīng)用達(dá)到何種目的，產(chǎn)生何種影響，均有賴于使用和控制技術(shù)的主體。因此，發(fā)揮算法推動(dòng)社會(huì)向善發(fā)展的作用，需要深入分析算法應(yīng)用產(chǎn)生風(fēng)險(xiǎn)的特征以及風(fēng)險(xiǎn)產(chǎn)生的機(jī)理，并推進(jìn)多元主體協(xié)同、利益均衡和敏捷治理機(jī)制，通過(guò)動(dòng)態(tài)優(yōu)化治理工具與措施，構(gòu)筑“負(fù)責(zé)任的算法”的基石。

參考文獻(xiàn)

胡泳，2015，《新詞探討：回聲室效應(yīng)》，《新聞與傳播研究》，第6期。

陳昌鳳、霍婕，2018，《權(quán)力遷移與人本精神：算法式新聞分發(fā)的技術(shù)倫理》，《新聞與寫(xiě)作》，第1期。

［美］伊萊·帕里澤，2020，《過(guò)濾泡：互聯(lián)網(wǎng)對(duì)我們的隱秘操縱》，方師師、楊媛譯，北京：中國(guó)人民大學(xué)出版社。

張愛(ài)軍、梁賽，2019，《網(wǎng)絡(luò)群體極化的負(fù)面影響和規(guī)避措施》，《學(xué)術(shù)界》，第4期。

郭小平、秦藝軒，2019，《解構(gòu)智能傳播的數(shù)據(jù)神話：算法偏見(jiàn)的成因與風(fēng)險(xiǎn)治理路徑》，《現(xiàn)代傳播》，第9期。

單勇，2019，《跨越“數(shù)字鴻溝”：技術(shù)治理的非均衡性社會(huì)參與應(yīng)對(duì)》，《中國(guó)特色社會(huì)主義研究》，第5期。

Brown B., 2014, "Will Work For Free: The Biopolitics of Unwaged Digital Labour", TripleC (Cognition, Communication, Co-Operation): Open Access Jo, 12(2).

Nixon B., 2014, "Toward a Political Economy of 'Audience Labour' in the Digital Era", TripleC, 12(2), pp. 713-734.

吳鼎銘，2017，《網(wǎng)絡(luò)“受眾”的勞工化：傳播政治經(jīng)濟(jì)學(xué)視角下網(wǎng)絡(luò)“受眾”的產(chǎn)業(yè)地位研究》，《國(guó)際新聞界》，第6期。

郭春鎮(zhèn)、馬磊，2020，《大數(shù)據(jù)時(shí)代個(gè)人信息問(wèn)題的回應(yīng)型治理》，《法制與社會(huì)發(fā)展》，第2期。

Ezrachi A.; Stucke M. E., 2016, Virtual Competition: The Promise and Perils of the Algorithm－Driven Economy, Cambridge MA: Harvard University Press, pp. 35-70.

Kirsten M., 2018, "Ethical Implications and Accountability of Algorithms", Journal of Business Ethics, 3, pp. 1-16.

黃曉偉，2019，《互聯(lián)網(wǎng)平臺(tái)壟斷問(wèn)題的算法共謀根源及協(xié)同治理思路》，《中國(guó)科技論壇》，第2期。

John Cheneyey-lippold, 2011, "A New Algorithmic Identity: Soft Biopolityics and the Modulation of Control", Theory, Culture & Society, 28, pp. 164-168.

Zuboff S., 2015, "Big Other: Surveillance Capitalism and the Prospects of an Informal Civilization", Journal of Information Technology, 30, pp. 75-89.

鄭戈，2018，《算法的法律與法律的算法》，《中國(guó)法律評(píng)論》，第2期。

張凌寒，2019，《算法權(quán)力的興起、異化及法律規(guī)制》，《法商研究》，第6期。

劉朝，2022，《算法歧視的表現(xiàn)、成因與治理策略》，《人民論壇》，第2期。

［英］阿里爾·扎拉奇（Ariel Ezrachi）、［英］莫里斯·E·斯圖克（Maurice E. Stucke），2018，《算法的陷阱》，余瀟譯，北京：中信出版社，第130～155頁(yè)。

Morgan B., 2003, Social Citizenship in the Shadow of Competition: The Bureaucratic Politics of Regulatory Justification, Aldershot, England: Ashgate Publishing Ltd, p. 2.

責(zé) 編／張 曉

金雪濤，中國(guó)傳媒大學(xué)國(guó)際傳媒教育學(xué)院院長(zhǎng)，中國(guó)傳媒大學(xué)經(jīng)濟(jì)與管理學(xué)院教授、博導(dǎo)。研究方向?yàn)楫a(chǎn)業(yè)經(jīng)濟(jì)學(xué)，數(shù)字經(jīng)濟(jì)和傳媒經(jīng)濟(jì)。主要著作有《文化產(chǎn)業(yè)投融資：理論與案例》《數(shù)字媒體經(jīng)濟(jì)學(xué)》《中國(guó)電影產(chǎn)業(yè)國(guó)際競(jìng)爭(zhēng)力測(cè)度研究》等。

Algorithmic Governance: System Building and Measures

Jin Xuetao

Abstract: If data is the core factor of production in the digital economy era, then algorithms are the operation foundation for making it an asset and capitalizing on its value. By empowering various fields, the digital technology gives birth to new products, new organizational models, new business models and new industrial formats. But at the same time, it also brings potential risks such as algorithmic bias, algorithmic manipulation, algorithmic collaboration, algorithmic black box and so on. Different types of algorithms have different effects on the potential risks of algorithmic application through design and implementation and may lead to government failure and market failure. To explore the architecture of algorithmic governance surrounding "the governing party - the governed - governance tools and measures", this article suggests integrating the three mechanisms of multi-party collaboration, interest balance and agile governance and making use of them by optimizing algorithmic governance measures on the basis of the concepts of meta regulation and whole process management.

Keywords: algorithmic risks, algorithm types, governance system, governance measures