沈艷、黃益平:“算法審查”是保證合法合規(guī)經(jīng)營(yíng)的重要一步


12月19日,中共中央、國(guó)務(wù)院《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(下簡(jiǎn)稱《數(shù)據(jù)二十條》)正式發(fā)布,首次明確提出了數(shù)據(jù)產(chǎn)權(quán)、數(shù)據(jù)流通和交易、數(shù)據(jù)要素收益分配和數(shù)據(jù)要素治理等四個(gè)方面的制度框架。
作者:
沈 艷 北京大學(xué)匯豐商學(xué)院院長(zhǎng)助理
黃益平 北京大學(xué)國(guó)家發(fā)展研究院副院長(zhǎng)
12月19日,中共中央、國(guó)務(wù)院《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(下簡(jiǎn)稱《數(shù)據(jù)二十條》)正式發(fā)布,首次明確提出了數(shù)據(jù)產(chǎn)權(quán)、數(shù)據(jù)流通和交易、數(shù)據(jù)要素收益分配和數(shù)據(jù)要素治理等四個(gè)方面的制度框架?!稊?shù)據(jù)二十條》是在明確數(shù)據(jù)成為新的生產(chǎn)要素之后又一個(gè)歷史性的政策文件,在數(shù)據(jù)確權(quán)、數(shù)據(jù)交易和數(shù)據(jù)治理等領(lǐng)域的重要?jiǎng)?chuàng)新,將對(duì)中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展格局產(chǎn)生深遠(yuǎn)影響。當(dāng)然,建立數(shù)據(jù)制度是一個(gè)全新的挑戰(zhàn),現(xiàn)在開了一個(gè)好頭,還有不少問題值得進(jìn)一步討論,數(shù)據(jù)制度也可以在探索中不斷完善。
數(shù)據(jù)確權(quán)制度
《數(shù)據(jù)二十條》首要的創(chuàng)新是提出數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營(yíng)權(quán)“三權(quán)分置”的產(chǎn)權(quán)制度。這個(gè)創(chuàng)新性的安排切合數(shù)字經(jīng)濟(jì)的特點(diǎn),數(shù)據(jù)要素形成過程中的參與方比較多,這意味著數(shù)據(jù)很難像土地、勞動(dòng)和資本那樣清晰地確定所有權(quán)。這個(gè)“三權(quán)分置”的框架不糾結(jié)于數(shù)據(jù)“歸誰所有”這一傳統(tǒng)視角,而是從數(shù)據(jù)的三種形態(tài)出發(fā),明確對(duì)應(yīng)的持有權(quán)、加工使用權(quán)和經(jīng)營(yíng)權(quán)。以“三權(quán)分置”為主線,從公共數(shù)據(jù)、企業(yè)數(shù)據(jù)和個(gè)人數(shù)據(jù)這三個(gè)維度,界定“誰的數(shù)據(jù)”;同時(shí)也明確確權(quán)依據(jù)是“數(shù)據(jù)來源和數(shù)據(jù)生成特征”,這就讓數(shù)據(jù)來源方、數(shù)據(jù)處理方、數(shù)據(jù)使用方的權(quán)益得到了保障。
《數(shù)據(jù)二十條》提出的數(shù)據(jù)資源、數(shù)據(jù)和數(shù)據(jù)產(chǎn)品這三種形態(tài)是確立產(chǎn)權(quán)分置制度的基礎(chǔ)。從準(zhǔn)確理解數(shù)據(jù)的特性與功能,還可以進(jìn)一步明確“數(shù)據(jù)三態(tài)”,數(shù)據(jù)資源包含了存在于公共機(jī)構(gòu)、自然界、企業(yè)、個(gè)人等多方的可以以數(shù)據(jù)形式記錄的信息;數(shù)據(jù)產(chǎn)品是采集、清理和加工數(shù)據(jù)資源所形成的成果;數(shù)據(jù)資產(chǎn)則是數(shù)據(jù)產(chǎn)品應(yīng)用于經(jīng)營(yíng)活動(dòng)時(shí)的形態(tài)。
數(shù)據(jù)流通和交易制度
《數(shù)據(jù)二十條》的另一個(gè)重大突破是基于數(shù)據(jù)要素的特征,提出了一個(gè)全流程的合規(guī)與監(jiān)管規(guī)則體系。這一文件系統(tǒng)地回答了數(shù)據(jù)交易和流通中的六大問題:一是什么樣的數(shù)據(jù)可以流通;二是怎樣評(píng)估數(shù)據(jù)質(zhì)量;三是數(shù)據(jù)流通需要哪些軟硬件準(zhǔn)備;四是數(shù)據(jù)流通在什么樣的場(chǎng)所完成;五是數(shù)據(jù)如何定價(jià);六是如何做數(shù)據(jù)質(zhì)量控制。
這個(gè)框架充分考慮了數(shù)據(jù)要素不同于傳統(tǒng)生產(chǎn)要素的特征在供給、需求和交易環(huán)節(jié)造成的挑戰(zhàn)。數(shù)據(jù)包含個(gè)人隱私和商業(yè)機(jī)密,還具有非排他性、非競(jìng)爭(zhēng)性和非耗竭性,同時(shí)信息不對(duì)稱的矛盾十分突出,因此數(shù)據(jù)無法像土地、勞動(dòng)和資本那樣在市場(chǎng)上流通。所以,要建立健全的數(shù)據(jù)交易市場(chǎng)體系,需要解決數(shù)據(jù)供給方、數(shù)據(jù)需求方以及數(shù)據(jù)交易環(huán)節(jié)中的困難。最突出的問題可能是數(shù)據(jù)有效供給不足,品牌數(shù)據(jù)缺乏。數(shù)據(jù)需求不少,但是交易或流通收益少、合規(guī)風(fēng)險(xiǎn)和安全風(fēng)險(xiǎn)大,導(dǎo)致數(shù)據(jù)供給方不想賣、不敢賣。有效供給不足,數(shù)據(jù)方也存在尋找合適數(shù)據(jù)難、貨比三家難、內(nèi)外整合難和安全保障難等問題。另外在交易環(huán)節(jié),還存在數(shù)據(jù)交易機(jī)制不順暢的問題,數(shù)據(jù)交易爭(zhēng)端難以解決等方面。
《數(shù)據(jù)二十條》從增加有效供給和提高數(shù)據(jù)交易效率這兩個(gè)維度破局,同樣具有很強(qiáng)的創(chuàng)新性,而且也留下發(fā)展空間。在交易場(chǎng)所方面,關(guān)注點(diǎn)主要放在“統(tǒng)籌構(gòu)建規(guī)范高效的數(shù)據(jù)交易場(chǎng)所”,提出“引導(dǎo)多種類型的數(shù)據(jù)交易場(chǎng)所共同發(fā)展,突出國(guó)家級(jí)數(shù)據(jù)交易場(chǎng)所合規(guī)監(jiān)管和基礎(chǔ)服務(wù)功能”。在可預(yù)見的將來,可能需要特別重視場(chǎng)外交易的重要性,至少是作為正規(guī)交易所場(chǎng)內(nèi)交易的重要補(bǔ)充。
目前比較常見的數(shù)據(jù)交易模式有三類:第一類是點(diǎn)對(duì)點(diǎn)模式,主要是企業(yè)之間自發(fā)簽訂合同對(duì)數(shù)據(jù)或數(shù)據(jù)開發(fā)進(jìn)行交易;第二類是數(shù)據(jù)中介,其中最常見的是數(shù)據(jù)經(jīng)紀(jì)商,作為中介對(duì)接數(shù)據(jù)交易的供需雙方,一方面收集并開發(fā)數(shù)據(jù),另一方面根據(jù)特定需求提供數(shù)據(jù)或與數(shù)據(jù)相關(guān)的增值服務(wù);第三類是數(shù)據(jù)集市模式,構(gòu)建數(shù)據(jù)交易的平臺(tái),數(shù)據(jù)交易所是數(shù)據(jù)集市模式的一種形式。
從全球的經(jīng)驗(yàn)看,數(shù)據(jù)集市不容易做,規(guī)模也小。據(jù)Maximize Market Research統(tǒng)計(jì),2021年全球數(shù)據(jù)中介交易約為2572億美元,預(yù)計(jì)2029年將達(dá)3657億美元;而Grand View Research 的統(tǒng)計(jì)顯示2021年全球數(shù)據(jù)集市的市場(chǎng)規(guī)模為7.8億美元(其中B2B數(shù)據(jù)集市占據(jù)了58%的收入份額),預(yù)計(jì)2030年將達(dá)50.9億美元。另外,有大量數(shù)據(jù)集市失敗或關(guān)閉的例子,比如微軟的Azure DataMarket(-2018)、Kasabi(2010-2012)、奧地利的Data Market Austria, Swivel.com等。
數(shù)據(jù)顯示,目前的主流模式是依托于品牌數(shù)據(jù)經(jīng)紀(jì)商的數(shù)據(jù)交易。在美國(guó),許多行業(yè)都有典型的數(shù)據(jù)經(jīng)紀(jì)商,比如Corelogic涵蓋了美國(guó)99%以上住宅與商業(yè)地產(chǎn)數(shù)據(jù)等。
數(shù)據(jù)交易困難的癥結(jié)在于信息不對(duì)稱程度高、信任不容易建立,好的交易模式必須有效地解決這個(gè)問題。點(diǎn)對(duì)點(diǎn)可行,是因?yàn)楣┬桦p方見面,供需直接匹配。數(shù)據(jù)商占主導(dǎo),是因?yàn)橹薪榭梢詭椭档托畔⒉粚?duì)稱、增加信任。交易所進(jìn)展有限,是因?yàn)閿?shù)據(jù)產(chǎn)品比較難標(biāo)準(zhǔn)化,除非交易所兼做數(shù)據(jù)商或者引入大量的數(shù)據(jù)商?,F(xiàn)在數(shù)據(jù)交易市場(chǎng)體系剛剛開始建立,不妨讓“有效市場(chǎng)”和“有為政府”共同發(fā)揮作用,如果數(shù)據(jù)商有能力解決問題,那就不必過分糾結(jié)場(chǎng)內(nèi)還是場(chǎng)外,當(dāng)然,對(duì)場(chǎng)外交易也要做到監(jiān)管全覆蓋。
探索算法審計(jì)制度
《數(shù)據(jù)二十條》提出數(shù)據(jù)治理的目標(biāo)是“打造安全可信、包容創(chuàng)新、公平開放、監(jiān)管有效的數(shù)據(jù)要素市場(chǎng)環(huán)境”,并首次提到要建立“算法審查”制度。算法對(duì)于數(shù)字經(jīng)濟(jì)中經(jīng)營(yíng)效率的提升和信用風(fēng)險(xiǎn)的管控作出了重大貢獻(xiàn)。與此同時(shí),算法黑箱、算法歧視等問題也時(shí)有所聞,關(guān)鍵是數(shù)字經(jīng)濟(jì)企業(yè)的大部分合作者和消費(fèi)者完全無法判斷算法的公平性,監(jiān)管部門在現(xiàn)行政策框架下也很難真正做到穿透式監(jiān)管。因此,“算法審查”是保證合法合規(guī)經(jīng)營(yíng)的重要一步。
但《數(shù)據(jù)二十條》并沒有明確說明算法審查誰來做、怎么做。算法治理的核心有三個(gè)層面,一是企業(yè)自我實(shí)行合規(guī)管理并制定科技倫理準(zhǔn)則,堅(jiān)持科技向善的導(dǎo)向;二是建立算法備案機(jī)制,起碼可以對(duì)監(jiān)管部門做到規(guī)則透明;三是監(jiān)管部門或受委托的第三方定期或不定期組織算法審計(jì),也可以在收到其它市場(chǎng)參與者投訴的時(shí)候啟動(dòng)。未來一條可行的路徑是由監(jiān)管部門設(shè)定規(guī)則、市場(chǎng)機(jī)構(gòu)具體執(zhí)行的“算法審計(jì)”。
算法審計(jì)是指收集有關(guān)算法在特定環(huán)境中使用時(shí)的數(shù)據(jù),并據(jù)此評(píng)估算法的合法性和公平性。美國(guó)總統(tǒng)辦公室在2016年的一份報(bào)告就明確了推動(dòng)算法審計(jì)的方向。從業(yè)界經(jīng)驗(yàn)看,頭部審計(jì)公司也積極參與到算法審計(jì)中,如德勤對(duì)外,尤其是對(duì)政府客戶推出的算法審計(jì)服務(wù),設(shè)立了算法審計(jì)師、并明確算法審計(jì)工具箱等安排。中國(guó)可借鑒國(guó)際經(jīng)驗(yàn),進(jìn)一步明確算法審計(jì)的路徑、具體框架和評(píng)估尺度,構(gòu)建算法審計(jì)制度。
算法審計(jì)一般有兩種思路,一種重視算法代碼透明化,另一種重視對(duì)輸入輸出和對(duì)結(jié)果的評(píng)估。在算法代碼透明化的安排中,要求企業(yè)提供核心算法程序,由獨(dú)立第三方企業(yè)或者公共機(jī)構(gòu)直接評(píng)估算法程序是否合理。這一安排的弊端在于,可能會(huì)涉及被審計(jì)企業(yè)的核心商業(yè)機(jī)密而被拒絕,而審查機(jī)構(gòu)也無從知曉所提供的算法是否就是實(shí)際使用的算法。在重視輸入輸出和結(jié)果的審計(jì)安排中,輸入審計(jì)是指要求平臺(tái)明確,在個(gè)性化服務(wù)的時(shí)候,依據(jù)的是哪些重點(diǎn)維度。輸出審計(jì)是指要求平臺(tái)報(bào)告依據(jù)算法,最主要追求的是什么樣的目標(biāo),比如公平究竟是什么;同時(shí)要求平臺(tái)報(bào)告算法相關(guān)成效,并評(píng)估相關(guān)成效。
算法使用機(jī)構(gòu)應(yīng)該從多個(gè)維度報(bào)告算法安排:一是預(yù)測(cè)或優(yōu)化目標(biāo)以及具體指標(biāo),闡明算法設(shè)計(jì)時(shí)對(duì)不同利益相關(guān)方的利益的考量;二是算法訓(xùn)練和評(píng)估及選擇中用到的數(shù)據(jù),包括數(shù)據(jù)的搜集、排除和代表性;三是算法技術(shù),特別是不同技術(shù)的比較與選擇;四是算法運(yùn)行效果,包括預(yù)測(cè)精準(zhǔn)度和利益相關(guān)方的利益;五是個(gè)人信息保護(hù)和數(shù)據(jù)安全方面的安排。另外,算法審計(jì)可以考慮一些基本的指標(biāo),包括歧視、有效性、透明度、直接影響、安全性和可獲得性等。當(dāng)然,在具體的執(zhí)行過程中可以根據(jù)業(yè)務(wù)的特點(diǎn)對(duì)評(píng)估指標(biāo)做一些特定的選擇與安排。通過為算法在上述維度及其分項(xiàng)按照合規(guī)程度打分,幫助利益相關(guān)方和社會(huì)公眾對(duì)平臺(tái)的算法合規(guī)程度有全面的了解,從而推動(dòng)企業(yè)有更高的積極性用合規(guī)的算法來推動(dòng)自身發(fā)展、推動(dòng)中國(guó)數(shù)字經(jīng)濟(jì)的健康成長(zhǎng)。
來源:中新經(jīng)緯
編輯:董湘依
(本文轉(zhuǎn)載自 ,如有侵權(quán)請(qǐng)電話聯(lián)系13810995524)
* 文章為作者獨(dú)立觀點(diǎn),不代表MBAChina立場(chǎng)。采編部郵箱:news@mbachina.com,歡迎交流與合作。
備考交流

掃碼關(guān)注我們
- 獲取報(bào)考資訊
- 了解院?;顒?dòng)
- 學(xué)習(xí)備考干貨
- 研究上岸攻略
最新動(dòng)態(tài)
推薦項(xiàng)目
活動(dòng)日歷
- 01月
- 02月
- 03月
- 04月
- 05月
- 06月
- 07月
- 08月
- 09月
- 10月
- 11月
- 12月
- 09/06 深圳活動(dòng)預(yù)約 | 搶占先機(jī)!余明陽解析中國(guó)企業(yè)的商機(jī) —— 交大安泰 MBA 全真試聽課堂開講
- 09/06 歡迎走進(jìn)清華園!清華大學(xué)會(huì)計(jì)碩士2026級(jí)招生體驗(yàn)日精彩上線
- 09/06 9.6北大國(guó)發(fā)院EMBA體驗(yàn)日 | 智能體互聯(lián)網(wǎng):新價(jià)值、新模式與新格局
- 09/06 全球博弈下的中國(guó)制造:產(chǎn)業(yè)鏈突圍與重構(gòu) | 活動(dòng)報(bào)名
- 09/06 北京場(chǎng) | 清華-康奈爾雙學(xué)位金融MBA項(xiàng)目公開課暨2026級(jí)招生說明會(huì)報(bào)名中!
- 09/07 9.7廣州校區(qū)專場(chǎng) | 北大匯豐MBA探索營(yíng)嚟廣州啦!
- 09/07 重磅活動(dòng)上新 | 一堂刷新管理思維的財(cái)務(wù)課!交大安泰MBA授課師資劉濤教授全真試聽課堂,解讀價(jià)值視角下企業(yè)的財(cái)務(wù)思維!
- 09/07 香港中文大學(xué)EMBA(中文)2026級(jí)招生發(fā)布會(huì)邀您參加!
- 09/10 從金融科技到科技金融,來TFMBA招生開放日聽頂級(jí)產(chǎn)品經(jīng)理職場(chǎng)進(jìn)階之路
- 09/10 MBA科創(chuàng)沙龍報(bào)名 | 科技與AI:北大創(chuàng)業(yè)者的未來創(chuàng)新之路