姚前表示，算法催生了新的經(jīng)濟(jì)模式，帶來社會(huì)整體效益的提升，但近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關(guān)注

文｜《財(cái)經(jīng)》記者 陳洪杰

編輯 | 袁滿

“算法經(jīng)濟(jì)大幅改善市場經(jīng)濟(jì)的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔(dān)心被智能算法替代，導(dǎo)致個(gè)人價(jià)值喪失。不僅如此，隨著算法經(jīng)濟(jì)的快速發(fā)展，算法的滲透力和影響力越趨強(qiáng)大，其背后隱含的風(fēng)險(xiǎn)以及作惡的可能引起了關(guān)注?！?021年9月3日，中國證監(jiān)會(huì)科技監(jiān)管局局長姚前在2021年服貿(mào)會(huì)金融服務(wù)專題展期間舉行的“2021中國國際金融科技論壇”上表示。

姚前稱，首先是算法濫用。算法規(guī)則的背后是商業(yè)利益。為了追求利益最大化，算法有可能違背社會(huì)公平、道德和人性，比如大數(shù)據(jù)殺熟，同樣的商品或服務(wù)，老客戶的價(jià)格反而比新客戶要貴。只推薦給人們能潛在帶來商業(yè)利益的東西，而不是最適合、最恰當(dāng)?shù)臇|西?？赡転E用人性弱點(diǎn)，過度激發(fā)、勸服、誘導(dǎo)客戶，使人習(xí)慣于被喂養(yǎng)，不自覺地對(duì)算法投放的產(chǎn)品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數(shù)據(jù)、商品和工具。算法的具體原理和參數(shù)只有運(yùn)營企業(yè)的少部分人才能知道，有可能產(chǎn)生利益侵占問題。有的企業(yè)可能利用算法作惡，比如為了擴(kuò)大流量，推送聳人聽聞的虛假信息；推薦虛假產(chǎn)品。

其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結(jié)果必然導(dǎo)致某種偏見。算法的設(shè)計(jì)者是人，算法設(shè)計(jì)師乃至企業(yè)管理者、價(jià)值觀的偏見可能被嵌入算法。算法的“技術(shù)光環(huán)”容易讓人盲從所謂的“科學(xué)”，但實(shí)質(zhì)上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機(jī)器學(xué)習(xí)算法；機(jī)器學(xué)習(xí)算法側(cè)重于相關(guān)性分析，而不是因果分析，可能產(chǎn)生錯(cuò)誤的勾連與判斷；基于歷史數(shù)據(jù)的機(jī)器學(xué)習(xí)算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標(biāo)簽每個(gè)人，某種程度上也是一種偏見。

另外，算法鴻溝也值得重視。算法通常是隱秘的，或是專利，或是商業(yè)秘密。即便公開，也因技術(shù)門檻，也不是每個(gè)人都能看懂。這就形成新的數(shù)字鴻溝。不懂算法的人群在利益受損時(shí)有可能并不知情，即便知情，也可能無力舉證和對(duì)抗。

姚前還表示，在特定領(lǐng)域，算法還可能引致特定風(fēng)險(xiǎn)。比如在金融領(lǐng)域，智能算法給出的資產(chǎn)配置建議有可能是推薦了與金融機(jī)構(gòu)自身利益高度攸關(guān)的產(chǎn)品，涉嫌利益侵占；智能算法形成信息繭房，強(qiáng)化投資者偏見，容易掩蓋金融風(fēng)險(xiǎn)復(fù)雜性，引誘過度消費(fèi)和負(fù)債，甚至誤導(dǎo)投資者；智能算法若存在歧視，則損害投資者公平性；智能算法趨同導(dǎo)致“羊群效應(yīng)”，加大金融順周期風(fēng)險(xiǎn)等。

因算法背后有一些風(fēng)險(xiǎn)，各國的監(jiān)管部門高度關(guān)注算法隱含的風(fēng)險(xiǎn)。例如，歐盟《一般數(shù)據(jù)保護(hù)條例》（GDPR）第22條對(duì)自動(dòng)化決策加以限制，如果某種包括數(shù)據(jù)分析在內(nèi)的自動(dòng)化決策會(huì)對(duì)數(shù)據(jù)主體產(chǎn)生法律效力或?qū)ζ湓斐深愃频闹卮笥绊懀瑪?shù)據(jù)主體有權(quán)不受上述決策的限制。又例如，針對(duì)智能算法在投資顧問中的應(yīng)用，美國證券交易委員會(huì)（SEC）、英國金融業(yè)監(jiān)管局（FINRA）、澳大利亞證券和投資委員會(huì)（ASIC）出臺(tái)了具體的智能投顧監(jiān)管指引。

對(duì)于中國而言，也采取也一些措施。2018年發(fā)布的《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》也提出，要避免智能算法順周期性風(fēng)險(xiǎn)、羊群效應(yīng)等相關(guān)規(guī)定。2020年12月，中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法，要加強(qiáng)對(duì)大數(shù)據(jù)、云計(jì)算和人工智能等新技術(shù)研發(fā)應(yīng)用的規(guī)范引導(dǎo)。網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》向社會(huì)公開征求意見指出，算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任，建立健全相應(yīng)管理制度，制定并公開算法推薦相關(guān)服務(wù)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，加強(qiáng)信息內(nèi)容管理，同時(shí)，算法推薦服務(wù)提供者不得利用算法實(shí)施自我優(yōu)待、不正當(dāng)競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

“總的來說，智能算法已在很多行業(yè)大量采用，考慮到其生態(tài)規(guī)模巨大、潛在風(fēng)險(xiǎn)和社會(huì)影響不容忽視。而我國算法監(jiān)管制度正逐步完善和健全，但具體內(nèi)容有待細(xì)化完善。從機(jī)理看，算法監(jiān)管的具體內(nèi)容至少包括以下內(nèi)容?！币η氨硎?。

一是信息披露，即作為算法的設(shè)計(jì)者和控制方，相關(guān)主體及利益相關(guān)者應(yīng)該披露算法設(shè)計(jì)、執(zhí)行、使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來源以及可能對(duì)個(gè)人和社會(huì)造成的潛在危害。

二是解釋，即作為采用算法自動(dòng)化決策的機(jī)構(gòu)，相關(guān)主體及利益相關(guān)者有義務(wù)解釋算法運(yùn)行原理以及算法具體決策結(jié)果。

三是留痕與可審計(jì)，即算法系統(tǒng)的設(shè)計(jì)、測試、運(yùn)行表現(xiàn)及變動(dòng)留有記錄，全程監(jiān)測，并可審計(jì)。

四是質(zhì)詢和申訴，即確保受到算法決策負(fù)面影響的個(gè)人或組織享有對(duì)算法進(jìn)行質(zhì)疑并申訴的權(quán)力。

五是內(nèi)部治理。相關(guān)主體應(yīng)建立清晰、有效的內(nèi)部治理框架、內(nèi)部控制機(jī)制和責(zé)任體系，防止算法濫用，防范算法風(fēng)險(xiǎn)，并提高算法對(duì)抗性，避免算法攻擊。

六是加強(qiáng)行業(yè)自律。通過行業(yè)自律機(jī)制，加強(qiáng)算法道德和算法倫理建設(shè)。

姚前表示，不可否認(rèn)，算法催生了新的經(jīng)濟(jì)模式，帶來社會(huì)整體效益的提升，有其獨(dú)特優(yōu)勢(shì)，但“有一利必有一弊”，近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關(guān)注。馬克思曾在《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》中對(duì)機(jī)器工業(yè)化時(shí)代人類“異化”現(xiàn)象提出警示，就像機(jī)器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風(fēng)險(xiǎn)同樣值得關(guān)注與警惕。為此，加強(qiáng)算法監(jiān)管，以監(jiān)管科技應(yīng)對(duì)新型科技，既是順應(yīng)之策，又是必然之舉。