證監(jiān)會科技監(jiān)管局局長姚前：加強算法監(jiān)管 以監(jiān)管科技應對新型科技

    本報記者 張歆 吳曉璐

    9月3日，在由北京市地方金融監(jiān)督管理局和北京市朝陽區(qū)人民政府聯(lián)合主辦的2021中國國際金融科技論壇上，證監(jiān)會科技監(jiān)管局局長姚前表示，近年來隨著云計算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術的發(fā)展和應用，數(shù)據(jù)作為生產要素的價值日益體現(xiàn)，算法在經(jīng)濟活動中的重要性日趨凸顯。

    “算法經(jīng)濟大幅改善了市場經(jīng)濟的匹配效率和交易成本，但是，其背后隱藏的風險和作惡的可能也值得關注。”姚前表示，首先是算法的濫用。算法規(guī)則的背后是商業(yè)利益，為了追求利益最大化，算法有可能違背社會公平、道德和人心。其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結果必然導致某種偏見。此外，算法鴻溝也值得重視，算法通常是隱秘的，或是專利或是商業(yè)秘密，即便公開也因技術門檻不是每個人都能看懂，這就形成新的數(shù)字鴻溝，不懂算法的人群在利益受損時有可能并不知情，即便知情也可能無力舉證和對抗。

    “在特定領域，算法還可能引致特定的危險，如智能算法形成的信息減防容易掩蓋金融風險的復雜性，引入過度消費和負債，甚至誤導投資者。智能算法趨同導致羊群效應，加大了金融的順周期風險。”姚前如是說。

    姚前表示，最近，網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》公開征求意見，征求意見稿指出算法推薦服務提供者應當落實算法安全主體責任，建立健全相應的管理制度，制定并公開算法推薦相關服務規(guī)則，配備與算法推薦服務規(guī)模相適應的專業(yè)人員和技術支撐。應當堅持主流的價值導向，同時算法推薦服務提供者不得利用算法實施自我優(yōu)待不正當競爭，影響網(wǎng)絡輿論或者規(guī)避監(jiān)管。

    姚前認為，智能算法已在很多行業(yè)大量采用，考慮到其生態(tài)規(guī)模趨大、潛在風險不容忽視，我國算法監(jiān)管制度正在逐步完善和健全，具體內容還有待完善。算法監(jiān)管具體內容至少包括：一是信息披露，即作為算法的設計者，相關主體和利益相關者應該披露算法設計執(zhí)行使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來源以及可能對個人和社會造成的潛在危害。二是解釋，即作為采用算法自動化的機構，相關主體和利益相關者有義務解釋算法運行原理和算法具體決策結果。三是留痕與可審計，算法系統(tǒng)的設計測試運行表現(xiàn)及變動留有記錄，全程監(jiān)測并可審計。四是質詢與申訴，確保受到算法決策負面影響的個人或組織享有對算法進行質詢并申訴的權利。五是內部治理，相關主體應建立清晰有效的內部治理框架、內部控制機制和責任體系，防止算法濫用，防范算法風險并提高算法的對抗性，避免算法攻擊。六是加強行業(yè)自律，通過行業(yè)自律機制加強算法道德和算法倫理的建設。

    “算法催生了新的經(jīng)濟模式，帶來了社會整體效益的提升，有其獨特的優(yōu)勢，但有利必有弊，近年來算法的作惡、算法道德、算法倫理問題已引起了廣泛關注。”姚前表示，為此，加強算法監(jiān)管、以監(jiān)管科技應對新型科技，既是順應之策又是必然之舉。

（編輯 田冬）