中國新聞獎參評作品內(nèi)容 文字稿

　　作品標題：用主流價值導(dǎo)向駕馭算法

　　“用主流價值導(dǎo)向駕馭‘算法’”，是習近平總書記明確提出的要求。算法是基于數(shù)據(jù)用系統(tǒng)方法描述、解決問題的策略機制，在經(jīng)濟、社會生活多領(lǐng)域廣泛應(yīng)用的同時，基于累積數(shù)據(jù)不斷迭代，成為影響信息分發(fā)、服務(wù)提供、機會分配、資源配置的基礎(chǔ)性機制和力量。當前，既要把握人工智能發(fā)展趨勢，用得好，也要管得住，有效防范算法濫用帶來的風險隱患，更要通過加強算法綜合治理，實現(xiàn)以主流價值導(dǎo)向駕馭算法。

　　加強算法綜合治理是必答題

　　21世紀以來，算法技術(shù)發(fā)展迅速，自動化決策在經(jīng)濟生活、社會生活中日益獲得更大影響力和主導(dǎo)權(quán)。互聯(lián)網(wǎng)平臺通過使用算法提升信息服務(wù)與用戶需求匹配度而獲得競爭優(yōu)勢，單一平臺甚至擁有日活數(shù)億用戶。中國龐大的用戶群為算法發(fā)展提供了堅實基礎(chǔ)。在海量增長的用戶數(shù)據(jù)支撐下，算法不斷迭代，智能水平也在逐次提升。

　　“算法面前，人變成了工具？”等尖銳問題引發(fā)強烈共鳴。推薦算法推送同類信息令用戶心生厭倦，人們?nèi)找鎿鷳n算法推薦服務(wù)催生的各種“信息繭房”、倫理問題等。更重要的是，算法推薦服務(wù)對社會生活、公眾認知和意識形態(tài)具有越來越大的支配作用，必然要納入政府綜合治理范圍。

　　從公眾利益和國家安全層面看，絕不能任由推薦算法決定青少年的信息獲取和價值觀形成，絕不能任由推薦算法決定信息分發(fā)導(dǎo)致意識形態(tài)安全失衡，絕不能因法律、技術(shù)監(jiān)管能力不到位使互聯(lián)網(wǎng)信息算法推薦服務(wù)在關(guān)鍵時刻帶來風險。可以說，加強推薦算法綜合治理是一道必答題。

　　多方入手實施算法綜合治理

　　算法綜合治理有效實施，至少需要加強四個方面建設(shè)。

　　其一，樹立正確導(dǎo)向。算法由人設(shè)計就應(yīng)由人操控、有人負責。算法推薦所體現(xiàn)的價值取向，相當程度上體現(xiàn)了算法推薦服務(wù)提供者的價值觀。算法應(yīng)用必須向上向善，是社會共識；堅持主流價值導(dǎo)向，優(yōu)化算法推薦服務(wù)機制，積極傳播正能量，是對算法推薦服務(wù)提供者的基本要求；不得利用算法推薦服務(wù)從事危害國家安全、擾亂經(jīng)濟秩序和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動，不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息，是算法推薦服務(wù)提供者必須遵守的底線規(guī)則；建立完善人工干預(yù)和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)，積極呈現(xiàn)符合主流價值導(dǎo)向的信息內(nèi)容，提高正能量傳播的精準性和有效性，則是算法推薦服務(wù)提供者應(yīng)有的價值取向和追求。在算法綜合治理中必須用多種規(guī)則、手段強力要求，切實監(jiān)管，確保實現(xiàn)。

　　其二，健全法律法規(guī)。2021年9月1日施行的《中華人民共和國數(shù)據(jù)安全法》對數(shù)據(jù)處理活動進行了全面規(guī)范。將于11月1日施行的《中華人民共和國個人信息保護法》，第一次在法律文本中定義了“自動化決策”一詞的含義為“通過計算機程序自動分析、評估個人的行為習慣、興趣愛好或者經(jīng)濟、健康、信用狀況等，并進行決策的活動”，并明確規(guī)定“個人信息處理者利用個人信息進行自動化決策”時，“應(yīng)當保證決策的透明度和結(jié)果公平、公正”，應(yīng)提供“不針對其個人特征的選項，或者向個人提供便捷的拒絕方式”；還應(yīng)就“利用個人信息進行自動化決策”“事前進行個人信息保護影響評估，并對處理情況進行記錄”。

　　國家互聯(lián)網(wǎng)信息辦公室等九部門公布的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，對管理好、使用好、發(fā)展好算法應(yīng)用做出了頂層設(shè)計，確定了“利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”的目標，并就健全算法安全治理機制、構(gòu)建算法安全監(jiān)管體系、促進算法生態(tài)規(guī)范發(fā)展做出了規(guī)定和系統(tǒng)安排。國家網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，第一次區(qū)分了生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類五類向用戶提供信息內(nèi)容的算法技術(shù)，并就算法推薦服務(wù)提供者的責任和義務(wù)、算法推薦服務(wù)公告和算法備案等制度、算法推薦未成年人模式做出了詳細規(guī)定。這個管理規(guī)定明確將根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)敏感程度、對用戶行為的干預(yù)程度等，對算法推薦服務(wù)提供者實施分類分級管理，并對算法安全評估和監(jiān)督檢查做出了具體規(guī)定。

　　數(shù)據(jù)安全法、個人信息保護法的施行，指導(dǎo)意見出臺和管理規(guī)定公開征求意見，為算法綜合治理提供了規(guī)則依據(jù)、奠定了法治基礎(chǔ)。

　　其三，提升監(jiān)管能力。算法綜合治理需要專業(yè)監(jiān)管能力。算法不斷迭代、甚至自我更新是其智能水平的體現(xiàn)。人們對算法的“可解釋性”有多種觀點，對算法推薦結(jié)果的“不可解釋性”也有深深擔憂，因此把算法稱為“黑箱”。算法監(jiān)管不僅需要專業(yè)監(jiān)管隊伍和不斷提升的依法監(jiān)管能力，還需擁有不斷迭代的檢測、驗證、評估工具和技術(shù)監(jiān)管能力，算法綜合治理才可能落到實處。監(jiān)管部門應(yīng)當具有在不掌握算法內(nèi)部結(jié)構(gòu)、核心內(nèi)容的情況下，以一定規(guī)則、特定輸入條件、輸出結(jié)果對算法進行綜合測試的專業(yè)能力；或是根據(jù)算法使用者所提供的算法相關(guān)情況對其推薦服務(wù)結(jié)果進行綜合驗證的專業(yè)能力；以及根據(jù)相關(guān)規(guī)定對算法安全做出評估，對其自評估報告進行驗證的專業(yè)能力。《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》第三部分“構(gòu)建算法安全監(jiān)管體系”中就對“積極開展算法安全評估”提出了要求，包括“組織建立專業(yè)技術(shù)評估隊伍，深入分析算法機制機理，評估算法設(shè)計、部署和使用等應(yīng)用環(huán)節(jié)的缺陷和漏洞，研判算法應(yīng)用產(chǎn)生的意識形態(tài)、社會公平、道德倫理等安全風險，提出針對性應(yīng)對措施”。這樣的專業(yè)技術(shù)評估，是有效實施算法綜合治理的物質(zhì)基礎(chǔ)。

　　其四，優(yōu)化協(xié)同機制。建立健全有法可依、多元協(xié)同、多方參與的算法安全治理機制，是中國進行算法綜合治理的組織優(yōu)勢、制度優(yōu)勢所在和重要保障。協(xié)同機制建設(shè)的基礎(chǔ)是權(quán)利、義務(wù)、責任的配置。通過法律、法規(guī)、規(guī)章和相關(guān)規(guī)定，進一步明確政府、企業(yè)、行業(yè)組織和網(wǎng)民在算法安全治理中的權(quán)利、義務(wù)和責任，特別是強化企業(yè)對算法應(yīng)用產(chǎn)生結(jié)果所負的主體責任，才能夠形成政府監(jiān)管、企業(yè)履責、行業(yè)自律、社會監(jiān)督的算法安全多元共治局面。因此，要求企業(yè)建立算法安全責任制度和科技倫理審查制度，健全算法安全管理組織機構(gòu)，加強風險防控和隱患排查治理，提升應(yīng)對算法安全突發(fā)事件的能力和水平。協(xié)同機制有效運轉(zhuǎn)也需要各個相關(guān)部門依法依規(guī)協(xié)同運作，需要吸引專業(yè)人才隊伍，匯聚多方資源投入，為算法安全治理提供有力支撐。

　　（作者系天津大學(xué)新媒體與傳播學(xué)院院長、天津市中國特色社會主義理論體系研究中心研究員）