網站首頁 | 網站地圖

大國新村
首頁 > 思想理論 > 深度原創 > 正文

技術賦能治理的異化風險及其防控

【摘要】快速迭代的數字智能技術正將人類社會帶入一個充滿張力和不確定性的時代,傳統社會數字化轉型的進程不斷提速。數智社會的良性發展既要充分利用數字技術優勢,也要警惕技術賦能可能存在的各種異化風險。要辯證理性地看待數字技術及其運用,處理好治理目的和治理手段、數字權力和公民權利、個體利益和公共利益、技術賦能和制度創新之間的關系。在充分發揮數智技術正面效用的同時,最大限度地預防、控制和消除其潛在風險以及負面效應,通過數智善治創造新時代人民美好生活。

【關鍵詞】數智治理 異化風險 防控 【中圖分類號】D63 【文獻標識碼】A

數字智能技術的快速迭代和深入運用正引發全球性變革。隨著第四次科技革命的深入推進,全球生產、生活和治理系統都將面臨深刻轉型。對于公共治理而言,其數字化轉型帶有明顯的兩面性:一方面,基于數字智能技術的敏捷化重塑已經成為當前公共部門創新發展的重要趨勢之一,這個過程不僅顯著提高了政府內部的運行效率,也快速提升了市場監管和社會治理效能;另一方面,智能技術無邊界、無規則、無制約的運用也可能給社會和民眾帶來各類風險甚至危機,如數據泄漏、“數字禁足”等。對于技術賦能治理可能產生的風險要做好警惕和防范,努力實現數智善治。

技術賦能治理中的異化風險

首先是只見數字不見人。數字技術在推進社會治理智能化過程中起著強有力的支撐作用,利用城市體征、數據畫像等技術能夠靈敏感知風險、快捷響應公眾訴求、拓寬治理溝通渠道。但盲目依賴數字技術而忽視人的價值,則會出現本末倒置、價值缺失等系列問題。一方面,現實生活的豐富性不能完全被有限的數字所反映。社會是高度復雜、多元的系統,人也是豐滿、多面和立體的社會存在,而數字是個體或集體的某類特征的抽象性表達。單純依賴數據進行決策和治理往往容易遺漏很多關鍵信息,產生“測量失靈”“畫像偏差”等問題,導致“簡單化”“一刀切”式的管理。另一方面,單純的技術維度極容易產生倫理問題,如將人機器化、工具化等。數字技術作為治理工具,能夠有效提升組織效率,但技術的誤用濫用則會壓制組織活性,使內部成員成為數字技術的傀儡。“數字官僚”“數字執法”在單純強調數字技術的同時,容易抹殺社會主體和社會事務的豐富性、多樣性和復雜性,不能準確把握治理對象的本質特征。片面強調數字技術的工具價值而漠視人文關懷,會偏離數智治理增進社會福祉的價值起點。

其次是數字失能問題亟需關注。一般來說,數字化轉型會給社會帶來越來越便捷的溝通、交流和連接,但在某些特定情景中也會出現相反甚至相悖的現象。例如,數智治理對于老年人等社會群體往往產生“擠出效應”。由于年齡增大、環境變化和服務不足等因素,老年人等社會群體難以適應日新月異的技術變遷,老年群體消費不便、出行受阻、數字歧視等現象頻頻發生,老年群體的數字失能問題顯得更加突出。又如,基層治理數字化轉型對于基層工作人員的專業化、數字化素養要求越來越高,而技術要求與數字能力之間的差距也會進一步增強他們對于技術運用的排斥心理。碎片化、重復化和重疊化的數字系統和平臺建設不僅沒有減輕基層負擔,還可能在短期內增加基層工作量,進而影響該群體的工作效率。

再次是權力濫用侵害正當權益。在數字技術持續賦能政府治理和賦權社會個體的進程中,既要警惕數字權力濫用,也要防范算法權力的破壞效應。一是公共領域的數字能力發展不平衡。數字政府建設中增強政府控制力的技術通常能夠迅速推進,如網格化管理、視頻監控等,而那些改進政府自身管理、加強政民互動、強化政府監督的措施則相對滯后。為追求部門或個人利益,少數公職人員將權力凌駕于制度規則之上,損害部分群眾的正當權益,嚴重破壞了政府的公信力。二是商業數字平臺亟需有效監管。企業通過“用戶畫像”分析用戶消費模式,精準投放商品鏈接,實施差異化定價,違背市場公平原則。受資本利益驅動,算法在工廠流水線、外賣平臺的無限制使用已經使部分勞動者陷入“算法困境”。在虛擬交互平臺,互聯網巨頭根據個人偏好使用私權,對未觸犯法律規范的用戶實施禁言、封號,實質上侵害了公眾在數字公共空間的生存權利。

最后是數字形式主義增加基層負擔。數字手段雖然得到了推廣和運用,但求真務實的數智治理理念在一些地方尚未形成。一是數字政務平臺建設可能被部分地方政府視為政府治理創新的“政績”,重投入輕運用,重硬件輕軟件,重建設輕運營,最后沒有真正發揮數字平臺在優化治理體系、提升治理效能重的功能和作用。新型“面子工程”生產成本高昂而效能低下,導致資源嚴重浪費,創造公共價值的能力不足。二是條塊分割、行政壁壘、以鄰為壑等傳統管理問題在數字化轉型過程中依然存在,這就制約了信息的跨部門整合和使用,以及公共服務體系的集成和優化。三是在一些地方,由于缺乏科學的頂層設計和高位統籌,各自為政的數字平臺和系統建設往往迫使基層忙于填報各類報表,甚至玩起了數字游戲,產生新型數字形式主義。同時,“痕跡主義”的管理方式,如網絡留痕、上傳照片、系統定位簽到等考核形式,加大了基層工作的機械勞動和情緒勞動,降低工作效率,催生虛假政績。

技術賦能要以實現數智善治為目的

數智善治是指運用數字智能技術優化重塑公共治理的流程、方式和形態,全面提升公共服務和管理的效率、效能和效果,降低社會交易成本,增進社會公共福祉,最終實現社會良善治理的狀態和目的。數智善治意味著在充分發揮數智技術正面效用的同時,最大限度地預防、控制和消除其風險以及負面效應。實現數智善治需要處理好以下幾對關系:

一是治理目的和治理手段的關系。在技術狂飆突進和大行其道的時代,更應警惕技術的負面效應和異化風險,克服單純的技術主義和工具主義傾向。要區分和明晰技術賦能過程的“體”和“用”。“體”是目的、價值和主干;“用”是手段、方法和枝節。具體來說,“體”就是堅持以人為本,保證程序正義,提升公共利益和個體權益,助力人民群眾美好生活的實現;“用”就是技術對治理行為、過程的嵌入,包括大數據、人工智能、物聯網等技術的開發利用,數字治理平臺的建設和運行,以及數字治理場景的構建和具體實施?,F代化的治理體系不能只有目的而缺乏手段,更不能將手段替換目的,本末倒置。

二是數字權力和公民權利的關系。在現代社會的運行和治理過程中,權力和權利是一對重要的概念范疇,也是社會規制和法治中要處理的一對重要關系。某種程度上說,權利的保護需要權力的行使,缺乏公正的權力行使,正當權利可能無法得到保證;但另一方面,權力的濫用也會危害正當的權利。在法律層面,人們達成的一個基本共識是,行政權力的行使應兼顧行政目標的實現和保護相對人的權益。如果行政目標的實現可能對相對人的權益造成不利影響,則這種不利影響應被限制在盡可能小的范圍和限度之內,二者應有適當的比例。數字權力本質上就是影響力,在現實中,這種權力的背后往往有著行政權力的身影,甚至行政權力借數字權力達到自身目的。因此,數字權力的行使也需要兼顧規范目標的實現和相對人的合法權益,更不能直接、粗暴損害相對人的合法權益。

三是個體利益和公共利益的關系。公共利益與個體利益本質上是融通的,二者發生沖突時個體利益需讓步于公共利益,同時個體利益的實現也離不開公共利益的指導。因此,維持公共利益和個人利益之間的張力,需要平衡調和二者關系,不能忽視任意一方?;\統來說,提升公共利益依賴于公民能夠通過數字化應用廣泛參與公共事務,樹立規則意識和責任意識,維護政府權威,涵養公共精神。面對突發公共事件時,公共利益在先,個人利益在后。但另一方面,在捍衛公共利益的前提下也要盡可能保障公民個體利益,要切實尊重和保護公民信息安全,或者提供一定的救濟渠道。如果單純強調個體利益無條件服從公共利益,也難以實現公共利益最大化,通常只有切實保護好每個成員的個體利益,才能實現共贏。

四是技術賦能和制度創新的關系。推動數智社會治理的關鍵因素,究竟是技術賦能還是制度創新?技術決定論認為蓬勃發展的數字技術能夠為數智社會提供前所未有的可能;反對者則認為數字技術只是為組織提供硬件保障,提升治理效能進而實現善治還需要制度創新加以支撐??傮w來說,技術賦能無法脫離制度保障,制度創新也不能脫離技術作用。一方面,數智治理要實現技術真正賦能公共部門,還需要制度支撐。在公共管理實踐中,政府在技術層面引入大數據分析等應用,但條塊分割的弊病阻礙部門數據共享,而部門壁壘需要從制度層面才能加以解決。只有通過有效的制度規范和制度激勵,為部門間數據共享提供良好的政策環境,破解治理碎片化困境,才能發展鞏固技術的改革成效。另一方面,技術的常態化使用需要制度的規范和約束。平衡技術賦能和制度創新的關系,需要認識到技術只是“賦能者”,關鍵在于制度的創新動力,破除“數字替代一切”“技術解決一切問題”等片面思維,通過探索體制機制優化,開辟現代化、精細化治理之路。

技術賦能異化風險的防控機制

實現數智善治,需要人們辯證理性地看待數字技術,對于數字技術的應用,要興利除弊、揚長避短,特別是秉持社會公正、平等正義的原則和立場,切實通過技術賦能創造新時代人民美好生活。

第一,堅持以人民為中心的數智治理理念。加強數字政府建設是推進國家治理體系和治理能力現代化的重要舉措。因此,需要從政治的高度看待數智治理,以現實需求為核心,將滿足人民對美好生活的向往作為數智治理的出發點和落腳點,著力破解企業和人民群眾反映強烈的辦事難、辦事慢、辦事繁等問題,堅持數字普惠,打破數字壟斷,消除數字鴻溝,全面提升公共服務和社會治理的效率和效能。對地方政府和部門來說,不能將數智治理簡單理解為冷冰的數字化、數目化管理,更不能以“數字官僚”“人工智能”完全取代傳統的、行之有效的群眾工作方式方法。要以“實戰中管用、基層干部愛用、群眾感到受用”為衡量技術賦能成功與否、合理與否的標準。同時,還需要向全社會特別是數字弱勢群體提供更加豐富、全面的數字信息服務,加強技術教育培訓,不斷提升公民數字素養。

第二,健全完善數智治理重大決策機制。黨的十八屆四中全會提出,健全依法決策機制,把公眾參與、專家論證、風險評估、合法性審查、集體討論決定確定為重大行政決策法定程序。這為提高決策科學化、民主化、法治化水平提供了保障。應該看到,隨著數據化和智能化程度不斷提高,數據分析和算法決策開始在公共政策制定和執行中發揮越來越多的作用,算法和電腦程序開始代替人工進行情勢判斷和管理決策。從現代法治精神來說,如同其他行政權力應被“關進制度的籠子”一樣,這些基于數智的決策和數智決策本身也需要受到監督、審查與控制。特別是應考慮將可能普遍限制公民自由權利的技術運用納入重大行政決策范圍,不僅完善其相關決策程序,同時建立合法性審查機制,確保其合法、合規。同時,要及時主動向社會公開數據治理過程,接受社會監督。要建立責任追究制度和責任倒查機制,對于故意、明顯危害正當公民權利和公共利益的數字決策行為以及相關人員嚴肅追究責任。

第三,建立健全權利救濟制度。公民權利受到侵害后能否得到及時、有效的救濟,是衡量一個國家法治水平實現程度的重要標尺。在大數據時代,如何防止數字權力對公眾的負面影響,維護公眾正當權益的問題應納入政府議程。一是推進申訴程序法制化。這就需要細化查詢機制、申辯機制、更正機制等方面的具體規定,通過法制化建設保障公民陳述、申訴或對抗的機會,保障權利救濟有法可依。優化申訴程序,允許算法決策和人工決策相結合,引入利益相關者參與,確保公共政策的公平性、公正性,防范和化解權力異化風險。二是完善部門的數字責任機制。明確有關責任單位或個人在執法過程中使用數字技術應承擔的法定義務和責任,制定數字治理過程中的“負面清單”,包括非法篡改、刪除、使用個人信息等行為。針對公民查詢、申訴等需求,責任單位設立專職負責小組進行反饋與跟進,建立申訴案例數據庫,提升同類案件的處置效率。三是完善公益訴訟制度。結合數智時代出現的新情況和新問題,進一步完善公益訴訟制度,更新公益訴訟類型。特別是將利用數字權力產生公害的違法失職行為納入公益訴訟范圍,通過法律的方式保障社會公眾的正當權益。

第四,加強數據保護和安全制度建設。某種意義上說,數據安全問題制約著新興科技應用于數智治理體系的深度和廣度。在機制優化層面,要加強數據安全全過程管理。依托大數據資源平臺,實現數據歸集、治理、共享、應用等全過程的統一管理。明確數據收集范圍和使用范圍,加強數據匿名管理意識,分層分類制定數據共享機制和刪除機制,完善數據運營服務機制,以此形成良性循環、螺旋上升的數據應用體系。在技術保障層面,落實數據安全保障措施。利用物理防火墻、虛擬防火墻、日志審計等安全設施,賦能數據安全運維工作。開展日常數據安全監測,加強數據安全事件、信息泄密事件的預警和發現能力。制定應急預案及演練,建立關于數據安全與應急管理相關工作規范,針對演練過程更新應急預案。在人員管理層面,建立問責機制,提高權責匹配意識。對數據管理部門人員采用背景審查、簽署保密協議、開展安全培訓等措施實現對人員的安全管理。開展數據安全與信息保護的法律宣傳和教育,提高管理人員數字法治素養和水平。

第五,構建共建共治共享的數智治理格局。移動互聯網的全面普及大大提升了社會大眾的公共參與能力,包括對公共信息的獲取、公共討論的參與和意見的充分表達。但另一方面,由于專業門檻的客觀存在,數智技術的研發、平臺建設和系統運行往往由政府部門和專業化企業主導,某些情況下甚至根據管理者的主觀偏好進行閉門造車,缺少對社會需求和民眾訴求的吸納。黨的十九屆四中全會提出,完善黨委領導、政府負責、民主協商、社會協同、公眾參與、法治保障、科技支撐的社會治理體系。社會治理是多元主體協同合作的過程,技術嵌入只有在這個框架下或者說能夠促進治理框架發展,才能提升社會治理的現代化水平,真正造福于社會和民眾。因此,應提升數智治理的開放度和包容性,有序引導社會組織、公眾參與到數智治理過程中來。一是有關部門應定期發布公共數據運用情況報告,及時公開公共數據采集、儲存、使用和監管流程。二是吸納專家和公眾代表到算法開發、運行監管中來,評估數智技術運用的合理性與合法性。三是探索公民驅動的數智合作治理和數據管理模式,進一步促進數據公開和共享,推動醫療、養老、教育和交通等民生領域公共研究創新。四是拓展和開發公共事務電子協商、網絡協商的新形式和新路徑,及時反映社情民意,提升公共治理對社會需求的靈敏度和回應度。

(作者為武漢大學政治與公共管理學院教授、博導;上海師范大學哲學與法政學院研究助理李婕對本文亦有貢獻)

【參考文獻】

①曾盛聰、董沁昕:《“賦能”與“擠出”雙效應下數字治理的“補丁”策略——基于代際發展權的分析框架》,《人文雜志》,2022年第6期。

②張會平:《推動基層治理數字化轉型的三重整合邏輯》,《國家治理》,2020年第38期。

③鄭磊:《數字治理的效度、溫度和尺度》,《治理研究》,2021年第2期。

④張凌寒:《算法權力的興起、異化及法律規制》,《法商研究》,2019年第4期。

⑤馬長山:《數智治理的法治悖論》,《東方法學》,2022年第4期。

⑥郭華、李紅霞:《刑事電子數據收集中的公民權利救濟》,《廣西社會科學》,2019年第11期。

⑦吳晶晶:《從數字治理走向數字善治的路徑探索》,《山東行政學院學報》,2022年第2期。

⑧高志宏:《個人信息保護的公共利益考量——以應對突發公共衛生事件為視角》,《東方法學》,2022年第3期

責編/于洪清 美編/楊玲玲

聲明:本文為人民論壇雜志社原創內容,任何單位或個人轉載請回復本微信號獲得授權,轉載時務必標明來源及作者,否則追究法律責任。

[責任編輯:周小梨]
亚洲av综合色区无码一区