網站首頁 | 網站地圖

國家治理網> 前沿理論> 正文

基層治理中的數字技術濫用及其防控策略

摘 要:數字技術已成為基層治理的使能工具和內在組分,其在有效提升基層治理效能的同時,也會引發各種數字技術濫用問題。技術濫用既與數字技術的雙重使用屬性相關,也與基層治理人員“解決主義”的慣習和數字技術應用規制體系建設相對滯后有關。應從數字技術立法監管和制度體系建設、基層治理者數字技術安全和倫理教育、數字技術應用重大項目倫理審查和社會影響評估機制、專家學者和科技社團預警分析等方面著手,有效防范基層治理中的技術濫用。

關鍵詞:基層治理 數字技術 技術濫用 技術評估 倫理審查

【中圖分類號】D6 【文獻標識碼】A

黨的二十大報告指出:“完善網格化管理、精細化服務、信息化支撐的基層治理平臺”。此前,2021年4月28日發布的《中共中央 國務院關于加強基層治理體系和治理能力現代化建設的意見》明確指出要實施“互聯網+基層治理”行動,拓展應用場景,加強智慧治理能力建設。隨著數字中國、智慧城市、數字鄉村等國家戰略的持續推進,云計算、物聯網、人工智能、區塊鏈、大數據等數字技術早已嵌入基層治理的總體性框架和結構性流程之中,成為推進基層治理體系和治理能力現代化的重要使能工具和內在組成部分,并在新冠疫情防控、社會治理和公共服務等諸多領域發揮了十分重要的作用。然而,數字技術在賦能基層治理的同時,也產生了值得關注的技術濫用問題,亟需我們在加強基層智慧能力建設、推進基層治理體系和治理能力現代化過程中給予高度重視和系統防控。

作為基層治理使能工具的數字技術

自2000年以來,以互聯網、大數據、人工智能、區塊鏈等數字技術為代表的新型技術革命創建出數字社會的“新型基礎設施”,形塑全新的社會治理結構和治理范式,并使數據、算法、社交媒體和網絡平臺等逐漸成為社會治理的重要力量。新冠疫情給幾乎所有國家的社會經濟生活和公共衛生事業都造成了前所未有的沖擊和影響。疫情防控所產生的重大需求,為數字技術嵌入基層治理和社會生活提供了強勁的推動力量。我國工信部印發通知部署運用新一代信息技術支撐服務疫情防控和企業復工復產工作,“支持運用互聯網、大數據、云計算、人工智能等新技術服務疫情監測分析、病毒溯源、患者追蹤、人員流動和社區管理,對疫情開展科學精準防控”。隨著健康碼、行程碼、智能監測設備和視頻監控系統等數字技術創新產品在基層疫情防控、疫情風險預警和公共衛生治理等領域的成功應用,以數字技術賦能基層治理,加速推進基層治理體系和治理能力現代化,逐漸成為全社會的普遍共識和各級政府的工作重點。

基層治理的重要任務是響應人民群眾的訴求,并通過優化配置資源提供貼心合意的公共服務,以最大限度地提升人民群眾的獲得感和幸福感。人工智能和云計算、大數據等數字技術的融合應用,可通過信息挖掘、人臉識別、數據分析、精準監測和智能決策等手段及時洞察并精準識別人民群眾的基本需求,同時能夠突破時空局限和資源約束,高效整合政府及社會資源,使基層治理敏捷化、精細化和高效化,進而為基層有效治理提供重要的使能工具和豐富的治理方案,以更好地滿足人民群眾對基層治理和公共服務的個性化需求。不僅如此,區塊鏈技術還可為基層社會治理現代化提供兼具低成本和高可信度特征的信任機制,以較好地解決社會治理主體多元化和治理方式跨界化所帶來的信任難題和信息搜集成本問題。此外,數字技術在基層治理的廣泛應用還有助于基層政務公開,減少基層治理中的信息不對稱,并通過公開透明和規則建設等有效遏制基層治理中可能出現的腐敗行為,有助于形成風清氣正的基層社會治理環境。

更重要的是,互聯網、區塊鏈、大數據和人工智能等數據技術作為使能工具嵌入基層治理,在更高水平上促進了基層治理主體之間的開放共享和協同合作,并在一定意義上重構了基層治理對象、治理要素、治理過程和治理生態,創新和完善了基層治理體系,提高了基層治理能力和效率,拓展了基層治理的空間,為基層有效治理找到了新機制和新支點。特別的,這些數字技術在基層治理中所煥發出來的巨大的變革力量,正在倒逼基層政府體制改革、治理結構優化和服務模式創新乃至社會經濟結構的重組和布局,進而推動基層社會的數字化智能化和高質量發展。

基層治理中的數字技術濫用及其表現形式

技術濫用是指過度使用或不加節制地、甚至是惡意使用某些技術以實現某種利益或產生某種社會后果的行為或現象。國際社會對技術濫用的關注,首先出于對核物理、生物和化學技術等“雙重使用技術”可能用于核武器、生物武器和化學武器研制的技術濫用行為的警惕和擔心。一些國際組織為此專門制定了《不擴散核武器條約》《禁止生物武器公約》《禁止化學武器公約》等國際公約,旨在限制這些可能用于制造大規模毀滅性武器的技術濫用行為。隨著基因編輯技術、合成生物技術、大數據、人工智能和人臉識別技術等前沿技術的快速推進和優化迭代,相關技術被濫用的風險及其嚴重后果日益引起社會普遍關注,各類科學組織、社會團體、科技企業和政府機構紛紛出臺相關的規范條例、行為準則和政策法案,要求相關機構、企業和科技工作者履行負責任的研究和創新責任,使科技向善、不作惡。2005年,國際科學院聯盟在發布《關于生物安全的聲明》中強調“科學家有不傷害的義務”,應當有意識地遵守和宣傳相關法規和政策,以確保生物技術研究不被濫用。2012年,美國政府曾制定監管生命科學中雙重使用研究的政策,以回應有關傳染性H5N1禽流感病毒研究成果發表的爭議。

基層治理中的數字技術濫用,大致包括兩種情形:其一是作為治理對象的數字技術濫用問題,即由于互聯網、人工智能、人臉識別、音頻編輯和數字監控等數字技術的廣泛應用,而在基層社會出現的各類亟待解決的新的社會治理問題,比如數字歧視、信息欺詐、個人隱私侵犯等等;其二是指作為治理工具而引出數字技術濫用問題,主要表現為基層政府在解決某些治理問題過程中發生的技術濫用行為,如惡意或過度使用數字技術的行為等。在當前的基層治理實踐中,這兩類技術濫用問題相互交織,共同形成基層治理中技術濫用的復雜場景,但后者無疑對推進基層治理體系和治理能力現代化帶來更為嚴重的負面影響。因此我們聚焦后者,并將其粗略概括為以下五類表現形式。

數字公共產品的惡意使用

第一類指變相或惡意使用具有重要公共產品屬性的數字技術產品或工具,且造成極壞社會影響的技術濫用行為。最典型的例子就是河南鄭州某些機構濫用健康碼事件。健康碼本是基于新冠疫情防控嚴峻形勢開發出來的具有強大公信力的數字技術產品,目的在于確保各地疫情防控政策的有效執行和相互協調,平衡疫情防控政策要求和公民異地出行、參與社會經濟活動訴求之間的關系。鄭州某些機構變相使用健康碼,將其變成限制外地儲戶合法維權的“維穩”手段,不僅侵犯了村鎮銀行儲戶的合法權益,而且透支了健康碼在疫情防控中的權威性和公信力,嚴重損害了人民群眾與基層政府之間的信任關系。該事件不僅是基層治理中性質比較惡劣的技術濫用事件,也是社會影響極壞的公權力被濫用的事件。

數字形式主義

第二類指過度使用數字技術,在基層治理中導致各種隱性的“數字形式主義”泛濫的數字技術濫用行為。我們在基層調研中發現,一些基層政府采用數字技術創建了多個微信群、APP和數字工作平臺,盡管本意是提高工作效率和改善服務質量,以快捷地回應基層人民群眾的治理訴求,但這些微信群和數字工作平臺多數最終演變為各種形式主義和官僚主義的技術配置,變成了科層制體系中上級主管部門對基層干部實施監督管理的形式化工具。比如,要求基層扶貧干部或鄉村振興“第一書記”每天按時打卡、定位,填寫扶貧或在鄉日志,上傳入戶的行動軌跡等,結果導致基層工作者天天圍著數據填寫和上報轉,根本沒有精力開展基層社會治理和公共服務,只能以形式主義應對形式主義。不僅如此,有的基層政府為了提高工作APP點擊率和官方微博活躍度,給基層人員下指標、搞攤派,每周排名通報。有的地方還出現一人多機刷點擊率甚至購買“水軍”當粉絲等現象。這些隱性的“數字形式主義”行為,是基層治理中存在較多的技術濫用行為,其不僅增加了基層工作負擔,挫傷了基層干部的工作積極性,造成了基層治理資源浪費,還嚴重影響了基層社會的干群關系,錯失了許多基層社會治理問題有效解決的時機,值得我們警惕和關注。

對存在風險與爭議的技術的濫用

第三類指在基層治理中不當或過度使用有安全風險或有社會爭議的數字技術或智能設施。自疫情發生以來,無接觸式“人臉識別”等數字技術已成為許多公共場所、商場、餐廳、辦公樓的標配,其在精準高效識別人臉和測量體溫,有效阻斷疫情傳播鏈,協助基層高效完成疫情防控任務和治理目標的同時,也引發了可能被濫用的安全風險關注和社會爭議。許多公共場所安裝人臉識別等數字技術設備和系統時,沒有明確提供隱私保護政策和用戶協議,人民群眾基本上是在不知情的前提下被動接受相關的數據采集和應用行為。2019年9月,一組課堂上學生行為分析的視頻截圖在網上引發熱議。其中,攝像頭通過計算機視覺算法獲取學生的課堂表現,并以標簽的形式計算出學生“聽講、閱讀、舉手、趴桌子、玩手機、睡覺”等動作次數。盡管相關技術的開發公司強調這僅僅是一種“技術場景化概念演示”,“僅停留在技術展示階段,尚未落地應用”,但此類技術可能存在的濫用風險還是引起社會普遍關注。一些人擔心,這樣的數字技術創新可能將課堂或者公共場所變成“全景敞視監獄”。這類數字技術創新或許對特定情景下的社會治安維護有幫助,但如果將其不加任何限制地應用于基層治理,則可能造成個人隱私侵犯和數據被濫用或泄露等其他非預期的后果,給人民群眾的生產生活和國家安全造成難以預料的危害,并對人民群眾的行為和心理產生嚴重的負面影響,不利于基層社會的和諧、穩定和安全。

非法竊取公眾數據信息

第四類指非法利用各種數字技術手段竊取和分析公眾的數據和信息,并應用于非正當的目的。2018年3月17日,英國第四頻道(Channel 4 News)爆料說,英國政治咨詢公司“劍橋分析”(Cambridge Analytica)在未告知臉書(Facebook)實情并同意的情況下,利用某種應用程序在臉書上竊取了至少8700萬用戶的資料和數據,并將這些數據賣給特朗普競選團隊,使其向臉書用戶精準投放助選信息,最終幫助特朗普贏得2016年美國總統大選。2022年3月22日,360公司披露,美國國家安全局利用量子攻擊平臺技術對世界各國訪問美國社交媒體的互聯網用戶發起網絡攻擊,在30天內遠程竊取了970億條全球互聯網數據和1240億條電話記錄,中國社交軟件也是其攻擊目標。濫用前沿數字技術在網絡平臺或社交媒體中非法竊取互聯網用戶數據和信息,用于社會監控和其他非正當目的,這可能是數字技術時代最危險的技術濫用行為,其危害的不僅僅是互聯網用戶的個人隱私和人身安全,還削弱公眾對數字技術合理應用的信任,破壞數字社會賴以持續發展的社會團結,亟需盡快立法加強對此類技術濫用行為的規范和監管。盡管目前在我國基層治理中尚未發生此類技術濫用的嚴重事件,但我們必須對此保持高度警惕。

數字技術濫用的資源浪費

第五類指基層政府過度使用昂貴數字技術工具去解決某些無關緊要或不存在的基層治理問題,造成基層治理資源浪費的數字技術濫用行為。比如,某些社區在公園的公廁中安裝人臉識別廁紙機,說是用于統計每人抽取廁紙的數據以減少資源浪費。一些地方政府部門大量使用攝像頭、無人機等智能監控技術對偏僻鄉村可能存在農作物秸稈焚燒行為進行高強度監管,盡管可能對個別農戶私自焚燒秸稈的行為起到了威懾作用,但其產生的社會效果與其投入的社會資源并不成比例。某些基層政府熱衷于在社會治安良好的社區或人口稀少的鄉村,過度使用高精度的數字設備搞所謂的“智慧社區”或“明亮鄉村”,結果導致了人民群眾的抱怨和社會公共資源的浪費。特別需要注意的是,一些基層政府在建立數字政務平臺時過于追求高大上,卻很少考慮具體的應用場景和服務配套,結果將基層數字治理平臺變成“秀場”工程。有的在線辦事窗口因缺少共享數據庫支持,居民在每個窗口辦事都要重復提交相關信息資料,給人民群眾造成很大的不便。數字技術治理并非包治百病的“靈丹妙藥”,基層政府應因地制宜,靈活采用,切莫貪大求新。

基層治理中數字技術濫用的形成原因

基層治理中數字技術濫用的發生,首先與數字技術的雙重使用屬性相關??萍际前l展的利器,也可能成為風險的源頭。數字技術的快速發展、迭代創新及其在基層治理中的應用,也表現出顯著的雙重使用特性。2021年4月,安徽省合肥市警方在公安部“凈網2021”專項行動中打掉一個犯罪團伙,該團伙利用人工智能技術偽造他人人臉動態視頻,為黑灰產業鏈提供注冊手機卡等技術支撐。據犯罪嫌疑人交代,深度合成技術和人工智能技術讓人臉動態視頻偽造制作簡單易行,任何一個中學生都可通過在線網購教程和下載軟件“自學成才”。數字技術創新的快速推進降低了相關技術使用的門檻,使之應用變得快捷易行,但同時也使不法分子利用數字技術的違法犯罪行為成本降低,大大增加了基層社會治理中數字技術被濫用的風險。數字技術是很有效的賦能工具,如果相關技術創新服務機構和科技人員在將數字技術應用于基層治理服務時,僅僅展示數字技術創新的新穎性、便捷性和功用性,而對其可能被濫用的風險及其社會后果缺乏系統評估和必要警示,那會增加基層治理中數字技術濫用行為的可能性,使基層治理問題復雜化和尖銳化,給人民群眾的社會生活帶來負面影響,進而會影響人民群眾和基層社會對數字技術創新的正確認知和客觀判斷,形成不利于數字技術創新高質量發展的社會環境。

其次,基層治理中技術濫用發生也與基層治理人員普遍形成的“解決主義”慣習有關。2013年,白俄羅斯的耶夫根尼·莫洛佐夫借用建筑學常用的“解決主義”一詞批評美國硅谷的眾多技術創意、設計和商業模式,指出這些技術創意、設計和商業模式缺乏遠見,過多追求技術完美卻輕視社會影響,結果帶來嚴重的技術惡果,因為他們總是力求將所有復雜的社會問題轉換為清晰簡單的技術問題,進而謀求以非常明確的、預計可行的解決方案或易于優化的簡單程序加以解決。大量的經驗事實表明,基層官員在基層治理中也存在這種“解決主義”的慣習。受政績工程和目標導向等基層治理觀念的影響,一些基層人員在使用數字技術時更多關心的是其解決問題的快速、便捷、新奇或“亮眼”,通常會忽略相關技術應用可能引發的社會矛盾和利益沖突等其他問題。這種“解決主義”的慣習與數字技術雙重使用本性相互疊加,可能就會在不經意間造成技術濫用行為,如鄭州健康碼被賦紅碼的行為。需要指出的是,基層治理中的許多問題,因牽涉到諸多利益相關者的復雜社會關系,無法通過某種數字技術手段得到完美解決,搞不好還會引出更復雜、更棘手的其他治理問題。例如,在基層社區和農村安裝很多攝像頭、傳感器之類的監控設備,隨時抓取人們生產生活的相關數據,可能對防范各種不法行為有威懾力,也可能為基層治理提供必要的數據和決策依據,但是否會有利于增進基層社會和諧與團結,增加人民群眾的獲得感、幸福感和安全感,可能還需要基層政府跳出“解決主義”的慣習進行審慎考量和系統評估。

再者,當前基層治理中之所以出現各種數字技術濫用行為,也與數字技術應用規制體系的相對滯后和不完善密切相關。北京大學邱澤奇教授分析,“對一個合作有序的社會而言,技術從來都只是工具,對工具運用的規制才是決定技術影響社會秩序的關鍵因素”。盡管我國已設立許多針對數字技術應用的法律規范,但這些法律規范如何落地實施依然需要細化和完善。比如相關法律明確禁止利用信息技術等方式侵害他人的肖像權或侵犯個人隱私,但對相關技術如何合理使用、哪些情形下應禁止使用等卻沒有明確規范。一些科技公司雖已提出科技向善等主張,但對那些敏感數字技術如何在社會層面向善使用或負責任地創新,依然缺乏明確的技術規范和行動指南??傊?,這些規制方面的不完善,可能為基層治理中某些腐敗官員和不法分子惡意使用數字技術提供可乘之機,進而導致基層治理中的技術濫用行為。

有效防范基層治理中數字技術濫用的對策建議

人臉識別和人工智能等前沿數字技術如果正確應用,必將成為普惠的應用基礎設施,賦能基層社會治理,高質量地推動基層公共服務和社會治理價值和目標的實現。但要適當地使用人臉識別、人工智能和健康碼等前沿數字技術,除了加強國家對數字技術應用的立法監管和制度體系建設外,還必須加強基層治理人員的數字技術安全和倫理教育,倡導負責任的數字技術創新,以減少數字傷害、避免數字鴻溝,推進基層治理體系和治理能力現代化。結合基層治理創新實踐,提出如下有效防控數字技術濫用的基本策略。

首先,加強對基層公務人員進行數字技術應用相關的法律和倫理教育。要明確數字技術應用的特性和底線,培養他們對基層治理中可能出現技術濫用行為的敏感性和責任意識,以幫助他們樹立正確的數字技術創新觀,更好地履行執政為民、服務社會的社會職責。通過教育培訓使基層治理者明確:數字技術只是基層治理的工具,并不是全部;數字技術在基層治理能發揮有效作用,其根本取決于技術和社會良性互動形成的技術社會系統,而非某種特定的技術;數字技術可以賦能基層治理,但不能主導甚至替代基層治理。

其次,要通過多部門協作的機制設置技術濫用的安全防線。要明確前沿數字技術應用服務治理的預警原則,并發揮龍頭企業和行業協會的作用,適時制定和完善前沿數字技術應用的服務標準和規范體系;建立安全風險監測評價體系,以加強對基層數字技術濫用的行政執法監督和敏捷管理,更好地平衡數字技術在基層治理中的創新應用和技術濫用風險防控,統籌好發展與安全的關系,推進數字技術創新和基層治理體系和治理能力現代化。政府監管部門要對相關標準的執行情況進行監督檢查,并在力所能及的情況下為社區和基層政府使用相關敏感技術提供指導和咨詢服務。

再者,要加強預防數字技術濫用的源頭治理。在計劃部署對基層治理意義重大的數字技術項目時設立法律和倫理審查委員會,并舉行聽證會,邀請社會公眾參加,以廣泛聽取人民群眾的意愿和訴求,對相關技術應用進行社會后果和技術被濫用的風險進行系統評估,進而讓數字技術更好地賦能基層治理而不是增加社會分歧、引發社會矛盾和沖突。數字技術在基層治理中的應用,本質上是數字技術嵌入基層社會文化和政治議程的過程,基層政府和數字技術服務企業對基層治理中采用的各類事關民生和社會公共利益的數字技術項目和計劃,進行必要的技術評估和法律、倫理和社會影響分析,有利于克服簡單追求政績和“解決主義”慣習的局限性。

此外,要鼓勵專家學者和科技社團對基層治理中可能出現的技術濫用情況進行預警分析,前瞻研判數字技術創新帶來的規則沖突、社會風險和倫理挑戰。為完善相關法律法規、倫理審查規則及監管框架,促進數字技術創新和基層數字治理等提供政策建議,以確保數字技術高質量、負責任地推進基層治理體系和治理能力現代化建設。

【本文作者為中國農業大學人文與發展學院教授】

參考文獻

[1]習近平:《加快建設科技強國 實現高水平科技自立自強》,《求是》,2022年第9期。

[2]《中共中央 國務院關于加強基層治理體系和治理能力現代化建設的意見》,中國政府網,2021年7月11日更新。

[3]李建軍:《如何強化科技倫理治理的制度支撐》,《國家治理》,2021年第42期。

[4]李建軍:《數據技術將成為國家治理現代化的內在組分和使能工具》,《國家治理》,2020年第30期。

[5]邱澤奇:《智慧生活的個體代價與技術治理的社會選擇》,《探索與爭鳴》,2018年第5期。

責編:董惠敏/美編:王嘉騏

責任編輯:張宏莉
亚拍一区 在线视频系列,久久精品国按摩产99国产精品,日本com视频,欧美一级欧洲一级a