深圳「AI員工」上崗引熱議:助力還是代替?

不到十秒,就能根據執法筆錄生成一份執法文書;以往需要一上午才能寫完的裁決書,現在幾分鐘就能理出框架;給一篇公文修正格式,準確率超過95%……

能做到這些的,是來自深圳福田的「AI數智員工」。

2月中旬,深圳市福田區推出基於 DeepSeek(人工智能模型)開發的「AI數智員工」,首批70名「員工」上崗後,被網民們稱為「AI公務員」。與此同時,「‘AI員工’如何開展工作」「鐵飯碗不保」「‘AI員工’如何管理」等一系列話題引發社會討論。

2月18日,福田區政務服務和數據管理局就此回應新京報記者稱,「AI數智員工」只是助手,配有監護人,它們在監護人的監督和指導下開展工作,無法單獨決策。

記者注意到,AI技術入場政務服務領域的同時,有關AI決策偏差、數據安全及隱私保護的話題也成為公眾關注的焦點。對此,新京報記者聯繫到對外經濟貿易大學法學院教授、數字經濟與法律創新研究中心主任張欣進行解讀。

福田區政務大模型2.0版頁面。 圖源:「幸福福田」(福田區委宣傳部)微信公眾號福田區政務大模型2.0版頁面。 圖源:「幸福福田」(福田區委宣傳部)微信公眾號

70名「AI員工」入駐35家政務單位

據瞭解,福田區從去年就開始梳理人工智能技術和業務相結合的應用場景,處理過程中,生成了數智智能體AI帳號70個,它們可以承擔多種角色,這也是首批70名「AI數智員工」上崗的由來。此前,當地一直採用其他國產模型,今年開始切換到爆火的DeepSeek。

福田區政務服務和數據管理局相關工作人員介紹,這70名「AI數智員工」除了擁有DeepSeek的通用功能外,還結合各部門單位實際業務流程,量身定製了個性化智能體。具體來說,每名「AI數智員工」對應一個帳號,它們分佈在全區35家政務單位,覆蓋240個政務工作場景,涵蓋公文處理、民生服務、應急管理、招商引資等領域。

這些「員工」究竟如何開展工作?舉個例子,當工作人員打開「行政處罰決定書」功能,在系統對話中上傳一份「案件單位負責人集體討論筆錄」後,不到十秒,「AI數智員工」就可以生成一份行政處罰決定書。

「勞動仲裁裁決書」模塊,則是為福田區勞動人事爭議仲裁院量身定製的。該院院長牛利娟在接受媒體採訪時介紹,當地勞動仲裁案件逐年遞增,2024年有將近6000件,人均年辦案量達到310件左右,存在「案多人少」的矛盾。仲裁員胡珈華也提到,以往書寫一份裁決書可能需要一上午時間,自從配備了「AI數智員工」,幾分鐘就可以完成一份裁決書的框架,「這樣的話,我們的仲裁員就可以更專注地去處理核心矛盾。」

「AI數智員工」有多強?福田區委宣傳部發佈的一組數據顯示,引入「AI數智員工」後,民生訴求分撥準確率從70%提升至95%,公文格式修正準確率超95%,審核時間縮短90%,錯誤率控制在5%以內。「AI招商助手」企業分析篩選效率提升30%,「AI任務督辦助手」跨部門任務分派效率提升80%,按時完成率提升25%。

多地政務部門上線AI服務

「AI數智員工」一經推出,便被網民們戲稱為「AI公務員」。然而,這一稱呼的出現,也引發了公眾對「‘AI員工’是否會取代人類工作崗位」的擔憂。

「AI數智員工」引發網民討論。 圖源:社交媒體截圖「AI數智員工」引發網民討論。 圖源:社交媒體截圖

2月18日,福田區政務服務和數據管理局相關負責人就此回應新京報記者稱,「AI數智員工」只是公務員助手,在工作中是輔助角色,而且配有監護人。推出這類「員工」的目的是輔助開展管理和服務,通過人機協同提高效率,為基層減負。「以勞動仲裁裁決書為例,‘AI數智員工’只是根據複雜的材料形成初稿,最終還是需要人工來審核修改。」

記者也注意到,福田區在推出「AI數智員工」的同時,也在國內率先發佈《深圳市福田區政務輔助智能機器人管理暫行辦法》,明確了「AI數智員工」的輔助定位,構建了一套完整的倫理框架、技術標準、應用範圍和安全監管體系。

除了福田區,AI也正逐步「入場」深圳其他區域。2月13日,深圳開展全市AI操作培訓,2月16日又基於政務雲環境面向各區各部門正式提供DeepSeek模型應用服務。

除深圳外,多地政務系統也紛紛接入DeepSeek。

據「中國廣州發佈」2月16日消息,廣州市政務服務和數據管理局部署上線DeepSeek-R1、V3671B大模型,推動其在民生政策解讀、12345熱線工單分派等政務領域應用。呼和浩特、贛州、無錫也陸續在今年2月份完成了政務環境DeepSeek系列大模型部署。山東臨沂基於政務雲實現了DeepSeek本地化部署,為「沂蒙慧眼」(企業精準畫像)系統新增了慧眼AI會話等功能。

特殊場景中應慎用AI決策

隨著AI技術進入政務服務領域,AI決策偏差、數據安全以及隱私保護等問題也逐漸成為公眾關注的熱點。為此,新京報記者聯繫了對外經濟貿易大學法學院教授、數字經濟與法律創新研究中心主任張欣。

在張欣看來,AI技術進入各行各業已成趨勢,尤其是在政務服務領域,AI技術的應用前景廣闊。以深圳市福田區為例,「AI數智員工」的上崗不僅提高了政務處理效率,也能為公眾提供更便捷的服務。

不過,張欣也提示,在政務服務領域,AI的應用具有特殊性。「政務領域往往涉及公共利益和重大決策,AI的決策誤差可能對公眾產生深遠影響。」張欣表示,目前大量研究和實例表明AI輸出的內容存在誤差問題。

「AI決策有其擅長的領域,但在涉及倫理道德和價值判斷的政務場景,應謹慎使用AI決策。比如,一些弱勢群體可能不符合低保發放的標準,但對方確實存在特殊情況,如果僅靠AI來作判斷是不夠的。」對此,張欣建議,政府在推廣AI應用時,應完善相關配套機制,確保AI決策的透明度和可靠性。同時,需要建立有效的反饋和救濟機制,以便在AI決策出現問題時,公眾能夠快速反饋並獲得及時處理。在養老金髮放、稅收優惠等關鍵領域,相關的AI決策仍需經過人工複核,以確保公平性和準確性。

AI或將促使勞動者轉型

此外,對於公眾關注的數據安全及隱私保護問題,張欣表示,當下DeepSeek採取完全開源的模式,這意味著相關行業在接入使用時幾乎沒有任何技術成本,但這也可能會帶來一些數據安全問題。「AI模型在訓練過程中會處理大量數據,即使經過匿名化處理,有些敏感信息仍可能被攻擊者提取。目前所有AI大模型都無法做到100%避免安全漏洞。但就目前來看,當下AI數據安全和隱私保護問題是在可控範圍內的。」

張欣建議,各行業在接入AI技術時,可從技術、法律規範及AI部署方式這三個方面採取措施,以確保數據的合規使用與隱私安全保護。

張欣指出,目前業內存在許多成熟且可靠的數據安全與隱私保護技術,國家也已出台多項法律法規,如《數據安全法》《網絡安全法》以及《個人信息保護法》,為數據的收集、存儲、使用和共享提供了明確的規範,網信辦最近發佈的《個人信息保護合規審計管理辦法》也為數據處理活動提出了更為細緻的合規要求。

在政務、醫療健康、金融交易以及涉及商業機密等數據敏感性和保密性要求極高的特定場景中,大模型的本地化部署相較於雲端部署具有顯著優勢,可以有效規避數據在雲端傳輸和存儲過程中可能面臨的泄露風險。

對於「‘AI員工’會否影響勞動市場」這一話題,張欣認為,「AI技術雖然會在一定程度上替代人力,但這種替代絕非線性關係。」她解釋,隨著AI技術被引入政務服務領域,公務員的工作內容可能會發生變化,比如,AI可能會做一些重覆性、標準化的工作,如數據錄入、文件審核等,促使公務員向高技能、高創造力的方向轉型,如參與政策設計、公眾溝通和危機管理等問題的解決。

對此,張欣建議,勞動者應提升自身的核心競爭力,以適應AI時代的需求。同時,政府和企業也應提供相應的制度支持和技能培訓,幫助勞動者順利轉型。

「在未來的發展中,AI技術的潛力巨大,但也需要我們在技術進步與社會利益之間找到平衡。只有這樣,AI才能真正成為推動社會發展的強大動力。」張欣說。

新京報記者 熊麗欣

編輯 彭衝 校對 李立軍