AI 監工軟件盯梢員工太瘋狂：5 秒截屏，打字慢、上網久都拿「紅牌」，網民狂噴，但巨頭爭相使用

Reddit 上的一用戶發帖介紹了一款將員工數據與同事進行比較的軟件後，該話題迅速引發熱議。這款「反烏托邦」式的員工「生產力監控」AI 軟件令網民們大驚失色，它不僅可以監控員工的每一個動作，還可以自動提供開除員工的建議。

用戶 OP 在 r/sysdmin 子版塊中寫道，「今天早上，我認真聽取了這場關於強大‘生產力監控’軟件的營銷宣傳」，並同時簡要介紹了該款應用程序的功能。

他瞭解到該軟件不僅能夠在多個維度上精確跟蹤員工效率，還能使用 AI 創建「生產力圖表」，向員工發出「警報通知」並最終建議僱主開除不合格人員。

該用戶補充了該應用程序的基本功能：完整記錄鍵盤和鼠標移動操作（這已經存在很久了）；每隔一段時間（10 秒到 5 分鐘之間）截取一次桌面屏幕；跟蹤目標用戶打開的程序及打開頻率；

此外還會創建用戶在任意程序中點擊位置的實時記錄和熱圖（幾乎所有網站也都這樣做）。

但接下來的情況就變得詭異了起來：

• 該應用程序允許經理將每位僱員劃分進不同的「崗位類別」，之後 AI 根據「鼠標移動數據、點擊位置、打字速度、使用退格鍵的頻率、訪問的網站、打開的程序、發送的電子郵件數量」等以創建「生產力圖表」，並將這些指標與同一崗位類別下的其他同事數據進行比較。
• 如果員工的績效低於某一最低百分比（比如你的打字速度比同事慢、填寫表格的時間更長，或者在寫電子郵件的過程中必須接聽電話），則會收到「紅色標記」，要求其接受審查。該標記會被即時發送給經理及其他管理層，員工則需要通過門戶網站解釋自己生產力不足的理由。
• 員工桌面空閑時間如果超過 30-60 秒（沒有「有意義的」鼠標和鍵盤移動），就會收到「紅色標記」。如果員工的工作流程在週一至週四是一致的，但在週五低於設定的彙總數據分數，則會收到警告。
• 該軟件還可以使用這些收集到的數據進行「工作流效率自動化」，包括取代人類員工。沒錯，銷售該套件的廠商還同時提供 AI 辦公自動化服務。

隨著帖子的傳播，千名用戶紛紛跟帖，表達了他們對此類軟件的不滿和擔憂。有網民直言道，「這太噁心了！難道我們就不能花上一兩分鐘認真思考一個問題、上班隨時都得移動鼠標或者敲擊鍵盤？那唯一的結果就是所有人都被迫胡敲亂打。」

另一位網民也補充道，「什麼樣的反烏托邦僱主會使用這種軟件？這是怕我晚上睡得太好麼？」「如果我們公司認真考慮用這款軟件，那我絕對立馬去找新工作。」有網民表示。

大企業們都在用 AI 監工 

今時今日，企業正通過監控和跟蹤等方式從員工處收集到越來越多個人信息。美國的大型企業，如禾爾瑪、達美航空、T-Mobile、雪佛龍和星J.巴克，以及歐洲品牌，如雀巢和阿斯利康，已經向成立七年的初創公司 Aware 尋求幫助，以監控其員工之間的聊天內容。

Aware 的聯合創始人兼首席執行官 Jeff Schumann 表示，Aware 擁有數十種專為閱讀文本和處理圖像而構建的 AI 模型，這些模型能夠識別欺淩、騷擾、歧視、不合規、色情、裸體等不當行為。

Schumann 表示，AI 能夠幫助公司實時「瞭解溝通中的風險」和員工情緒，而不必依賴於每年或每半年進行一次的調查。通過利用 Aware 分析產品中的匿名數據，企業可以洞察特定年齡段或地區員工對新公司政策或營銷活動的反應。

Schumann 強調，Aware 的分析工具不會標記單個員工的姓名，它們僅用於監控員工情緒和惡意程度。但他也補充說，如果出現極端威脅或企業預先設定的其他風險行為，Aware 的電子取證工具也能夠識別出具體個體。

Aware 每年都會發佈一份報告，彙總大型公司之間發送的數十億條消息（2023 年這一數字為 65 億條），並分析感知風險因素和工作場所情緒評分。如果將圖片和影片等其他類型的共享內容也計算在內，Aware 的分析 AI 每天會處理超過 1 億條內容。通過這種方式，該技術能夠創建公司社交圖譜，識別哪些團隊內部交流較多。

「它始終在跟蹤員工的實時情緒和惡意行為。如果你是一家使用 Aware 的銀行，員工的情緒在過去 20 分鐘內飆升，可能是因為他們正在集體積極地討論某件事。該技術能夠揭示具體原因。」Schumann 說道。

Aware 也證實了在使用來自企業客戶的數據來訓練其機器學習模型。該公司表示，其數據存儲庫包含約 65 億條消息，代表了 300 多萬獨立員工的約 200 億次個人互動。 當新用戶註冊分析工具時，Aware 的 AI 模型需要大約兩週的時間來訓練員工信息，學習公司內部的情緒模式，以便識別什麼是正常的、什麼是異常的。

Schumann 表示，企業可以利用 Aware 的技術來指定「暴力威脅」政策或其他任何類別，並讓 AI 模型監控 Slack、Microsoft Teams 以及工作場所中的交流。此外，企業還可以將 AI 監控與基於規則的標記結合起來，針對某些短語或語句進行監控。如果 AI 檢測到違反公司指定政策的行為，它可以將違規員工的姓名報告給企業指定的代表。

如今的辦公樓已經如同網絡瀏覽器一般——其中充斥著各種跟蹤技術。

「隨著辦公室、建築和其他企業設施逐漸融入網絡環境，僱主越來越希望利用從現有數字基礎設施或者額外傳感器處收集到的數據用於各種目的。無論有意還是無意，其中都涉及大量關於員工及其運動和行為的個人信息。」Cracked Labs 在調查報告《跟蹤辦公場所中室內位置、運動及工位利用情況》中指出。

Cracked Labs 聲稱，雖然大部分數據收集是通過員工電腦和移動設備上的軟件應用完成的，但思科、瞻博、Spacewell 以及 Locatee 等工作方法廠商的辦公環境監控系統也在其中出了大力。

報告解釋稱，思科使用 Wi-Fi 接入點及其他無線網絡基礎設施來跟蹤員工、客戶、設備及其他物體的位置。 用思科公司自己的話來說，他們這樣做是為了「瞭解人和事物在物理空間中的移動方式」並「瞭解人（訪客、員工）及物體（資產、傳感器）的行為和位置。」該公司將其基於雲端的位置跟蹤系統稱為 Cisco Spaces。

除了提供關於個人在公司環境下的運動和行為結果之外，該技術還能夠「基於位置數據進行行為分析」，具體是將人類對象劃分為多種位置角色（例如「餐廳散客」、「零售區散客」、「VIP 忠實會員」、「回頭客」、「員工」等）並對其開展近距離監控。

報告指出，思科在其 Spaces 隱私數據表中解決了多項潛在的爭議問題，並宣稱其系統符合歐洲發佈的《通用數據保護條例》（GDPR）。

市場增長，但已引發抗議 

AI 員工監控是迅速擴張但相對小眾的大型 AI 市場中的一部分。據瞭解，採用 Aware 技術來管理風險和合規性類業務約佔公司總業務的 80%。Aware 在過去五年中的平均年收入增長 150%， 其典型客戶規模約為擁有 30,000 名員工。

除了 Aware，還有像 Qualtrics、Relativity、Proofpoint、Smarsh 和 Netskope 等諸多公司。根據 fortunebusinessinsights 報告，2023 年，全球員工監控和監控軟件市場規模為 5.351 億美元。預計該市場將從 2024 年的 5.878 億美元增長到 2032 年的 14.652 億美元，預測期間的復合年增長率（CAGR）為 12.1%。

上述報告從資本角度指出，隨著生成式 AI 應用的不斷擴展，未來幾年員工監控和監控軟件領域將迎來眾多有利可圖的機會。新時代技術的融合預計將推動員工監控和監控軟件取得重大進步。此外，未來幾年，提高安全性和訪問權限的監管合規性預計將為市場帶來機會。

但從現實看，辦公環境監控系統的應用已經引發抗議。Cracked Labs 的報告指出，2022 年美國東北大學的學生們就反對在研究生的辦公桌下安裝由德國智能設備供應商 EnOcean 提供的運動傳感器。

學生和教職員工們向東北大學校長 Joseph Aoun 要求拆除這些傳感器，理由包括「它們沒有任何科學用途」、「它們令人心生焦慮」、「它們改變了我們的行為」、「其安裝未經同意」以及「被全程監控既令人毛骨悚然又毫無必要性」等等。

雖然說，AI 驅動的員工監控對僱主來說可以利用僱主收集的大量數據，包括員工的生產力、績效和安全身份模式，來減少一些非惡意損失，但是有研究表明，監控行為對員工的身心都造成了不同程度損害。

根據美國心理學會（APA）的一項調查，近一半（45%）受到技術監控的員工表示，他們的工作場所對其心理健康產生了負面影響。同時，工會聯盟戰略組織中心的研究顯示，在 2021 年，亞馬遜工廠的員工遭受了 34,000 起嚴重傷害，這一受傷率是其他非亞馬遜工廠的兩倍多。「這些傷害中的肌肉骨骼損傷與亞馬遜倉庫在監控下的工作節奏密切相關。」

當研究如何使用 AI 監控員工時，人是其中的一個重要組成部分，特別是當該技術提出的建議會影響人們的工作時。此外，我們無法保證拿到員工數據的企業不會濫用這些數據。

「無處不在的數字監控與分析會破壞員工隱私、尊嚴、自主權以及對辦公場所的信任。一旦以‘為善’之名進行部署，無論是出於綜合分析、提高能源效率或者是增強工人安全，這些技術都會導致數字監控逐步常態化，並可能迅速被濫用於其他目的。僱主利用收集到的數據針對甚至打擊僱員的風險極高。」Cracked Labs 報告作者 Wolfie Christl 說道。

在工作場所使用 AI 監控的趨勢仍在進行，但這並不意味著僱主在實施 AI 員工監控工具時完全沒有法律顧慮。

在德國和奧地利，企業僱主需要與員工協商後才能引入這種系統，且員工有權審查僱主如何使用收集到的數據。「基本上，GDPR 和勞動法的存在意味著有數個歐洲國家幾乎或者完全不允許企業僱主合法使用室內位置跟蹤。」Christl 表示。

「只要沒有可靠的保障措施來防止僱主將這些數據用於惡意目的，員工們就不該接受任何形式的室內位置跟蹤。」Christl 催促其他地區建立適當的法律，來保護員工在辦公場所中免遭不當監控。

參考鏈接：

https://www.ndtv.com/offbeat/dystopian-ai-workplace-software-that-tracks-every-move-has-employees-worried-7098960

https://www.cnbc.com/2024/02/09/ai-might-be-reading-your-slack-teams-messages-using-tech-from-aware.html

https://www.theregister.com/2024/11/27/workplace_surveillance/?td=rt-3a%E8%BF%99%E4%B8%AA%E8%B7%9F1%E6%9C%89%E5%85%B3%E4%B9%88%EF%BC%8C

https://www.informationweek.com/machine-learning-ai/what-is-the-future-of-ai-driven-employee-monitoring-

https://www.fortunebusinessinsights.com/employee-surveillance-and-monitoring-software-market-104796

本文來自微信公眾號「AI前線」，整理：褚杏娟 核子可樂 ，，36氪經授權發佈。