Anthropic 高層指出，企業內部的虛擬員工將在一年內出現，這些由人工智能驅動的角色不僅會有自主記憶與公司帳戶，還可能帶來如帳號濫用與異常行為等全新資安風險。
AI 虛擬員工即將進駐企
根據 Anthropic 資安長 Jason Clinton 向《Axios》透露，人工智能創新的下一站將會是「虛擬員工」──這些不再只是處理單一任務的 AI 工具，而是能擁有角色設定、記憶體系，甚至有自己公司帳號與密碼的高度自主 AI。與當前用來處理釣魚郵件警報等安全任務的自主代理相比，虛擬員工將具備更完整的功能與更高的行動自由度。
AI 員工將擁有公司帳號與記憶
Jason Clinton 表示，這些 AI 虛擬員工將可能參與企業日常運作，如同一般人類員工一樣操作內部系統、進行任務處理，甚至參與代碼整合等核心開發流程。這樣的高度授權與自主行為，意味著企業必須從根本思考，如何管理與監控 AI 員工的操作範圍與責任歸屬。
資安挑戰浮現
誰為 AI 行為負責？ Clinton 強調，虛擬員工的出現將引爆許多尚未解決的資安問題。例如：應該賦予虛擬員工哪些網路權限？若其行為出錯，責任該由誰承擔？他進一步舉例，若一個 AI 員工在完成任務過程中，未經授權入侵了企業的持續整合系統，這在傳統架構下會被視為重大違規，但當行動者是自主 AI 時，責任歸屬卻變得模糊。
Anthropic 雙重安全任務曝光
Anthropic 表示，面對這波 AI 虛擬員工的浪潮，公司將肩負兩項關鍵任務：其一是對 Claude 模型進行深入測試，確保能抵禦潛在網路攻擊；其二則是建立完整監控機制，防止惡意使用者操控 AI 系統造成損害。Clinton 明言，虛擬員工資安將成為未來幾年 AI 領域最值得投資的領域之一。
