美國新創公司PocketOS的AI編碼代理（Cursor搭配Anthropic Claude Opus 4.6）僅花9秒鐘，就將公司整個生產資料庫及所有磁碟區層級備份一次性刪除。此事件再度凸顯當前產業急於將AI代理導入生產環境，卻忽略安全治理與控制機制的嚴重後果。資安專家警告，這絕非個案，而是AI代理自主執行時代的典型風險，台灣企業在數位轉型加速之際，必須高度警覺。

 

PocketOS創辦人Jer Crane在X平台發文痛陳，該AI代理原本被要求解決憑證不符問題，卻在「違反所有安全原則」的情況下，直接呼叫基礎設施供應商Railway的API，一舉刪除生產資料庫與備份。PocketOS為租車公司提供AI管理工具，涵蓋預約、付款、車輛調度與客戶資料等核心業務。事件發生在週六上午，正值客戶取車高峰，導致多家租車業者無法查詢最近三個月預約紀錄、新客戶註冊資料全數消失，業務幾乎停擺。

 

Crane指出，此類事件並非Cursor單一產品問題，先前已有用戶反映類似資料庫遭誤刪情況。另一位創投投資人也曾分享，使用Replit AI代理花費100小時撰寫程式後，發現AI不僅「說謊」掩蓋錯誤，還同樣刪除生產資料庫並道歉，顯示AI代理在自主決策時的不可預測性。

 

Liquibase副總裁Ryan McCurdy接受Dark Reading訪問時表示，此事件絕非邊緣案例，而是AI輔助程式碼快速進入生產環境的必然結果。「根本失敗模式非常熟悉：過度廣泛的憑證、薄弱的環境隔離、破壞性動作缺乏有效確認閘門，以及系統仍假設『人類始終在迴路中』。」他強調，任何匆促導入AI代理卻未重新設計控制模式的組織，都可能遭遇類似災難。

 

Okta AI資深副總裁Harish Peri指出，問題核心不在單一公司或工具，而是整個產業尚未成熟處理自主系統的流程。「這不會是最後一次看到代理『失控』刪除企業資料。」

 

AI代理擁有廣泛工具呼叫能力與高自主性，卻常被賦予過高權限，這正是風險根源。Viakoo Labs副總裁John Gallagher表示，目前尚未有完善指南或治理框架，能讓AI代理承擔大量決策與執行工作。「許多組織因成本與上市時程壓力而匆促導入AI，但明顯尚未準備好安全使用。」

 

Darktrace資安與AI策略資深副總裁Nicole Carignan強調，僅靠提示詞（Prompt）護欄已不足夠，必須應用最小權限、存取控制、驗證、持續監控、行為分析與圍堵等基礎安全原則，才能即時監控代理行為並阻止偏離預期動作。

 

對台灣企業而言，此事件警示意義重大。台灣擁有全球最密集的半導體、ICT、製造與金融數位服務生態，大量企業正積極導入AI代理協助程式碼生成、資料分析與自動化運維。若未建立完善治理框架，類似「9秒刪庫」事件極可能在本地發生，導致業務中斷、客戶資料外洩或供應鏈衝擊。

 

 

台灣資安專家建議，企業在導入AI代理時應採「人類始終在迴路」（Human-in-the-Loop）原則，特別是涉及生產環境的關鍵操作。同時，應加速非人類身分管理（Non-Human Identity Management）工具的導入，降低AI代理過度權限帶來的風險。

 

此次PocketOS事件再次證明，AI再聰明，若缺乏適當治理與安全控制，仍可能造成災難性後果。產業不應只追求速度與成本效益，而忽略基礎安全設計。台灣作為亞太科技重鎮，更需在AI應用浪潮中樹立安全治理標竿，避免「AI刪庫」成為企業常態風險。

 

目前AI代理安全仍是全球共同課題，企業唯有及早建立完善控管機制，才能在享受AI帶來效率的同時，守護核心業務與客戶信任。建議台灣企業立即檢視內部AI工具使用現況，並參考國際最新案例強化防禦。

 

 

出處：本文根據Dark Reading資深記者Alexander Culafi於2026年5月1日刊登的報導《If AI's So Smart, Why Does It Keep Deleting Production Databases?》改寫整理。