香港企業引入 AI 輔助開發的安全風險與防禦式編程上線審核 SOP

不少香港技術團隊在趕工推行數碼轉型時，都會讓開發人員使用生成式人工智能（GenAI）輔助編寫程式碼。原本要寫幾星期的應用程式介面（API），現在往往半日就初步成型。許多團隊見到功能可以順利跑通，便急於將系統推上正式生產環境（Production）。然而，AI 產出的代碼通常只滿足「能執行」的最基本要求，極容易忽略企業內部的複雜權限控制、極端數據處理及錯誤防禦機制。一旦盲目上線，隨時會引發嚴重的線上當機或違反《個人資料（私隱）條例》（PDPO）的數據外洩事故。本文將整理 AI 開發環境下常見的合規陷阱、如何在架構底層落實「防禦式編程」，以及每次系統上線前必須執行的 5 步安全審核清單。

AI 產出程式碼的核心合規與安全風險

當前線開發人員高度依賴 AI 工具時，企業首先面對的是合規法律責任與內部研發管理流程的全面鬆懈。

香港個人資料私隱專員公署（PCPD）於 2024 年發布了 AI 私隱指引，要求企業必須確保系統架構符合 PDPO 的保障資料原則。若開發人員貪圖方便，直接將未經「去敏感化（Anonymized）」的真實客戶資料（如香港身份證號碼、信用卡數據或機密合約）輸入至未經授權的公有 AI 模型，將直接觸犯相關法規。

此外，過度依賴 AI 容易衍生推卸責任的團隊文化。當系統出現空指標（Null Pointer）導致崩潰，開發人員不能以「這是 AI 生成的程式碼」作為推脫藉口。企業必須確立嚴格的內部規範：AI 產出的代碼僅為初稿，源碼審查（Code Review）與最終簽核的安全責任，必須由具備專業資格的技術主管完全承擔。

防禦式編程在企業底層架構的應用方式

要防止 AI 產生的隱蔽邏輯漏洞擊垮系統，開發團隊必須全面引入「防禦式編程（Defensive Programming）」思維。這要求開發者視所有外部傳入的數據（包含前端網頁輸入、第三方支付網關回傳數據等）為潛在危險的「髒數據」，並在架構上落實以下機制。

建立嚴密的數據隔欄機制

系統必須在邊界設立「數據隔欄（Fence Mechanism）」。外部數據傳入時，必須先經過嚴格的參數格式校驗、類型比對與長度限制。只有完全通過驗證的「乾淨數據」，才能獲准進入內部核心商業邏輯區，從根本上阻絕惡意注入與越界存取。

嚴格區分錯誤處理與斷言的使用場景

初級工程師使用 AI 時常混淆這兩項工具，導致系統防線混亂。兩者的應用範圍必須清晰劃分：

實施環境差異化部署策略

遵循預設拒絕（Default Deny）的安全原則，在開發與預備環境（Dev/Staging）中應採取最嚴苛的斷言機制，容錯率為零以盡早暴露問題；在正式生產環境（Production）中，則利用優雅降級與容錯策略包容非致命異常，確保關鍵服務持續運作。

系統上線前必備的五步安全審核標準作業程序

AI 雖然能在短時間內生成大量測試腳本，但往往只是驗證介面是否成功回傳 `HTTP 200 OK` 的「假測試」。為免陷入虛假安全感，任何新功能上線前必須嚴格執行以下五步 SOP：

1. 風險排序優先鎖定 P0 核心模組

避免無差別的全量測試。應將深度審核資源集中於後果最嚴重的範圍，包括資金賬務（如付款、轉數快結算）、權限管理（如登入註冊、管理員審批）及敏感資料（如客戶檔案查閱、訂單批量匯出）。

2. 執行三層深度功能驗證

單看介面回傳狀態並不足夠，必須實實驗證資料庫紀錄是否正確，並涵蓋三個層面：

• 正常場景： 驗證資料狀態流轉符合業務預期。
• 邊界場景： 測試交易金額為零或負數、小數點精度截斷、庫存高併發扣減及跨時區結算。
• 異常場景： 模擬缺項提交表單、極短時間內重複發送請求或低權限用戶的越權存取。

3. 建構自動化回歸測試 Pipeline

將經過驗證的測試轉換為持續整合/持續部署（CI/CD）管道中的核心資產。確保每次 AI 代碼變更後，系統自動重新執行單元測試、介面整合測試及端到端業務流程測試，及早發現新代碼會否破壞舊有功能。

4. 利用變異測試識別 AI 假測試

審核人員應主動在源碼中「故意投毒」，例如將折扣公式算反或強行關閉數據庫的回滾機制（Rollback）。若核心邏輯被改壞，而 AI 寫的測試依然顯示「全數通過」，即證明該測試無效，必須立即廢棄並重新編寫。

5. 執行紅藍對抗攻防與漏洞掃描

從外部攻擊者視角檢視防線，重點查核水平與垂直越權漏洞（IDOR）、參數篡改的後端二次驗證、併發漏洞，以及確保 API 具備防護批量刷單的存取頻率限制。此步驟建議配合專業的 Web 應用程式漏洞掃描工具，以識別 OWASP 常見安全風險。

企業級 AI Agent 的權限控制與防護重點

隨着系統升級為具備自主執行能力的智能體（AI Agent），並獲授權連線至企業內部知識庫或自動化工具，這帶來了極難防禦的新型攻擊面。

最常見的風險是「間接提示詞注入（Indirect Prompt Injection）」。攻擊者將惡意指令暗藏於 PDF 或網頁內容中，誘騙 Agent 在讀取時執行越權操作。為此，企業必須落實以下兩項控制：

• 最小權限原則： Agent 使用的 API 權杖絕對不能具備全域管理員權限，必須嚴格限制為唯讀或極小範圍的執行權限。
• 人工確認機制（Human-in-the-Loop）： 涉及資金搬移、跨境資料傳輸或大批量資料刪除等高風險操作，系統必須強制阻截，待具備權限的人類管理員覆核批准後方可放行。

兼顧開發效率與系統資訊保安的長遠策略

選擇運用 AI 工具加速開發是提升企業競爭力的必要手段，但不應以犧牲系統穩定性及資料合規為代價。系統由誰開發、邊界防護是否嚴謹、有沒有落實私隱保護機制，以及系統上線前有沒有經過獨立的安全風險評估，才是決定數碼資產安全與服務質素的關鍵因素。將防禦式編程的嚴謹態度深度融入開發文化，並建立可查驗的管理體系，企業方能穩健地享受 AI 帶來的技術紅利。

下一步：評估現有開發流程的資訊安全與合規狀態

要確保 AI 輔助開發的系統能夠安全上線，單憑內部團隊的常規測試，往往難以全面覆蓋 OWASP 安全漏洞及 PDPO 隱私合規要求。如果您的企業正準備為高風險的核心業務進行版圖更新，建議及早為現有架構進行獨立的技術與合規風險評估。

CertiSafe 作為專業的合規夥伴，我們的資深資訊安全審核團隊（具備 CISA, CISM, CISSP 資格）能為企業提供完整的數碼合規方案：

• 執行 安全風險評估及審計（SRAA） 及 Web 應用程式漏洞掃描，排查潛在系統漏洞。
• 執行 私隱影響評估（PIA），確保 AI 數據處理符合本地法規。
• 協助企業建立及獲取 ISO/IEC 27001 資訊安全管理體系 及 ISO/IEC 27701 私隱資訊管理體系 國際認證，滿足政府投標與大型企業供應鏈的嚴格要求。