AI 編程失誤致美珍香逾9.5萬顧客電郵外洩 公司實施雙重審核防範再犯

新加坡著名肉乾老字號美珍香（Bee Cheng Hiang）近日發生該國首宗與人工智慧（AI）相關的重大資料外洩個案。事件源於一名員工在操作AI工具編寫程式碼時出現差錯，導致超過9.5萬名顧客的電子郵件地址外洩。新加坡個人資料保護委員會（PDCA）調查後指出，此事故源於人為指令不當，而非AI工具本身的故障或漏洞。涉事員工已即時停發郵件，公司亦承諾實施多項嚴格改善措施，包括引入「雙重審核制度」。

事件詳情：指令不當引致「CC」洩漏

據新加坡個人資料保護委員會公布的資料顯示，事件發生於今年4月。涉事的美珍香員工原本試圖借助AI工具自動生成一段程式碼，以便將公司的最新宣傳資訊一次性發送給廣大顧客。然而，該員工在撰寫提示詞（Prompt）或操作指令時出現差錯，導致生成的程式碼未能正確隱藏收件人列表。

結果，同一批次發出的電子郵件，其收件人能夠清楚看見彼此的電郵地址。是次資料外洩共波及95,364名顧客。幸運的是，由於宣傳電郵是以分批形式發出，每一批次僅設定為1,000名收件人，這意味着每位顧客的電郵地址在未經授權的情況下，僅會暴露予同批次郵件中的其餘999名收件者眼中，而非向所有近10萬名受影響顧客全面公開。儘管如此，這仍構成嚴重個人資料泄露風險。

調查結果：非工具故障，是人為疏忽

新加坡個人資料保護委員會特別強調，是次事故並非由於AI工具本身發生故障或安全漏洞，而是因為員工輸入的指令不夠精準明確。員工未能明確要求AI工具在程式碼中將其他收件人的電郵地址予以隱藏（例如使用BCC密送功能而非CC明送）。

此外，測試環節的疏忽也是導致事故未被及時發現的關鍵原因。該名員工在正式執行程式前，僅審閱了活動日誌紀錄（Log），卻沒有實際抽查發送的測試郵件內容。若當時有執行「樣本測試」，本可輕易發現電郵地址洩漏的問題並及時攔截。

緊急措施：雙重審核制杜絕再犯

事故發生後，美珍香已即時全面暫停發送所有群發營銷電郵，以防止更多顧客資料外洩，並隨即對問題程式碼進行修正。隨後，美珍香向個人資料保護委員會承諾並實施多項自願改善措施：

• 制定監管框架：針對AI輔助程式開發制定嚴格的監管指引，規範員工如何使用生成式AI。
• 實施雙重審核：規定日後所有群發宣傳郵件在正式發送前，必须經過至少兩名員工的雙重審核與檢查，確保編碼安全及內容準確。

此事件為企業引入AI技術敲響了警鐘，顯示了在自動化流程中，「人為審查」與「明確指令」的重要性，單純依賴AI生成的結果而缺乏人工覆核，可能帶來不可預期的隱私風險。