前陣子我與幾位朋友們聊 vibe coding(氛圍式輔助程式設計)心得時,提到我對於 AI 一下子寫了一大堆 code,但我搞不清它們到底寫了些什麼,感到不太放心。
- AI 在什麼情境下會錯?
- 錯了會影響誰?
- 誰會發現?
- 誰能介入?
- 誰有權限讓它停下來?
AI 風險評估不是一般專案風險表的換皮
- 資料
- 模型
- 使用情境
- 治理責任
- 法規與倫理
- 人機互動
PoC 證明的是「可不可行」。
風險評估要回答的是「能不能負責任地使用」。
第一個問題:這個 AI 到底在幫誰做什麼決定?
- 這個 AI 幫誰做什麼決定?
- 做錯會造成什麼後果?
第二個問題:AI 使用了什麼資料?
- 這個 AI 的輸入資料是否可信?
- 它引用的知識來源是否可追蹤?
- 它是否可能把敏感資料帶到不該出現的地方?
- 它是否可能因資料偏差而產生不公平結果?
資料治理不是 AI 專案的配角,而是 AI 風險管理的核心。
第三個問題:模型本身有什麼風險?
- 幻覺
- 偏誤
- 輸出不穩定
- 可解釋性不足
- 模型漂移
- 對 prompt injection 的脆弱性
- 面對極端情境時失效
- 產出不當內容
- 引用錯誤來源
- 洩漏敏感資訊
第四個問題:誰負責監控?誰有權暫停?
- 每個人都有一部分責任,但沒有人擁有完整責任。
- 誰是 AI Use Case Owner?
- 誰是 Data Owner?
- 誰是 Model / System Owner?
- 誰負責監控與人工覆核?
- 誰有權暫停 AI?
- 發生事故時誰負責通報與處理?
第五個問題:哪些決策可以交給 AI?哪些不能?
- 哪些事情 AI 可以自動完成?
- 哪些事情 AI 只能提供建議?
- 哪些事情一定要人工核准?
- 哪些情況必須升級處理?
- 哪些輸出屬於不可接受結果?
第六個問題:AI 上線後要看哪些風險指標?
- 錯誤率
- 幻覺率
- 人工覆核退件率
- 使用者申訴數
- 異常輸出比例
- 敏感資料事件數
- 模型漂移指標
- 不同群體之間的誤差差異
- AI 建議被人工推翻的比例
如何設計一份簡化版 AI 風險評估表

而這些 AI 風險評估最實用的做法,就是把它併入既有的專案治理流程。
如果公司已經有 Risk Register 或 RAID Log,就不要另外做一套完全孤立的 AI 風險文件。
把 AI 專屬風險項目加入既有風險管理機制,AI risk 才會真的被專案團隊與其他風險一併追蹤,而不是只在審查時出現一次。
這會是 AI 時代專案經理很重要的新能力。
高風險 AI 的簡單判準
如何判斷某項 AI 功能的風險很高?可以用底下這個等式:
高風險 AI = 高影響決策 + 高敏感資料 + 低可解釋性 + 低人工介入能力。
只要這四項同時偏高,就不應該只把它當成一般 IT 專案處理。
例如:AI 使用大量個資,協助做金融授信判斷,而且模型依據不透明,人工也沒有即時介入能力。
這就不是單純的「導入 AI 提升效率」,而是一個需要嚴格治理的高風險 AI 系統。
相反地,如果 AI 只是幫員工整理非敏感會議摘要,而且人工會自行判斷是否採用,風險等級相對較低。
AI 治理的重點不是把所有 AI 都管到不能動,而是讓不同風險等級的 AI,接受不同程度的治理。
從 AI 風險評估 接到 AI 治理 SOP
那風險評估完之後,要怎麼管理這些風險?這就是 AI 治理 SOP 的價值。
企業至少需要幾個基本制度:
第一,AI 使用管理辦法:明確規範哪些 AI 工具可以用、哪些資料不能輸入、哪些情境需要申請、哪些行為被禁止。
第二,AI 導入評估流程:所有 AI use case 在導入前,都要完成風險分級、資料評估、資安評估、法遵評估與供應商評估。
第三,AI 事故處理流程:當 AI 發生幻覺、錯誤建議、個資外洩、prompt injection、RAG 文件外洩或自動化動作失控時,組織要知道如何通報、暫停、修正與復原。
第四,AI 變更管理流程:模型版本更新、prompt template 變更、RAG 知識庫更新、資料來源改變,都可能影響 AI 行為。這些變更都應該有測試、驗證、紀錄與核准。
第五,AI 稽核軌跡:要能證明這個 AI 系統什麼時候被評估、誰核准、用了什麼模型與資料、輸出了什麼結果、誰覆核,以及發生問題時怎麼處理。
沒有稽核軌跡,就很難有真正的 AI accountability。
真正的問題不是 AI 會不會犯錯,而是知不知道它何時犯錯
AI 的價值在於提高效率、擴大能力、加速決策。
但 AI 的風險也在於,它可能讓錯誤以更快的速度、更大的規模、更有說服力的形式發生。
所以,面對 AI,我們不能只問:
- 它能不能做?
我們還要問:
- 它做錯時,我們能不能知道?
- 能不能介入?
- 能不能停下來?
- 能不能負責?
這才是 AI Risk Assessment 的核心。
不是為了阻礙 AI 導入,而是為了讓 AI 導入可以走得更遠、更穩,也更值得信任。
