📉 三大共同挑戰：驗證、確認與熵增

文章指出，無論商界或學界，各類組織在引入GenAI後都將面臨三項嚴峻的共同挑戰：

• 驗證知識（Knowledge Verification）： 如何確保AI生成的內容真實可靠？
• 確認知識（Knowledge Validation）： 如何判斷這些資訊是否符合組織的特定需求與標準？
• 知識熵增（Knowledge Entropy）： 隨著低品質內容大量湧入，組織知識庫的混亂度將急劇上升，導致資訊價值稀釋。

🤖 公開大模型 vs. 專有客製模型

文章特別提到，對於許多需要高度準確性的任務，使用公開的大型語言模型（LLM）往往「幾乎沒有真正價值」。因為它們產生的往往是通用化文字，且經常包含錯誤（Hallucinations）。

兩位作者預測，未來的趨勢將轉向使用專有小型語言模型（SLM）或基於企業專有資料客製化的大模型。像ChatGPT、Claude等主流產品，未來可能僅用於改變文字風格與格式，而非生成核心業務知識。

🛡️ 領導者的應對策略

面對「知識熵增」，文章建議領導者必須採取以下行動：

1. 制定明確策略，嚴格追蹤非結構化資料來源。
2. 確保所有AI輸出都能追溯到背後的「基礎真實」（Ground Truth）。
3. 不能無限制地使用AI，必須定義清楚AI在哪些環節能真正增加價值。
4. 深入理解AI對整個工作流程的潛在影響，避免「為了用AI而用AI」。

出處：信報財經新聞 | 刊於「CEO AI⎹ EJ Tech」