AI時代｜IBM新開源模型 專攻AI代理 加速企業智慧應用

大型語言模型（LLM）在短短幾年間，已從被動式聊天機械人，發展成為支撐自主代理的核心技術。這些代理能夠推理問題、制定計劃、執行操作，並在需要時自我糾正。國際商業機器（IBM）發布開源大型語言模型Granite 4.2系列，分別提供30億、80億及300億共3種參數版本，標誌著企業級AI應用邁向「代理式」新紀元。

以推理為中心的開源革命

IBM將Granite 4.2系列描述為「以推理為中心的版本」，並根據Apache 2.0授權發布。這意味著組織可以免費下載、微調並將之投入生產環境。新模型專為代理式人工智能（Agentic AI）設計，整合了推理、工具使用、編碼、指令遵循及語音功能，極大提升了模型在複雜企業場景中的實用性。

這一系列模型適合在雲端、本地伺服器及邊緣環境部署，為不同規模的企業提供了靈活的選擇。特別是規模較小的80億參數版本，幾乎可以在任何現代Mac機運行，甚至在相對低階的圖像處理器（GPU），例如輝達RTX系列也能輕鬆運行，大大降低了企業導入自主AI代理的硬件門檻。

輕量化與語音能力的突破

除了核心的語言模型，IBM還推出了兩款全新的語音模型，命名為Granite Speech 5.0 Turbo CTC及5.0 Turbo CTC NC。這兩款模型僅包含4.7億個參數，體積輕巧，適合部署在筆記簿電腦、智能手機及其他邊緣設備上。

這種輕量化設計讓企業能夠在終端設備上直接運行高品質的語音識別與合成功能，無需依賴昂貴的雲端服務，不僅提升了數據隱私安全性，也降低了網絡延遲，為即時互動應用（如智能客服、語音助手）帶來了新的可能性。