來自實作的
    思考與記錄。

    指南、研究筆記,以及我們在建立模型時學到的經驗。

    面向 SOC 分析師的 AI:用 9B 模型做告警分診

    面向 SOC 分析師的 AI,截至 2026 年 10 月:在 Alert-Bench 告警分診測試中,一個 9B 開放權重模型在相同告警上與 GPT-4.1 打平。本文介紹測試方法和侷限,按單價和每條告警的 token 用量兩個維度拆解成本,並說明哪些決定仍需分析師來做。

    閱讀文章

    面向 SOC 分析師的 AI:用 9B 模型做告警分診

    面向 SOC 分析師的 AI,截至 2026 年 10 月:在 Alert-Bench 告警分診測試中,一個 9B 開放權重模型在相同告警上與 GPT-4.1 打平。本文介紹測試方法和侷限,按單價和每條告警的 token 用量兩個維度拆解成本,並說明哪些決定仍需分析師來做。

    閱讀文章

    Claude 能微調嗎?可行的替代方案

    Claude 能微調嗎?截至 2026 年 10 月,Claude API 不提供微調,Amazon Bedrock 上的 Claude 3 Haiku 微調管道也已關閉。本文說明微調成本該怎麼算、Anthropic 對使用 Claude 輸出訓練模型的規定,以及如何用自己的資料訓練模型。

    閱讀文章

    網路安全最佳本地 LLM(2026 年 10 月)

    截至 2026 年 10 月的網路安全最佳本地 LLM:有哪些開放權重模型可以在您自己的硬體、私有雲租戶或物理隔離網路中執行,各自在告警分診、威脅情報和漏洞研究等任務上得分多少,由誰測得,以及如何為安全團隊選擇、測試和部署規模合適的本地模型。

    閱讀文章

    GLM-5.3 與 Kimi K3 網路安全基準對比(2026 年 10 月)

    截至 2026 年 10 月,GLM-5.3 和 Kimi K3 的網路安全基準測試成績與 Claude、GPT 相比如何:每個分數由誰測得,開放模型在哪些任務上已與閉源模型持平,在哪些任務上仍然落後,以及這些結果對防禦方意味著什麼。本文逐項註明來源與測量方,並說明 Qwen 3.8 目前唯一可查的網路安全成績。

    閱讀文章

    AI 代理適用的小型語言模型:我們的回應

    AI 代理適用的小型語言模型:我們依原文解讀 NVIDIA 的立場論文《Small Language Models are the Future of Agentic AI》,說明我們訓練模型在 QMSum 上的實測結果在哪些地方與之一致、我們會在模型規模、最佳化與成本交叉點上補充哪些限定,並列出適合代理的開放模型。

    閱讀文章

    大型語言模型微調中的災難性遺忘

    大型語言模型微調中的災難性遺忘:為什麼一輪接一輪的依序訓練會抹掉模型原有的能力,已發表的五類緩解方法(重放、正規化、LoRA、O-LoRA 和 OSFT 等正交子空間方法、增加容量)及其出處,以及如何用帶回歸集的評估門檻在新版本上線前發現遺忘,讓目前的模型繼續服務。

    閱讀文章

    AI 智慧代理的持續學習:模型層

    AI 智慧代理在模型層的持續學習:代理自己的流量訓練出每個新的模型版本,新版本先用您的評估打分,通過後才上線,未達標時目前的模型繼續服務。本文介紹 LangChain 的模型、harness、脈絡三層框架,發布門檻和回歸集的設計,以及持續學習與一次性微調的差別。

    閱讀文章

    繼續預訓練、微調與 RAG:該選哪個

    繼續預訓練與微調有什麼不同?本文解釋什麼是持續預訓練、預訓練和微調的區別、微調和訓練是不是一回事,結合多項已發表的研究,說明領域知識究竟如何進入模型,以及什麼時候檢索(RAG)比訓練更合適,並給出繼續預訓練、微調和檢索三種方法各自適用情形的對照表。

    閱讀文章

    領域專用大語言模型評估:一套實操方法

    一步步講解領域專用大語言模型評估:如何用真實工作建構保留集、凍結評估規程、在評分前聲明通過閾值,並為每項比較給出信賴區間。我們以已發表的 QMSum 研究為實例,說明評估集需要多大、如何判斷差異是否真實,以及評估如何在每個新版本上線之前把關。

    閱讀文章

    什麼是領域專用大語言模型?附實例

    領域專用大語言模型掌握一個領域的詞彙、事實和慣例,並能處理該領域內的多種任務。本文給出金融、法律、醫學和晶片設計領域有出處的實例,說明它與只做一項工作的任務專用模型有什麼區別,兩者如何疊加組合,以及什麼情況下通用模型同樣夠用、訓練好的模型對成本有什麼影響。

    閱讀文章

    基礎模型與特定任務模型:差異與選擇

    基礎模型與特定任務模型有什麼差異?本文說明兩者各是什麼、什麼時候為單一任務訓練的模型勝出、今天就能下載的特定任務模型範例,以及如何把一家企業的工作拆分給多個專用模型,再透過路由把它們組合起來。基礎模型則繼續承擔開放式的工作,並為超出範圍的請求兜底。

    閱讀文章

    開放權重模型與前沿模型:成本與品質比較

    開放權重模型與前沿模型比較:依 Epoch AI 的測量,開放模型在通用能力上落後約四個月,但每個 token 便宜好幾倍。本文說明價差從何而來、目前領先的開放模型有哪些,以及用您的任務訓練出的模型在什麼情況下勝過租用的前沿模型,並附上我們的 QMSum 實測結果與單一任務成本試算。

    閱讀文章

    什麼是應用型 AI 實驗室?三類 AI 實驗室

    應用型 AI 實驗室為企業既有的工作訓練模型,從第一次部署起就有收入。本文比較前沿實驗室、neolab 和應用型實驗室,回答三大 AI 實驗室是哪幾家、neolab 是什麼、應用型 AI 是否值得投入等問題,並以 Ertas AI 為例說明應用型實驗室如何運作。

    閱讀文章

    澳洲 AI 研究實驗室:2026 年版圖

    截至 2026 年 10 月的澳洲 AI 研究實驗室版圖,附來源連結:大學研究院、國家科學機構 CSIRO 和商業實驗室共十二家,每家一句話介紹,皆取自該機構自己的網頁,並註明核對日期。文章最後提供選擇 AI 實驗室合作夥伴的五個要點,並解答墨爾本有沒有應用型 AI 研究實驗室、大學研究院與商業實驗室有何差別等問題。

    閱讀文章

    AI 新創公司的毛利率與推論成本

    2025 年 AI 產品的平均毛利率只有 45%,原因在於推論成本隨使用量成長。本文拆解單一任務成本花在哪裡:每個 token 的價格和每項任務傳送的 token 數量。我們用成本計算器的預設範例,算出這兩部分在按席位收費的產品裡如何影響毛利,並說明訓練好的模型能改變什麼,以及哪些情況下並不划算。

    閱讀文章

    微調已死?閉源實驗室退出意味著什麼

    微調被證偽了嗎?OpenAI 和 Mistral 正在逐步停止自助微調,這是一項產品決策。本文整理三家服務商的變化,用我們的 QMSum 實測結果說明訓練好的開放模型在哪些任務上勝出、哪些情況下寫好提示詞就夠了,以及在 OpenAI 上做過微調的團隊接下來該怎麼做。

    閱讀文章

    OpenAI 微調替代方案:遷移指南

    OpenAI 微調功能已棄用:2027 年 1 月 6 日起不能再建立新的微調任務,GPT-4o 和 GPT-4.1 的微調模型也將於 1 月 14 日下線。本文說明現有模型會怎樣、有哪些替代方案,以及如何分四步遷移到訓練好的開放模型,並用 OpenAI 公布的價格算清遷移成本。

    閱讀文章

    企業何時應該打造客製化 AI 模型?

    實用指南:結合市場資料、實際業務樣本與可量化標準,判斷企業重複性工作流程是否適合客製化 AI 模型,並比較品質、成本、延遲與營運需求。文章也提供五步評估流程、試行發布門檻與漸進部署建議,協助團隊依據自身資料判斷客製化模型是否值得投入,以及何時應繼續使用通用模型。

    閱讀文章

    AI 代理成本最佳化:降低每次執行的 token 消耗

    寫給工程師的 AI 代理成本最佳化指南:一次代理執行的 token 都花在哪裡,如何在工具端裁剪輸出、清理舊的工具結果、快取靜態前綴、為每次執行設定步數和花費上限,以及如何依中位數和 p95 衡量每次成功執行的成本,並說明客製化模型何時值得接手重複步驟。

    閱讀文章

    單一任務成本:衡量 AI 的單位經濟效益

    單一任務成本把 AI token 帳單變成單位經濟指標。本文用一個客服 AI 代理的完整算例,講清楚單一任務成本怎麼算、AI 代理每月要花多少錢、怎樣為每類任務設定目標值和上限、這個數字為什麼會逐月波動,以及擁有自己的模型如何讓單一任務成本更低、也更可預測。

    閱讀文章

    如何為團隊設定 AI token 預算

    寫給管理者的 AI token 預算指南:按角色設定用量額度,用成本呈現讓每個團隊看見自己的花費,設好預設模型,管住 Claude Code、Cursor 和 Copilot 等程式碼代理的用量,再按單一任務成本為每個 AI 工作負載編列預算。

    閱讀文章

    客製化模型何時比前沿 API 更省錢

    用前沿 API 還是客製化模型?本文提供損益兩平點的計算公式:前沿一側按您實際支付的價格計算,計入快取和批次處理;客製化模型一側計入 GPU 使用率、評估、監控、重新訓練和攤提的建置成本。附 2026 年 10 月價格下的完整試算、兩邊常被遺漏的成本,以及由評估集把關、保留前沿回退的安全遷移路徑。

    閱讀文章

    如何降低企業的 AI token 成本

    寫給管理者的 AI 成本指南:先弄清 AI token 都花在了哪裡,再拿下批次處理、提示快取和模型選型帶來的快速節省,最後為呼叫量最大的任務配一個專屬的客製化模型。文中列出該向團隊提出的問題、每項措施的節省幅度,並附一份 30 天行動計畫。

    閱讀文章

    LLM 成本最佳化:12 種技術排名

    依節省幅度、實施投入和品質風險排列的 12 種 LLM 成本最佳化技術,附 2026 年 10 月 OpenAI 與 Anthropic 的定價,涵蓋提示快取、批次處理、模型選型、請求路由、上下文裁剪和代理限制,並說明高流量任務何時值得擁有專屬的客製化模型。

    閱讀文章