来自实践的
    思考与记录。

    指南、研究笔记,以及我们在构建模型时学到的经验。

    面向 SOC 分析师的 AI:用 9B 模型做告警分诊

    面向 SOC 分析师的 AI,截至 2026 年 10 月:在 Alert-Bench 告警分诊测试中,一个 9B 开放权重模型在相同告警上与 GPT-4.1 打平。本文介绍测试方法和局限,按单价和每条告警的 token 用量两个维度拆解成本,并说明哪些决定仍需分析师来做。

    阅读文章

    面向 SOC 分析师的 AI:用 9B 模型做告警分诊

    面向 SOC 分析师的 AI,截至 2026 年 10 月:在 Alert-Bench 告警分诊测试中,一个 9B 开放权重模型在相同告警上与 GPT-4.1 打平。本文介绍测试方法和局限,按单价和每条告警的 token 用量两个维度拆解成本,并说明哪些决定仍需分析师来做。

    阅读文章

    Claude 能微调吗?可行的替代方案

    Claude 能微调吗?截至 2026 年 10 月,Claude API 不提供微调,Amazon Bedrock 上的 Claude 3 Haiku 微调通道也已关闭。本文说明微调成本该怎么算、Anthropic 对使用 Claude 输出训练模型的规定,以及如何用自己的数据训练模型。

    阅读文章

    网络安全最佳本地 LLM(2026 年 10 月)

    截至 2026 年 10 月的网络安全最佳本地 LLM:有哪些开放权重模型可以在您自己的硬件、私有云租户或物理隔离网络中运行,各自在告警分诊、威胁情报和漏洞研究等任务上得分多少,由谁测得,以及如何为安全团队选择、测试和部署规模合适的本地模型。

    阅读文章

    GLM-5.3 与 Kimi K3 网络安全基准对比(2026 年 10 月)

    截至 2026 年 10 月,GLM-5.3 和 Kimi K3 的网络安全基准测试成绩与 Claude、GPT 相比如何:每个分数由谁测得,开放模型在哪些任务上已与闭源模型持平,在哪些任务上仍然落后,以及这些结果对防御方意味着什么。本文逐项注明来源与测量方,并说明 Qwen 3.8 目前唯一可查的网络安全成绩。

    阅读文章

    面向 AI 智能体的小语言模型:我们的回应

    面向 AI 智能体的小语言模型:我们按原文解读 NVIDIA 的立场论文《Small Language Models are the Future of Agentic AI》,说明我们训练模型在 QMSum 上的实测结果在哪些地方与之一致、我们会在模型规模、优化和成本交叉点上补充哪些限定,并列出适合智能体的开放模型。

    阅读文章

    大型语言模型微调中的灾难性遗忘

    大型语言模型微调中的灾难性遗忘:为什么一轮接一轮的顺序训练会抹掉模型原有的能力,已发表的五类缓解方法(重放、正则化、LoRA、O-LoRA 和 OSFT 等正交子空间方法、增加容量)及其出处,以及如何用带回归集的评估门槛在新版本上线前发现遗忘,让当前模型继续服务。

    阅读文章

    AI 智能体的持续学习:模型层

    AI 智能体在模型层的持续学习:智能体自己的流量训练出每个新的模型版本,新版本先用您的评估打分,通过后才上线,未达标时当前模型继续服务。本文介绍 LangChain 的模型、harness、上下文三层框架,发布门槛和回归集的设计,以及持续学习与一次性微调的区别。

    阅读文章

    继续预训练、微调与 RAG:该选哪个

    继续预训练与微调有什么不同?本文解释什么是持续预训练、预训练和微调的区别、微调和训练是不是一回事,结合多项已发表的研究,说明领域知识究竟如何进入模型,以及什么时候检索(RAG)比训练更合适,并给出继续预训练、微调和检索三种方法各自适用情形的对照表。

    阅读文章

    领域专用大语言模型评估:一套实操方法

    一步步讲解领域专用大语言模型评估:如何用真实工作构建留出集、冻结评估规程、在打分前声明通过阈值,并为每项比较给出置信区间。我们以已发表的 QMSum 研究为实例,说明评估集需要多大、如何判断差异是否真实,以及评估如何在每个新版本上线之前把关。

    阅读文章

    什么是领域专用大语言模型?附实例

    领域专用大语言模型掌握一个领域的词汇、事实和惯例,并能处理该领域内的多种任务。本文给出金融、法律、医学和芯片设计领域有出处的实例,说明它与只做一项工作的任务专用模型有什么区别,两者如何叠加组合,以及什么情况下通用模型同样够用、训练好的模型对成本有什么影响。

    阅读文章

    基础模型与特定任务模型:区别与选择

    基础模型与特定任务模型有什么区别?本文讲清两者各是什么、什么时候为单一任务训练的模型胜出、今天就能下载的特定任务模型示例,以及如何把一家企业的工作拆分给多个专用模型,再通过路由把它们组合起来。基础模型则继续承担开放式的工作,并为超出范围的请求兜底。

    阅读文章

    开放权重模型与前沿模型:成本与质量对比

    开放权重模型与前沿模型对比:按 Epoch AI 的测量,开放模型在通用能力上落后约四个月,但每个 token 便宜好几倍。本文解释价差从何而来、目前领先的开放模型有哪些,以及用您的任务训练出的模型在什么情况下胜过租用的前沿模型,并附上我们的 QMSum 实测结果和单任务成本测算。

    阅读文章

    什么是应用型 AI 实验室?三类 AI 实验室

    应用型 AI 实验室为企业已有的工作训练模型,从第一次部署起就有收入。本文对比前沿实验室、neolab 和应用型实验室,回答三大 AI 实验室是哪几家、neolab 是什么、应用型 AI 是否值得投入等问题,并以 Ertas AI 为例说明应用型实验室如何运作。

    阅读文章

    澳大利亚 AI 研究实验室:2026 年版图

    截至 2026 年 10 月的澳大利亚 AI 研究实验室版图,附来源链接:大学研究院、国家科学机构 CSIRO 和商业实验室共十二家,每家一句话介绍,均取自该机构自己的网页,并注明核对日期。文末给出选择 AI 实验室合作伙伴的五个要点,并解答墨尔本有没有应用型 AI 研究实验室、大学研究院与商业实验室有何区别等问题。

    阅读文章

    AI 初创公司的毛利率与推理成本

    2025 年 AI 产品的平均毛利率只有 45%,原因在于推理成本随使用量增长。本文拆解单任务成本花在哪里:每个 token 的价格和每项任务发送的 token 数量。我们用成本计算器的默认示例,算出这两部分在一个按席位收费的产品里怎样影响毛利,并说明训练好的模型能改变什么,以及在哪些情况下并不划算。

    阅读文章

    微调已死?闭源实验室退出意味着什么

    微调被证伪了吗?OpenAI 和 Mistral 正在逐步停止自助微调,这是一项产品决策。本文梳理三家服务商的变化,用我们的 QMSum 实测结果说明训练好的开放模型在哪些任务上胜出,在哪些情况下写好提示词就够了,以及在 OpenAI 上做过微调的团队接下来该怎么办。

    阅读文章

    OpenAI 微调替代方案:迁移指南

    OpenAI 微调功能已弃用:2027 年 1 月 6 日起不能再创建新的微调任务,GPT-4o 和 GPT-4.1 的微调模型也将于 1 月 14 日下线。本文说明现有模型会怎样、有哪些替代方案,以及如何分四步迁移到训练好的开放模型,并用 OpenAI 公布的价格算清迁移成本。

    阅读文章

    企业何时应该构建定制 AI 模型?

    实用指南:结合市场数据、真实业务样本与可量化标准,判断企业重复性工作流程是否适合定制 AI 模型,并比较质量、成本、延迟和运营要求。文章还提供五步评估流程、试点发布门槛和渐进部署建议,帮助团队依据自身数据判断定制模型是否值得投入,以及何时应继续使用通用模型。

    阅读文章

    智能体 AI 成本优化:降低每次运行的 token 消耗

    写给工程师的智能体 AI 成本优化指南:一次智能体运行的 token 都花在哪里,如何在工具端裁剪输出、清理旧的工具结果、缓存静态前缀、为每次运行设置步数和花费上限,以及如何按中位数和 p95 衡量每次成功运行的成本,并说明定制模型何时值得接手重复步骤。

    阅读文章

    单任务成本:衡量 AI 的单位经济效益

    单任务成本把 AI token 账单变成单位经济指标。本文用一个客服智能体的完整算例,讲清单任务成本怎么算、AI 智能体每月要花多少钱、怎样为每类任务设定目标值和上限、这个数字为什么会逐月波动,以及拥有自己的模型如何让单任务成本更低、也更可预测。

    阅读文章

    如何为团队设定 AI token 预算

    写给管理者的 AI token 预算指南:按角色设定用量额度,用成本展示让每个团队看到自己的花费,设好默认模型,管住 Claude Code、Cursor 和 Copilot 等编程智能体的用量,再按单任务成本为每个 AI 工作负载编制预算。

    阅读文章

    定制模型何时比前沿 API 更省钱

    用前沿 API 还是定制模型?本文给出盈亏平衡点的计算公式:前沿一侧按您实际支付的价格计算,计入缓存和批处理;定制模型一侧计入 GPU 利用率、评估、监控、重新训练和分摊的构建成本。附 2026 年 10 月价格下的完整算例、两边常被遗漏的成本,以及由评估集把关、保留前沿回退的安全迁移路径。

    阅读文章

    如何降低企业的 AI token 成本

    写给企业管理者的 AI 成本指南:先弄清 AI token 都花在了哪里,再拿下批处理、提示缓存和模型选型带来的快速节省,最后为调用量最大的任务配一个专属的定制模型。文中列出该向团队提出的问题、每项措施的节省幅度,并附一份 30 天行动计划。

    阅读文章

    LLM 成本优化:12 种技术排名

    按节省幅度、实施投入和质量风险排列的 12 种 LLM 成本优化技术,附 2026 年 10 月 OpenAI 与 Anthropic 的标价,涵盖提示缓存、批处理、模型选型、请求路由、上下文裁剪和智能体限制,并说明高流量任务何时值得拥有专属的定制模型。

    阅读文章