移动应用的端侧文本分类
如何构建在用户手机上运行的快速、准确的文本分类。情感分析、内容分类、意图检测和垃圾信息过滤,无需API调用。
阅读文章来自实践的
思考与记录。
指南、研究笔记，以及我们在构建模型时学到的经验。
移动应用中的OpenAI API：快速入门与没人提到的成本
将OpenAI API集成到iOS和Android应用的实用指南，附带1K到100K用户规模下大多数教程跳过的真实成本预测。
阅读文章
当 OpenAI 弃用你的应用依赖的模型时会发生什么
模型弃用不是假设。自 2023 年以来, OpenAI 已弃用 15+ 个模型。当你的应用依赖特定模型版本时,弃用意味着在你无法选择的截止日期前被迫迁移。
阅读文章
OTA 模型更新：保持端侧 AI 始终最新
如何在不经过应用商店发布的情况下向用户推送模型更新。版本检查、后台下载、回滚策略以及 OTA 模型分发的基础设施。
阅读文章
Phi-4 Mini移动端: Microsoft的小模型在iOS和Android上的应用
Microsoft的Phi-4 Mini以3.8B参数和MIT许可证提供强大的推理能力。与Llama和Gemma在移动端部署方面的对比,以及何时选择它。
阅读文章
Q4、Q5 和 Q8 对比: GGUF 移动端量化
Q4、Q5 和 Q8 的 GGUF 量化如何影响 iPhone 和 Android 上的模型大小、速度、质量和内存占用。全部基于真实设备实测。
阅读文章GGUF 模型分发：应用商店打包 vs 安装后下载
两种将 GGUF 模型送达用户设备的方式。与应用打包以获得简单性，或安装后下载以获得灵活性。两种方案的架构、大小限制和最佳实践。
阅读文章从应用用户交互构建训练数据集
您的应用已经在生成微调所需的训练数据。如 何收集、清洗和格式化用户交互，将其转化为能产出高质量端侧模型的数据集。
阅读文章每次 AI 请求,你的用户数据都在离开他们的手机
每次云 AI API 调用都会将用户数据发送到第三方服务器。这对隐私、合规、用户信任以及你的应用长期发展意味着什么。
阅读文章微调3B vs GPT-4：为什么小模型在领域任务上更胜一筹
学术研究表明，微调的3B-7B模型在领域特定任务上持续击败GPT-4。以下是证据、规律，以及如何在你的应用中实践。
阅读文章应用开发者的微调指南：不需要ML工程师背景
面向移动应用开发者的AI模型微调实用指南。学习LoRA、QLoRA和GGUF导出，无需ML背景。
阅读文章用 llama.cpp 在 iOS 与 Android 上运行 GGUF
如何把微调好的模型打包成 GGUF 并用 llama.cpp 跑在 iOS 和 Android 上：量化档位怎么选、真实文件体积、吞吐表现，以及模型分发的几种做法。
阅读文章你到底需要多少训练示例？100样本的迷思
AI模型微调的真实数据需求。研究表明50-500个示例对许多任务已经足够。以下是论文的结论以及如何构建你的数据集。
阅读文章On-Device 与云端 API:在 10K、50K 和 100K MAU 时的真实成本数学
对云端 API 定价与规模化 on-device 推理的成本进行毫不夸张的拆解。看看 on-device fine-tuning 究竟在何时回本,附完整表格、真实定价数据,以及那些没人写进 README 的隐藏成本。
阅读文章AI数据质量框架：衡量训练数据中真正重要的指标
一个系统化的框架，用于在五个维度上衡量和确保AI训练数据质量，包含面向企业团队的评分方法和成熟度级别。
阅读文章超越 Cohen's Kappa 的标注质量指标：从业者指南
一份关于超越 Cohen's Kappa 的标注质量指标的严谨指南——涵盖 Krippendorff's Alpha、F1 一致性、混淆矩阵、校准会议以及何时使用每种方法。
阅读文章数据准备时间估算器：按文档类型估算 AI 数据准备需要多长时间
按文档类型和数量的 AI 数据准备时间估算框架。比较 PDF、Word 文档、Excel 文件、扫描文档等的手动与自动化处理时间。
阅读文章企业 AI 数据质量成熟度模型：你的团队处于哪个级别？
一个面向企业 AI 数据质量的 5 级成熟度模型——从临时到优化——包含每个级别的评估标准、指标和工具建议。
阅读文章如何为 AI/ML 服务项目定义数据质量 SLA
一份面向 AI/ML 服务提供商的实用指南和模板，用于与客户定义数据质量 SLA——涵盖承诺内容、如何衡量、排除内容和补救条款。
阅读文章EU AI Act 数据管道合规准备检查器
针对 AI 训练数据管道应用 EU AI Act 第 10 条、第 12 条和第 19 条的合规准备框架。包含高风险和有限风险系统的检查表，重点关注 2026 年 8 月的截止日期。
阅读文章AI就绪数据质量的五个维度：评分指南
一份详细的评分标准，用于在五个维度上评估AI训练数据——完整性、一致性、准确性、时效性和相关性——每个级别附有具体的企业示例。
阅读文章节点图管道与Python脚本构建RAG：可视化何时胜出，何时不适用
可视化管道构建器和Python脚本都是构建RAG的有效方式。但它们优化的方向不同，选择错误会带来维护负担或灵活性损失。以下是每种方法适用的场景。
阅读文章PII 暴露风险评分卡：AI 管道自评估
一份包含 10 个评分风险因素的自评估评分卡，用于评估您的 AI 数据管道中的 PII 和 PHI 暴露情况。评估您的风险等级，在问题变成事故之前识别差距。
阅读文章向量存储中的 PII：为什么嵌入敏感数据是一个无法撤销的合规责任
一旦个人数据被嵌入为向量，就无法选择性地删除、编辑或审计。对该向量存储的每次查询都可能暴露 PII。唯一安全的方法是在嵌入之前进行脱敏。
阅读文章