vs

    LFM2.5 1.2B vs Llama 3.2 1B

    兩款都能在免費 T4 上微調的 1B 級模型。指令遵循、真實手機上的記憶體佔用、上下文長度、授權條款,以及裝置端場景該選哪一個。

    Overview

    截至 2026 年 8 月,LFM2.5 1.2B 與 Llama 3.2 1B 是 Ertas 目錄中僅有的兩款 1B 級基座模型。兩者都在入門級 T4 上訓練,都包含在免費方案內,匯出的 GGUF 也都不到 1 GB。紙面上它們幾乎可以互換,實際上卻是為不同任務打造的,而區分兩者的那項基準,恰好是裝置端專案最關心的。

    Llama 3.2 1B 是稠密 Transformer,上下文視窗 128,000 個詞元,生態是所有小型開放權重模型中最深厚的。只要某個 1B 模型存在微調配方、量化預設或行動端整合指南,那幾乎一定是為它準備的。

    LFM2.5 1.2B 則是混合架構。它把雙閘控短程卷積模組與分組查詢注意力模組交替排列,共 16 層,其中 10 層卷積、6 層注意力。卷積的計算量隨序列長度線性增長,注意力則是平方增長,正是這一點讓這樣小的模型在長提示下依然便宜。它的上下文視窗是 32,768 個詞元,只有 Llama 的四分之一;詞表為 65,536,這也是它匯出檔案如此精簡的主要原因。

    Feature Comparison

    FeatureLFM2.5 1.2BLlama 3.2 1B
    參數量11.7 億10 億
    架構混合:卷積 + 分組查詢注意力稠密 Transformer
    上下文視窗32,768 個詞元128,000 個詞元
    詞表大小65,536128,256
    IFEval(指令遵循)86.2352.37
    Q4_K_M 匯出體積731 MB810 MB
    手機實測佔用719 MB(Galaxy S25 Ultra)Meta 未公布
    授權條款LFM Open License v1.0Llama Community License
    在 Ertas 微調所需 GPU 層級T4T4
    可用 Ertas 免費方案訓練
    原生工具呼叫詞元支援,預設輸出 Python 風格呼叫依靠提示詞格式
    知識截止時間2024 年中2023 年 12 月
    生態成熟度較新,2026 年發布1B 級中最深厚

    Strengths

    LFM2.5 1.2B

    • 指令遵循是最主要的差距。截至 2026 年 8 月,據 Liquid AI 實測,LFM2.5 1.2B 的 IFEval 得分為 86.23,Llama 3.2 1B 為 52.37。如果模型的職責是每次都輸出可解析的 JSON 物件或格式正確的工具呼叫,這一項比常識記憶重要得多。
    • 工具呼叫是原生能力,而不是提示詞技巧。LFM2.5 會在專用詞元之間輸出 Python 風格的函式呼叫,只需一句系統提示即可切換為 JSON 輸出。
    • 參數更多,匯出反而更小:Q4_K_M 下 731 MB,Llama 為 810 MB,儘管參數量多出 17%。原因是 65,536 的詞表讓嵌入表保持精簡,而在這個量級上,嵌入表主導著檔案體積。
    • 在具名硬體上公布了實測佔用。Liquid 在 Galaxy S25 Ultra 上測得 719 MB。Meta 沒有為 Llama 3.2 1B 公布對應數字,因此要評估部署規模只能自己實測。
    • 權重原生為 bf16,因此在 Ertas 上訓練可以保持 bf16,無需在 Turing 硬體上回退到 fp32。

    Llama 3.2 1B

    • 128,000 對 32,768 的上下文視窗,空間是四倍。只要任務是把長文件直接放進提示詞而不是分塊檢索,這一項就是決定性的。
    • 1B 級中最深厚的生態。現成的微調版本、量化預設、行動端整合指南和社群驗證過的配方,絕大多數都優先支援 Llama。
    • 多數法務團隊已經審閱過的授權條款。Llama Community License 設有 7 億月活躍使用者上限並要求署名,但足夠熟悉;而 LFM Open License v1.0 是 Liquid 自己的文本,需要重新審閱。
    • 通用知識更廣。Llama 3.2 1B 面向通用能力訓練,而 LFM2.5 明確用世界知識換取了指令遵循的可靠性。
    • 在程式設計和數學上更強,而這兩類任務正是 Liquid 明確不推薦 LFM2.5 去做的。

    Which Should You Choose?

    你要把文件轉成結構化 JSON,或用小模型驅動工具呼叫LFM2.5 1.2B

    這正是 LFM2.5 的設計目標。IFEval 86.23 對 52.37,意味著一個能可靠產出你所要求格式的模型,和一個必須外包一層重試邏輯的模型之間的區別。事實本身來自文件,所以世界知識偏弱在這裡沒有代價。

    你的提示詞裡要放長文件、完整逐字稿或很長的對話歷史Llama 3.2 1B

    128,000 對 32,768 個詞元就足以決定。LFM2.5 的混合架構確實讓長提示的處理更便宜,但它無法處理超出自身視窗的提示;而為了塞進去而分塊,等於又把你本想避開的檢索問題請了回來。

    你要把模型裝進瀏覽器、遊戲或面向消費者的應用安裝包LFM2.5 1.2B

    731 MB 對 810 MB 本身差距不大,真正的優勢是公開的裝置端實測資料:寫程式之前就能把部署規模算清楚。Chatty Valley 就在 Stardew Valley 模組裡裝了一個 697 MB 的 LFM2.5 1.2B 微調模型,完全跑在玩家自己的 CPU 上。

    你需要 1B 模型提供通用知識、程式設計協助或數學推理Llama 3.2 1B

    Liquid 明確不建議把 LFM2.5 用於知識密集型任務或程式設計。如果模型需要的是知道事情而不是做成事情,在這個尺寸上 Llama 3.2 1B 是更好的基座,而更大的基座還要更好。

    你要接手既有的 1B 流程,或團隊已經通過了 Llama 的授權審查Llama 3.2 1B

    生態成熟度和已審閱的授權條款都是要重新付出的真實成本。除非指令遵循的差距對你的任務是關鍵,否則遷移通常並不划算。

    Verdict

    如果模型的職責是在固定且不算大的上下文裡精確遵循指令,就選 LFM2.5 1.2B:結構化擷取、工具呼叫、裝置端代理、角色與遊戲 AI 都屬於這一類。IFEval 的差距大到足以改變你能否在不加重試層的情況下直接上線,而公開的硬體實測資料也把部署評估從一場實驗變成了一次查表。

    如果上下文長度決定成敗,或者你需要通用知識與程式碼能力,又或者成熟生態與已審閱的授權條款比指令遵循的差距更有價值,就選 Llama 3.2 1B。對很多團隊來說,坦率的答案是:Llama 是更穩妥的預設選項,LFM2.5 是更好的專才。

    兩者都能在 Ertas Studio 的免費 T4 上微調,所以解決分歧最省錢的辦法,就是用你自己的資料各訓一個再比較。在這個尺寸上,那是一個下午的事,不是一個專案。

    How Ertas Fits In

    兩款模型都在 Ertas Studio 的 T4 層級微調,也都在免費方案的參數上限之內,因此任選其一都可以零成本訓練。對 20 億參數以下的基座,行之有效的配方是比 7B 模型更高的學習率和更多的輪次:學習率 3e-4 到 5e-4,批次大小 4,梯度累積 2,訓練 8 到 16 輪。小模型需要更多遍資料,行為才會固定下來。

    匯出格式為 GGUF,可直接用於 llama.cpp、Ollama 和 LM Studio;也可以匯出 safetensors 格式的 LoRA 轉接器,把轉接器單獨保留、由你自己合併。有兩個 Ertas 專案在生產環境中使用這個系列,選型之前值得一讀:Chatty Valley 是量化到 697 MB 的 1.2B 微調模型,執行在 Stardew Valley 模組裡;Corporate Goblin 則是 230M 的 LoRA,匯出為 q4 ONNX 後完全在瀏覽器中執行。

    還有一點關於授權的提醒,它會隨你的微調結果一起傳遞:LFM Open License v1.0 是 Liquid AI 自己的文本,並非 Apache 2.0;Llama Community License 也有自己的條件。基於其中任何一個基座建構商業產品,都需要真正把授權條款讀一遍,而不是想當然。

    Related Resources

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.