Back to blog
    ertaspricinglite-planindie-devgame-devfine-tuning

    獨立開發者的微調:$10 Ertas Lite 方案深入解析

    訓練一個屬於你自己的客製化 AI 模型,最便宜的方式。$10/月為業餘愛好者與獨立開發者解鎖了什麼、可以訓練哪些模型,以及它在哪裡會不夠用。

    Edward Xi Yang

    大多數想為副專案訓練一個客製化 AI 模型的人,都卡在同一個地方。教學文件預設你的桌機裡插著一張像樣的 GPU,雲端平台按 GPU 小時計費而且沒有上限,免費方案的模型大小上限又剛好卡在真正好用的那條線以下。

    Lite 每月 $10。它的存在,是為了讓業餘愛好者或獨立開發者從「我想試試看」走到一個訓練好、跑在自己專案裡的模型,過程中不必擁有價值數千美元的硬體,也不必面對一張沒有上限的帳單。訓練仍然跑在真正的 GPU 上,由 Ertas 雲端基礎設施代為管理。重點在於這些 GPU 不必是你的。

    以下是這筆錢買到的東西、用它做出來的真實專案,以及對它極限的誠實交代。

    獨立專案實際上長什麼樣

    這是 Chatty Valley,一個 Stardew Valley 模組,它把某位村民固定的對話換成一個小模型,訓練它維持角色設定。模型跑在玩家自己的機器上,不需要 API 金鑰,也沒有每則訊息的費用。

    Chatty Valley:一位微調過的村民在遊戲原本的對話框裡回話,全程在本機運行。閱讀完整的開發過程

    這就是 Lite 這個價格所針對的工作形狀。一個角色、一份資料集、幾次訓練運行把語氣調對,然後匯出、發佈。

    那個專案的難處從頭到尾都在迭代:讓角色拒絕一個錯誤的前提、避免它對什麼都點頭,以及阻止它在對話進行到第十二則訊息時脫離角色。這些都是訓練迴圈的問題,也正是點數花掉的地方。

    先在瀏覽器裡試試微調過的角色

    如果你想在付錢之前先感受一下小型微調角色模型是什麼樣子,Corporate Goblin 完全在你的瀏覽器裡運行,網址是 playground.ertas.ai。不需註冊、不需伺服器:模型會下載下來,透過 WebAssembly 在你自己的機器上運行。

    Corporate Goblin,一個以 230M 基礎模型微調而成、在 playground.ertas.ai 瀏覽器中運行的角色模型
    Corporate Goblin 是一個 230M 參數的微調模型。當任務夠窄時,小模型的能力是真的夠用。

    這是一個有用的校準練習。一個 230M 模型配上一份收得很緊的角色資料集,維持角色的能力比多數人預期的好,而且它會在你花點數去試之前,先告訴你實際上需要多大的模型。

    $10 拆掉的四道牆

    免費方案是一個真正能用的方案,你也應該從那裡開始。以下是讓人離開它的四個限制。

    1. 超過 5B 的模型,包含 Gemma 4 E2B

    免費方案的上限在 5B 參數以下。Lite 把你帶到 14B,和 Builder 以及其上每一個層級的模型上限相同。

    這裡最值得認識的模型是 Gemma 4 E2B。「E2B」這個名字的意思是「effective 2B」,描述的是它的推論運算量,而它的訓練規模是另一回事。它的實際參數量是 5.12B,剛好越過免費方案的那條線。它是一個記憶體效率很好的模型,具備 128K 上下文視窗,也是角色模型或助理模型很好的起點之一。訓練它需要 Lite。

    Qwen 3.5Llama 3 以及型錄裡其餘的中型模型都落在同一個區間。

    Ertas 模型型錄,顯示 Gemma 4 E2B、Gemma 3、Llama 3.1 8B 以及其他可加入訓練畫布的基礎模型
    模型選擇器。Gemma 4 E2B 和 Gemma 3 與 Llama 系列並列,而最上方那排「Continue from your models」就是下一節的主題。

    2. 更高階的 GPU,讓訓練在你還在工作時就跑完

    免費方案在入門級硬體上訓練。包含 Lite 在內的每一個付費層級,都會把你移到更高階的 GPU 層級。實際的差別在於周轉時間:在免費層級要佔掉一整個晚上的訓練運行,在這裡快到足以讓你一次坐下就迭代好幾輪,而這往往就是一個做完的專案和一個被放棄的專案之間的差別。

    一次完成的 Ertas 訓練運行,顯示使用的 GPU、耗時、消耗的點數、LoRA 設定與推論樣本
    每次運行都會記錄它跑在哪張 GPU 上、花了多久,以及消耗多少點數。這一次是入門層級的 T4,耗時 25 分鐘;付費方案會把同樣的工作放到更高階的層級上。

    3. 從你已經訓練好的模型繼續訓練

    你可以拿一個在 Ertas 上訓練好的模型繼續往下訓練,省去每次都從基礎模型重新開始。如果你的第一次運行把語氣調對了,但模型講話太囉嗦,你就在那次運行的基礎上繼續疊加,不必把它丟掉。在 40 點數的預算下,省掉一次從頭重跑,是你能拿到的最大一筆節省。

    在 Ertas 模型選擇器中使用 Continue from your models,選擇先前訓練好的模型作為新運行的基礎
    Continue from your models:挑一個你已經訓練好的模型,當作下一次運行的基礎。

    4. 完整模型匯出

    你可以把訓練好的權重帶走,想在哪裡運行就在哪裡運行。透過 Ollama 或 llama.cpp 做本機推論、打包進遊戲模組、隨應用程式一起發佈。沒有每則訊息的費用,你的建置裡不用放 API 金鑰,而且離線也照常運作。

    從 Ertas 匯出微調模型的完整 safetensors 權重
    匯出完整權重。整個流程裡沒有 CLI、沒有 YAML,也沒有任何一步要安裝 CUDA。

    另外還有訓練後推論,讓你在一次運行結束後直接在平台上測試模型,省去先匯出才知道有沒有成功的那一步。

    40 點數實際上買到什麼

    點數由訓練運行消耗。一次 7B 模型、500 到 1,000 筆範例的運行大約花 8 到 15 點數,所以 40 點數大概是每月三到五次真正的運行。未使用的點數可以延展一個月,讓清閒的一個月替忙碌的下一個月出錢。

    以 Chatty Valley 這種形狀的專案來說,那大概就是把一個角色調對所需要的一個月。

    儲存空間是模型 25 GB、資料集 1 GB,兩者各自獨立,資料集永遠不會吃掉你的模型空間。一個 4-bit 的 7B GGUF 大約 4 到 5 GB,所以 25 GB 大概放得下五個完成的模型,還留有工作的餘裕。

    Lite 在哪裡會不夠用

    一篇方案評測最有用的部分,是告訴你什麼時候該停止付這筆錢。

    如果你經常迭代,40 點數消耗得很快。 三到五次運行,對於一個你慢慢打磨的模型來說很寬裕。一旦你開始比較兩個基礎模型、掃描超參數,或每週用新資料重新訓練,它馬上就會變緊。

    做 14B 的工作時,25 GB 會比點數更早成為瓶頸。 一個 14B 的匯出檔大約是 7B 的兩倍,所以同樣的 25 GB,放得下五個 7B 模型,就只放得下兩三個 14B 模型。

    要同時做多個專案的話,1 GB 的資料集儲存空間偏小。 對一份精選過的資料集來說很充裕,攤到四個客戶身上就會綁手綁腳。

    加購的算式就是升級訊號。 額外點數是每 50 點 $15,所以一個買了一次加購的月份,等於用 $25 買到 90 點數。Builder 是 $25 買 100 點數,而且模型儲存空間是兩倍。如果你多數月份都在加購,Builder 對你來說已經更便宜了。

    Lite vs 免費方案

    免費方案Lite($10/月)
    點數每日 5 點,每日重置(每月最多用 30 點)每月 40 點一次給滿,可延展 1 個月
    最大模型大小5B 以下最高 14B
    模型儲存空間5 GB25 GB
    資料集儲存空間250 MB1 GB
    GPU 層級入門級更高階
    完整模型匯出

    每日重置是多數人最先撞上的那道牆,而且它比看起來更硬。免費方案每天給你 5 點數,每天重新開始,昨天沒用完的今天就沒了。所以一次要花超過 5 點數的運行,無論你等多少天都跑不了。一次 12 點數的訓練運行在免費方案上永遠無法執行。

    Lite 一次把 40 點數全部給你,沒用完的還能延展一個月。這就是讓一次真正的運行成為可能的原因,也是你能在一個週六裡連跑三次的原因。

    Lite vs Builder

    Lite($10/月)Builder($25/月)
    點數每月 40 點每月 100 點
    最大模型大小最高 14B最高 14B
    模型儲存空間25 GB50 GB
    資料集儲存空間1 GB2 GB
    GPU 層級更高階更高階
    點數延展1 個月1 個月

    兩者的能力完全相同。Lite 就是空間比較小的 Builder,所以你唯一在選的軸線是用量。

    誰該選 Lite

    • 你在做一件事:一個模組、一個遊戲 NPC、一個副專案的功能、一個應用程式助理
    • 你撞上了免費方案的模型大小上限,而那是唯一擋住你的東西
    • 你想把權重匯出來,跑在自己的專案裡
    • 你想在投入更多之前,先確認客製化模型是否勝過你目前的 API 帳單

    誰該跳過它

    • 你還在探索階段。 留在免費方案。它不花錢,而且會教會你整套工作流程。
    • 你每週重新訓練,或同時應付好幾個模型。 直接上 Builder。那個差價你多半也會花在加購上。
    • 你需要空間同時放好幾個模型,或是更大的模型。 Pro 是儲存空間不再構成限制的地方:模型儲存空間 100 GB,相對於 Lite 的 25 GB;資料集 5 GB,相對於 1 GB。它同時帶有 200 點數、GPU 佇列的優先權,以及 Ertas 新功能上線時的搶先體驗。

    常見問題

    我需要自己擁有 GPU 嗎? 不需要。訓練跑在由 Ertas 管理的雲端 GPU 上,昂貴的硬體因此不會出現在你的桌上,也不會出現在你的信用卡帳單上。你在本機需要的,只是一台能運行完成後模型的機器,而一個 4-bit 量化的小模型在一般消費級硬體上就跑得動。

    我需要會 Python 嗎? 不需要。訓練在 Studio 裡以視覺化的方式設定。你要帶來的是資料集,以及對什麼才算「好」的判斷。

    在 Lite 上我可以訓練什麼? 型錄中最高 14B 的任何模型,涵蓋小型到中型區間的 Gemma 4 E2B、Qwen、Llama、Mistral 和 Phi。

    我可以把模型用在商業遊戲或應用程式裡嗎? 訓練好的權重是你的,可以匯出、可以發佈。請確認你起步時所用的基礎模型授權條款,因為它會延續到你的微調模型上。

    如果我取消訂閱,我的模型會怎樣? 取消之前,把任何你想保留的東西先匯出。儲存空間配額依你所在的方案計算。

    誠實的總結

    Lite 的範圍是刻意收窄的。它以我們能給出的最低價格,拆掉那些擋住業餘愛好者與獨立開發者發佈真東西的牆。它的規格是為一次一個專案設計的,而上面那道加購算式會告訴你,該升級的確切月份。

    如果你正處在那個位置,它是 $10,而且隨時可以取消。

    Ertas 方案 $10/月起。 查看定價


    延伸閱讀

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.

    Keep reading