Unsloth + Ertas

Ertas 與 Unsloth 在微調上的比較。Unsloth 是一個用 Python 驅動的高速訓練函式庫；Ertas 是一條託管的視覺化管線，不必經過 notebook 就能把一次執行從資料集帶到可安裝的 GGUF。

Overview

Unsloth 是一個快速的開源微調函式庫，透過自訂 CUDA 核心與記憶體高效實作帶來很大的訓練速度提升。ML 工程師選擇它，看中的是原始效能與極少的抽象：你在 notebook 或指令稿裡寫 Python，呼叫它打過修補的模型載入器，就能以更低的顯示記憶體取得更快的 LoRA 與 QLoRA 訓練。對於長期待在 notebook 裡、想要底層控制權的人，這是一筆划算的交易。

它刻意只涵蓋訓練這一步。資料準備、執行歷史、量化與匯出，以及把訓練好的模型裝到機器上，都留給你自己處理。使用它的團隊會用一堆獨立工具拼出這些環節：一個追蹤服務、自己寫的資料指令稿、用 llama.cpp 量化，以及手動的部署步驟。對一個人跑實驗來說沒問題；一旦團隊需要可重現性，或需要一條從資料到交付模型的可重複路徑，它就成了瓶頸。

How Ertas Integrates

Ertas 走的是相反的路線：它是一條託管管線，整件事都在同一個地方完成，而且不需要寫 Python。你在 Data Craft 準備資料，在 Model Studio 畫布上放一個 Action Module，接上基礎模型、資料集與訓練設定，然後按下執行。訓練跑在託管的雲端 GPU 上，所以沒有環境要搭建，也沒有顯示記憶體預算要遷就。

實際差別出現在訓練步驟的兩側。Data Craft 存放你的資料集，當真實樣本不足時，Prompt Studio 幫你寫出一段生成提示詞。每次執行都保留自己的設定快照與指標，所以幾個月後打開一個模型，你仍能看清是什麼產生了它。完成的執行會匯出 LoRA 適配器與一個 GGUF 安裝包，其中包含預先產生的 Ollama Modelfile（帶有正確的對話範本與停止詞）以及安裝指令稿，而這一步正是自己拼裝技術堆疊時最常花掉一個下午的地方。

Unsloth 仍然領先的地方是控制力。自訂訓練迴圈、非常規架構，以及手工調校到核心層級的工作，是函式庫能給你而託管管線給不了的。如果任務是這些，notebook 才是對的工具。

Getting Started

1
在 Data Craft 準備資料集
上傳 JSONL、CSV、parquet 或文字，或從 Hugging Face 鏡像一個資料集。真實樣本不足時，Prompt Studio 會根據你自己的脈絡產生一段提示詞，你在自己已付費的 AI 工具中執行它，再把結果以 JSONL 匯入。
2
在畫布上搭建執行
在 Model Studio 專案中放入一個 Action Module，接上它的四條腿：基礎模型、資料集、訓練設定與 LoRA 設定。畫布會標出還缺哪條腿，所以不會誤送出一個不完整的執行。
3
在託管 GPU 上平行訓練
按下執行。訓練跑在雲端 GPU 上，不需要任何環境設定。每個 Action Module 都是獨立工作，同時執行的數量沒有上限，所以你可以用多個模組平行做超參數掃描。實際上限是你的點數餘額。
4
檢查執行並與先前的比較
完成的執行會用一組固定提示詞給出三條推論樣本作為初步的連貫性檢查，同時附上完整的設定快照與指標。專案中先前的執行仍然可查，所以你能看清兩次嘗試之間改動了什麼。
5
匯出並安裝
下載 safetensors 格式的 LoRA 適配器，或下載 GGUF 安裝包：一個 Q4_K_M 量化的模型檔、一份預先產生的 Modelfile（含對話範本、停止詞以及你設定的取樣預設值），以及適用於 macOS、Linux 與 Windows 的安裝指令稿。執行安裝程式，Ollama 就能提供該模型。