電子商務
微調理解您的目錄和客戶語言的 AI 模型
The Challenge
電子商務企業的營運規模意味著即使在產品發現、描述品質或客戶理解方面的微小改進也能直接轉化為營收。AI 可以驅動更好的搜尋、個人化推薦、自動化產品描述和對話式購物助手——但通用模型對您的特定目錄、分類法或客戶群一無所知。它們產出的通用產品描述聽起來像每個其他零售商,誤解小眾產品查詢,並且無法捕捉使您的商店與眾不同的品牌聲音。
成本是另一個關鍵因素。在電子商務規模下——數百萬個產品頁面、每分鐘數千個客戶查詢,以及每次頁面載入時的即時推薦請求——第三方 API 供應商的按 token 定價變得令人望而卻步。一家為 500,000 個 SKU 生成 AI 產品描述或為數百萬訪客提供對話式購物助手的大型目錄零售商面臨的 API 帳單遠超 AI 創造的價值。只有當推論成本可預測且與按請求定價脫鉤時,經濟模式才行得通。
The Solution
Ertas 讓電商團隊用自己的產品領域資料訓練 AI 模型,並在沒有按 token 計費之 API 帳單的情況下運行。在 Ertas Studio 中,商品企劃與資料團隊上傳由產品目錄、顧客評論、搜尋紀錄和品牌風格指南整理而成的 JSONL 資料集,也可以在 Studio 的引導式資料集建構工具 Data Craft 中建立範例,由最了解品牌的人逐筆審核並核准。訓練透過視覺化畫布在 Ertas 的雲端 GPU 上進行,可以同時跑多個訓練任務,比較後再決定。訓練出的模型能以您的品牌語氣撰寫商品描述,結合目錄脈絡理解模糊的購物查詢,並依您自己的分類架構替商品歸類。
每個訓練完成的模型都會出現在 Hub 中,您可以下載 GGUF 格式供 llama.cpp 或 Ollama 使用,或下載完整的 safetensors 供 vLLM 等伺服器端執行環境使用。在自己的伺服器上運行後,推論成本取決於您運行的硬體,查詢量成長時成本依然可預估,檔期前也能提前擴充容量。為不同工作分別訓練模型(一個寫商品描述、一個理解搜尋查詢、一個負責客服),每個模型都是團隊自己擁有的資產。如果偏好代管服務,自適應模型端點會在您的客製模型通過您的評估後,把某項任務中越來越多的請求, 從您目前使用的前沿模型轉給這個以您自己的請求訓練出的模型。
Key Features
目錄感知微調
使用 Studio 的視覺化畫布,在包含商品屬性、描述、顧客評論、搜尋查詢和品牌指南的 JSONL 資料集上微調 Mistral 7B、Llama 3.1 8B 或 Qwen 2.5 等開源模型。為每項工作(文案、搜尋、推薦)分別訓練模型,並同時執行多個訓練任務進行比較。
品牌核准的訓練資料
在 Studio 的引導式資料集建構工具 Data Craft 中建立和修整範例。商品企劃人員新增 USER 與 ASSISTANT 對話輪次,編輯範例並保存版本,逐筆標記為已核准,讓模型從品牌團隊認可的文案中學習。
匯出後隨處運行
每個訓練完成的模型都列在 Hub 中。可下載 GGUF 格式供 llama.cpp、Ollama 或 LM Studio 使用,也 可下載完整的 safetensors 供 vLLM 等伺服器端執行環境使用。模型歸您所有,運行時不依賴 Ertas,黑色星期五的流量和夜間批次生成工作都跑在您掌控的運算資源上。
購物者資料留在內部
在自己的伺服器上運行匯出的模型,推論請求、搜尋查詢和生成的文案都留在您的網路內。訓練資料會上傳到 Ertas 的雲端 GPU,因此上傳前請先從評論和購買紀錄中移除顧客身分資訊,專案結束後可在 Studio 中刪除資料集。
Example Workflow
一家擁有 80,000 個 SKU 的 DTC 時尚品牌希望自動產生商品描述,並提升站內搜尋的相關性。商品企劃團隊把商品屬性、現有描述、已去識別化的顧客評論和搜尋紀錄匯出為 JSONL 資料集,上傳到 Ertas Studio,再用 Data Craft 與品牌團隊一起審核一批最好的商品描述。在 Studio 中,團隊對 Mistral 7B 做了兩次微調:一個模型根據原始屬性撰寫符合品牌語氣的描述,另一個把自然語言搜尋查詢對應到商品類別。他們同時執行了幾種設定,並用一組保留下來、品牌團隊已寫好文案的商品進行比較。兩個模型都從 Hub 匯出,以 vLLM 部署在品牌自己的 GPU 伺服器上。描述模型在一個夜間批次工作中為 20,000 件新季商品撰寫草稿,品牌團隊上架前對照語氣指南抽查。搜尋模型能把「透氣的夏季上班褲」這類查詢對應到「輕薄長褲」類別。推論成本如 今取決於品牌自己運行的伺服器,查詢量增加也不會再推高按 token 計費的帳單。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Quantization(量化)
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
How to Cut Your AI Agency Costs by 90% with Fine-Tuned Local Models
Hugging Face
Ollama
vLLM
llama.cpp
Ertas for Content Creation
Ertas for Customer Support
Ertas for Data Extraction
Ertas for SaaS Product Teams
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.