🔥 Trending today
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
Hugging Face Blog790d agoTutorialSetFit 是一款高效的少樣本文字分類框架。本文介紹如何結合 Hugging Face Optimum Intel，在 Intel Xeon 處理器上進行硬體級推論加速。透過 OpenVINO 等技術，開發者無需 GPU 即可在 CPU 上實現極低延遲與高吞吐量的 NLP 模型部署。
SetFit: Efficient Few-Shot Learning Without Prompts★ 78
Hugging Face Blog1345d agoReleaseHugging Face 與 Intel Labs 等機構合作推出 SetFit 框架，專為少樣本（Few-shot）文字分類設計。不同於傳統大模型依賴複雜的 Prompt 工程，SetFit 結合了 Sentence Transformers 的對比微調與簡單的分類器。它不僅訓練速度極快、推理成本低，在每類僅需十幾個樣本的情況下，準確度甚至能超越傳統大型語言模型。
Few-shot learning in practice: GPT-Neo and the 🤗 Accelerated Inference API
Hugging Face Blog1825d agoTutorial本文介紹如何使用 EleutherAI 的開源模型 GPT-Neo，結合 Hugging Face 的 Accelerated Inference API 進行「少樣本學習（Few-shot learning）」。讀者將了解如何透過精心設計的提示詞（Prompt），讓模型在不需重新訓練或微調的情況下，僅憑幾個範例就能執行特定任務。這為開發者提供了一種快速、低成本且無需維護複雜基礎設施的 NLP 實作方案。