Profiling in PyTorch (Part 1): A Beginner's Guide to torch.profiler
Hugging Face Blog4d agoTutorialBased on the title, this Hugging Face Blog post is an introductory PyTorch profiling guide focused on torch.profiler. It likely targets developers and ML engineers who need to identify training or inference bottlenecks through observable performance data. Since the full article text was not provided, implementation details, examples, and specific optimization advice cannot be confirmed.
We Got Claude to Fine-Tune an Open Source LLM★ 78
Hugging Face Blog180d agoTutorialHugging Face 分享了如何利用 Anthropic 的 Claude 模型（作為 AI Agent）來自動微調開源大語言模型。透過整合 Hugging Face 的生態系工具（如 AutoTrain），Claude 能夠自主處理數據集清洗、撰寫訓練腳本、調整超參數並執行微調。這項實驗展示了 Agent 在機器學習工程（MLE）自動化中的巨大潛力，讓模型訓練變得更加平民化。
huggingface_hub v1.0: Five Years of Building the Foundation of Open Machine Learning★ 85
Hugging Face Blog218d agoReleaseHugging Face 官方 Python 庫 huggingface_hub 迎來 v1.0 穩定版。歷經五年的持續演進，該庫已成為全球開發者下載、上傳與管理開源模型及資料集的標準工具。v1.0 的推出象徵著 API 的高度穩定與成熟，承諾了更好的向後相容性，為未來的開源機器學習生態系奠定更堅實的基礎。
Introducing Trackio: A Lightweight Experiment Tracking Library from Hugging Face★ 75
Hugging Face Blog308d agoReleaseHugging Face 發表全新的輕量級開源實驗追蹤工具 Trackio。旨在解決現有 MLOps 工具過於臃腫的問題，Trackio 提供在地優先（Local-first）的架構與極簡 API，並能與 Hugging Face Hub 及 Transformers 生態系無縫整合。開發者只需幾行程式碼即可記錄參數、指標與模型權重，並能透過輕量網頁介面進行可視化，是 AI 研究者的全新輕量化選擇。
Three Mighty Alerts Supporting Hugging Face’s Production Infrastructure
Hugging Face Blog329d agoTutorialHugging Face 分享了其生產環境基礎設施賴以維持高可用性的三大核心警報機制。面對託管數百萬個模型與數據集的挑戰，Hugging Face 的運維團隊詳細解析了他們如何針對「模型緩存磁碟空間」、「Kubernetes GPU 資源調度瓶頸」以及「基於 SLO 的錯誤預算消耗」進行監控與預警。這些實務經驗對於運行大規模 AI 服務與雲端基礎設施的 MLOps 與 SRE 工程師極具參考價值。
The New and Fresh analytics in Inference Endpoints
Hugging Face Blog438d agoReleaseHugging Face 宣布為其託管式部署服務 Inference Endpoints 推出全新的分析（Analytics）儀表板。此更新帶來了更直觀且即時的數據視覺化，讓開發者能輕鬆監控請求量、延遲、Token 消耗與錯誤率。這項改進大幅提升了生產環境中 AI 模型的觀測性，有助於開發者進行效能調優與成本控制。
XetHub is joining Hugging Face!★ 75
Hugging Face Blog663d agoBusinessHugging Face 宣布收購專注於大規模資料版本控制的新創公司 XetHub。XetHub 的技術能讓 Git 輕鬆擴展並管理數 PB 級的資料集與機器學習模型，解決傳統 Git LFS 的效能瓶頸。此收購將幫助 Hugging Face 升級其基礎設施，為全球開發者提供更流暢、高效的大型 AI 資產協作與版本控制體驗。
Rocket Money x Hugging Face: Scaling Volatile ML Models in Production
Hugging Face Blog987d agoBusiness個人理財應用 Rocket Money 面臨交易分類模型流量劇烈波動的挑戰。透過導入 Hugging Face Inference Endpoints，他們實現了自動彈性伸縮（Auto-scaling），不僅大幅降低基礎設施成本，還簡化了部署流程，讓數據科學團隊無需依賴繁重的 DevOps 即可快速將模型推向生產環境，同時保持極低的延遲。
Deploying Hugging Face Models with BentoML: DeepFloyd IF in Action
Hugging Face Blog1028d agoTutorial本教學介紹如何利用開源模型部署框架 BentoML，將 Hugging Face 上的 DeepFloyd IF 影像生成模型轉化為生產級 API。文章詳細解析了 DeepFloyd IF 的多階段（Stage I/II/III）架構，並展示如何透過 BentoML 的 Runner 機制優化 GPU 資源分配。最後提供完整的程式碼範例與部署步驟，幫助開發者快速將複雜的擴散模型推向雲端生產環境。
Databricks ❤️ Hugging Face: up to 40% faster training and tuning of Large Language Models★ 70
Hugging Face Blog1133d agoBusinessDatabricks 與 Hugging Face 宣布深度合作，針對大型語言模型（LLM）的訓練與微調進行優化。透過將 Hugging Face Transformers 與 Databricks 平台（如 MLflow、TorchDistributor）整合，企業能在安全的湖倉一體架構中更高效地訓練開源模型。測試顯示，此優化方案可將訓練速度提升高達 40%，大幅降低運算成本。
AutoCog — Generate Cog configuration with GPT-4
Replicate Blog1140d agoNew ToolReplicate 推出新工具 AutoCog，旨在簡化機器學習模型的打包流程。使用者只需提供含有模型程式碼的目錄，AutoCog 就能利用 GPT-4 自動編寫並修正 predict.py 和 cog.yaml。它會透過「執行、報錯、修正」的循環，直到模型能順利執行預測，大幅降低將模型部署至 Replicate 或 Docker 容器的門檻。
Accelerating Hugging Face Transformers with AWS Inferentia2★ 70
Hugging Face Blog1142d agoReleaseHugging Face 與 AWS 合作，透過 optimum-neuron 工具套件，簡化了在 AWS Inferentia2 (Inf2) 實例上部署 Transformers 模型的流程。開發者現在可以輕鬆將 PyTorch 模型編譯並運行於專為深度學習推理設計的 Inf2 晶片上。這項整合不僅大幅降低了雲端推理成本，還顯著提升了模型吞吐量並降低延遲。
Fetch Consolidates AI Tools and Saves 30% Development Time with Hugging Face on AWS
Hugging Face Blog1195d agoBusiness美國知名消費回饋平台 Fetch 過去面臨 AI 工具碎片化與部署流程繁瑣的挑戰。透過在 AWS 上導入 Hugging Face 的解決方案，Fetch 成功統一了其機器學習工作流。這項整合不僅簡化了模型訓練與部署，更為團隊節省了高達 30% 的開發時間，加速了其收據辨識與個人化推薦服務的迭代。
Machine learning needs better tools
Replicate Blog1197d agoOpinion儘管機器學習（ML）的需求爆發，但對於多數軟體工程師而言，部署與運行模型仍面臨極高的技術門檻。現有的 ML 工具鏈過於複雜，開發者常需處理 GPU 設定、CUDA 版本及依賴衝突。Replicate 指出，ML 領域急需如同傳統軟體開發般成熟、易用的基礎設施與工具，才能釋放其真正的應用潛力。
Director of Machine Learning Insights [Part 4]
Hugging Face Blog1287d agoOpinion本篇為 Hugging Face 探討機器學習團隊管理的系列文章第四部分。內容聚焦於 ML 總監在實際營運中面臨的三大核心挑戰：如何將技術指標轉化為業務 ROI、如何在高昂的 GPU 成本下進行預算與推論優化，以及在建構 MLOps 工具鏈時，如何權衡「自主研發（Build）」與「採購現成服務（Buy）」。這為正在規模化 ML 團隊的管理者提供了極具價值的實務指南。
Introducing Skops
Hugging Face Blog1390d agoReleaseHugging Face 宣布推出新開源庫 Skops，專為 scikit-learn 等表格數據模型設計。Skops 解決了傳統 pickle 格式的安全漏洞，提供更安全的模型序列化方案。此外，它還簡化了將 scikit-learn 模型上傳至 Hugging Face Hub 的流程，並支持自動生成模型卡片與互動式預測介面，讓傳統機器學習也能享有現代 MLOps 的便利。
Deploying 🤗 ViT on Kubernetes with TF Serving
Hugging Face Blog1391d agoTutorial本文詳細說明了將 Hugging Face 的 Vision Transformer (ViT) 模型部署到生產環境的完整流程。內容涵蓋將模型轉換為 TensorFlow SavedModel 格式、配置 TF Serving 服務，以及撰寫 Kubernetes 部署與服務 YAML 檔。最後展示了如何透過 API 進行高效能的圖像分類推理，是 MLOps 工程師將視覺模型落地生產環境的實用指南。
Introducing the Private Hub: A New Way to Build With Machine Learning★ 75
Hugging Face Blog1399d agoReleaseHugging Face 正式推出 Private Hub，允許企業與團隊在安全的私有環境中託管、管理和共享機器學習模型、數據集與 Spaces。該服務提供細粒度的權限控制與企業級安全保障，並與 Hugging Face 開源生態系無縫整合，讓團隊能更高效且合規地協作開發 AI 應用。
How Sempre Health is leveraging the Expert Acceleration Program to accelerate their ML roadmap
Hugging Face Blog1475d agoBusiness醫療科技公司 Sempre Health 透過加入 Hugging Face 的專家加速計畫（EAP），加速了其機器學習技術的落地。在 Hugging Face 專家的指導下，Sempre Health 成功將先進的 Transformer 模型應用於患者簡訊互動的意圖識別，不僅縮短了模型開發與部署週期，更大幅優化了推理延遲與雲端基礎設施成本，有效提升患者的服藥遵從率。
Hello, world!
Replicate Blog1478d agoBusiness機器學習平台 Replicate 發表了其首篇官方部落格文章「Hello, world!」。團隊表示他們是由工程師與機器學習愛好者組成的小型團隊，其核心使命是降低機器學習的技術門檻，讓更多人能夠輕鬆存取與使用機器學習技術。
Director of Machine Learning Insights [Part 2: SaaS Edition]
Hugging Face Blog1481d agoOpinion本文為 Hugging Face 訪談系列，聚焦於 SaaS 領域的機器學習主管洞察。內容涵蓋 SaaS 企業如何構建 ML 團隊、如何平衡「自行開發」與「採用現成服務」，以及在處理高併發、低延遲需求時的架構選擇。受訪者強調了開源生態系在加速產品落地與降低研發成本上的關鍵作用。
Director of Machine Learning Insights
Hugging Face Blog1497d agoOpinion本報告源自 Hugging Face 針對多位企業機器學習主管（Director of ML）的調查與訪談。內容指出，將模型從實驗室原型轉化為穩定生產服務（Deployment Gap）仍是企業最大痛點。主管們強調了 MLOps 工具鏈整合、開源模型在企業級應用的崛起，以及跨團隊（數據科學與軟體工程）協作與人才招募的持續挑戰。
Accelerate BERT inference with Hugging Face Transformers and AWS Inferentia
Hugging Face Blog1539d agoTutorial本教學介紹如何結合 Hugging Face Transformers、AWS Neuron SDK 與 Amazon SageMaker，在 AWS Inferentia (inf1) 實例上部署 BERT 模型。透過將模型編譯為 Neuron 格式，開發者能以極低的延遲和更低的成本進行大規模 NLP 推論，非常適合需要高吞吐量生產環境的團隊。
Case Study: Millisecond Latency using Hugging Face Infinity and modern CPUs
Hugging Face Blog1601d agoNew Tool本案例研究探討了 Hugging Face Infinity 在現代 CPU（如 Intel Xeon）上的效能表現。透過硬體加速與優化技術，Infinity 能在 CPU 上實現單數位毫秒級的推理延遲。這為企業提供了一種高性價比、無需依賴昂貴 GPU 的 Transformer 模型部署選擇，特別適合文本分類與特徵提取等任務。
The Age of Machine Learning As Code Has Arrived
Hugging Face Blog1686d agoOpinionHugging Face 探討了機器學習從學術研究走向主流軟體工程的轉變。隨著 Hugging Face Hub 等平台的興起，模型、數據集和展示空間（Spaces）都開始採用類似 Git 的版本控制與協作模式。這意味著 AI 開發不再只是科學家的專利，而是轉向以「程式碼為中心」的開發者生態，讓軟體工程師能用幾行程式碼輕鬆整合強大模型。
Deploy Hugging Face models easily with Amazon SageMaker
Hugging Face Blog1790d agoReleaseHugging Face 宣布與 AWS 深度整合，推出專屬的 SageMaker 深度學習容器（DLC）。開發者現在可以直接利用 SageMaker Python SDK，將 Hugging Face Hub 上的數萬個預訓練模型一鍵部署至託管的 SageMaker 端點。這項合作大幅簡化了 NLP 模型的正式生產環境部署流程，並兼顧了 AWS 的安全與彈性擴展優勢。
The Partnership: Amazon SageMaker and Hugging Face★ 75
Hugging Face Blog1897d agoBusinessHugging Face 宣布與 AWS 達成全新合作夥伴關係，將其熱門的 Transformers 庫深度整合至 Amazon SageMaker。透過全新推出的 Hugging Face 深度學習容器（DLCs），開發者可以更輕鬆、快速地在 AWS 雲端上進行 NLP 模型的訓練、微調與推理部署。此合作大幅降低了企業在大規模機器學習基礎設施管理上的門檻。