🔥 Trending today
Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers★ 82
Hugging Face Blog264d agoTutorialHugging Face 官方解析了 OpenAI 最新開源項目 `gpt-oss` 的核心加速技術，並教導開發者如何將這些優化手段移植到現有的 `transformers` 庫中。重點技巧包含：利用 `torch.compile` 配合「靜態 KV 快取」消除 Python 執行期開銷、引入「投機性解碼」實現多倍速生成，以及透過 FP8/INT4 量化與 Triton 自訂核心緩解記憶體頻寬瓶頸。這些方法能讓開發者在不犧牲精度的情況下，極大化 GPU 的推論效率。
Torch compile caching for inference speed★ 75
Replicate Blog267d agoTutorialPyTorch 的 torch.compile 能顯著提升模型推論速度，但首次編譯的「冷啟動」時間往往令人頭痛。Replicate 介紹了如何透過快取（Caching）編譯後的模型成品，避免每次容器啟動時重複編譯。這項技術能有效縮短伺服器無預載（Serverless）部署時的啟動延遲，讓開發者在享受高效能推論的同時，也能擁有極速的部署與反應時間。