Fine-tuned models now boot in less than one second

Replicate 透過 LoRA 技術優化微調模型冷啟動，載入時間從數分鐘縮短至一秒內。

Replicate 宣布對微調模型的「冷啟動（Cold Boot）」進行重大改進。過去部署微調模型需要數分鐘來啟動新容器，現在透過共享基礎模型並動態載入輕量化的 LoRA 權重，冷啟動時間已縮短至一秒以內。這大幅降低了開發者在使用客製化模型時的延遲與成本。

摘要由 AI 整理,以原文為準。