Replicate 發表最新技術週報,重點包括:1. 介紹如何透過稀疏自編碼器(SAE)在 GPT 模型中定位與提取特定概念;2. 展示利用瀏覽器進行低延遲、隱私安全的即時語音轉文字技術;3. 宣布 Replicate 平台即將迎來 NVIDIA H100 GPU,大幅提升開源模型推理與微調的速度。
AI 雲端託管平台 Replicate 宣佈即將引進強大的 NVIDIA H100 Tensor Core GPU。此硬體升級將全面支援平台上的模型推理(Predictions)與微調訓練(Training),為開發者帶來更低的延遲與更快的運算速度。目前官方已正式開放早期存取(Early Access)的申請管道,有高算力需求、想搶先體驗 H100 效能的開發者與企業,現在即可聯繫官方團隊加入測試名單。