🔥 Trending today
How we leveraged distilabel to create an Argilla 2.0 Chatbot★ 75
Hugging Face Blog686d agoTutorial為了協助用戶上手全新發布的 Argilla 2.0，Argilla 團隊利用其開源合成數據生成框架 distilabel 打造了專屬技術支持機器人。他們將官方文件切片，透過 distilabel 驅動 LLM 自動生成高質量的「問題-答案」對，並進行演化與過濾。最後利用這些合成數據微調開源模型，在不依賴人工標註下，快速構建出能精準回答產品技術問題的 AI 助理。
Constitutional AI with Open LLMs★ 78
Hugging Face Blog852d agoTutorial本文探討如何使用開源大型語言模型實作「憲政 AI（Constitutional AI）」。這項技術由 Anthropic 提出，透過一組「憲法」原則讓 AI 自我監督與修正輸出（RLAIF）。Hugging Face 展示了利用 TRL 函式庫與 DPO 等開源工具，如何不需大量人類標註，也能訓練出既安全又實用的開源模型。
Can foundation models label data like humans?★ 75
Hugging Face Blog1086d agoCommentary隨著 RLHF 成為微調大模型的關鍵，高昂的人工標記成本成為瓶頸。研究顯示，基座模型（如 GPT-4）在許多文本分類與偏好標記任務上，已能達到甚至超越普通群眾外包人員的準確度，且成本僅為百分之一。然而，AI 標記仍存在自我偏好、字數偏見等系統性誤差，未來將走向 AI 輔助與人類協同的混合模式。