Simon Willison 開源的 Datasette 插件 datasette-llm 發布了 0.1a8 預覽版本。此版本主要修復了一個關鍵 Bug,解決了 llm_prompt_context() 鉤子(hook)在運作時,無法完整收集並串聯對話回應鏈(chains of responses)的問題。這對於依賴該插件進行複雜 LLM 數據檢索與上下文構建的開發者來說是個必要的更新。
Vercel 在最新的 Agent 評估中發現,使用 `AGENTS.md` 這種基於 Markdown 的宣告式文件來定義 AI Agent 的角色與指令,其成效顯著優於傳統為 Agent 綁定特定「技能(Skills/Tools)」的作法。這項發現將簡化開發者構建多 Agent 系統的流程,並提升 LLM 在複雜任務中的執行準確度與對齊表現,代表著 Agent 開發範式正朝向「文件驅動」轉移。
隨著 AI 提供的決策與建議在工作中變得越來越重要,傳統的簡單測試已不足以評估其極限。華頓商學院教授 Ethan Mollick 指出,我們需要透過結構化的「工作面試」流程,包含情境問答、極限測試與邏輯追問,來評估 AI 在特定任務中的真實實力、潛在偏見與幻覺機率,從而決定如何安全地與其協作。
賓州大學華頓商學院教授 Ethan Mollick 釋出最新 AI 實用指南。他指出,目前主流模型各有擅場:Claude 3.5 Sonnet 適合寫作與程式,GPT-4o 語音與綜合能力強,Gemini 則以超大上下文見長。他強調,使用者應將 AI 視為「聰明但缺乏經驗的實習生」,透過持續對話與回饋來突破「不規則邊界(Jagged Frontier)」,才能真正發揮 AI 的生產力潛能。
知名 AI 學者 Ethan Mollick 整理了最新的 AI 實用指南,解答「該用哪款 AI」與「如何使用」的核心問題。他強調應直接使用最頂尖的 Frontier Models(如 GPT、Claude、Gemini),並將 AI 視為「聰明但缺乏常識的實習生」。指南涵蓋日常寫作、程式開發、資料搜尋與多媒體生成等四大領域的推薦工具與實戰心法。
Vercel 提出「評估驅動開發(EDD)」概念,解決 AI 輸出不確定性帶來的測試難題。 EDD 類似於軟體工程的測試驅動開發(TDD),強調在調整提示詞或模型前先建立評估數據集。 透過自動化評估(如 LLM-as-a-judge),開發者能更具信心且快速地優化 AI 產品,避免改動導致效能倒退。
在開發 LLM 對話應用時,不同模型(如 LLaMA、Vicuna)要求不同的特殊標記與格式。過去手動拼接字串極易出錯,微小的空格或換行差異都會嚴重影響模型輸出品質。Hugging Face 推出「Chat Templates」功能,將格式化邏輯以 Jinja 模板儲存於 tokenizer 設定中,開發者只需調用 `apply_chat_template()` 即可自動套用正確格式,徹底解決此痛點。
本指南由 Replicate 團隊撰寫,深入解析 Llama 2 的官方提示詞(Prompt)格式。文章詳細說明了如何使用 `[INST]`、`<<SYS>>` 等特殊標記來結構化系統提示詞與用戶指令。遵循此標準模板能有效避免模型輸出混亂或不聽從指令的問題,是開發者部署與微調 Llama 2 的必讀基礎教學。
Hugging Face 介紹了如何使用開源程式碼模型(如 StarCoder)構建「文字轉網頁應用(Text-to-Web-App)」產生器。文章詳細說明了系統架構,包括如何透過 Prompt 工程引導模型輸出包含 HTML、Tailwind CSS 與 JavaScript 的單一網頁檔案。此專案展示了開源模型在快速原型設計與程式碼生成上的強大潛力,並提供了在 Hugging Face Spaces 上的實作範例。
本文介紹如何使用 EleutherAI 的開源模型 GPT-Neo,結合 Hugging Face 的 Accelerated Inference API 進行「少樣本學習(Few-shot learning)」。讀者將了解如何透過精心設計的提示詞(Prompt),讓模型在不需重新訓練或微調的情況下,僅憑幾個範例就能執行特定任務。這為開發者提供了一種快速、低成本且無需維護複雜基礎設施的 NLP 實作方案。