Latest in AI

Make any large language model a better poet

Replicate 釋出技術教學，指出除了 Prompt 工程和微調之外，控制 LLM 輸出的另一種強大方法是「約束解碼（Constrained Decoding）」。透過在模型預測下一個 Token 時，利用自定義的 Logits Processor 修改機率分佈（Logits），可以強制模型 100% 遵守特定的押韻格式與音節限制。這種方法能讓任何開源 LLM 寫出結構完美的詩歌，且完全不需要重新訓練。