How fast is 10 tokens per second really?

一個極簡的網頁工具，讓你親身體驗 LLM 從每秒 5 到 800 個 Token 的實際文字輸出速度與閱讀體感。

開發者 Mike Veerman 製作了一個名為「tokenspeed」的 HTML 模擬工具，能呈現大語言模型（LLM）在每秒 5 到 800 個 Token 之間的生成速度。當各大廠商宣稱其模型達到特定 Token 速度時，使用者常難以想像其實際體感。此工具能幫助開發者與設計師直觀評估不同速度下的使用者體驗與 UI 設計。

摘要由 AI 整理,以原文為準。