Latest in AI

How fast is 10 tokens per second really?

開發者 Mike Veerman 製作了一個名為「tokenspeed」的 HTML 模擬工具，能呈現大語言模型（LLM）在每秒 5 到 800 個 Token 之間的生成速度。當各大廠商宣稱其模型達到特定 Token 速度時，使用者常難以想像其實際體感。此工具能幫助開發者與設計師直觀評估不同速度下的使用者體驗與 UI 設計。