如何理解 FlyRouter 服務指標

狀態頁展示閘道請求在所示時間範圍內的觀測結果。成功率、回應延遲與合約約定的可用性是不同概念,本指南說明公開資料的意義及限制。

更新日期:

公開頁面展示什麼

指標意義
成功率閘道在所示期間內統計的成功比例
首字延遲有對應測量值的請求收到第一個 Token 所需時間
回應延遲請求持續時間,不可替代首字延遲
模型時間線每小時彙整的觀測;空缺表示沒有觀測,不代表必定故障或成功

初始頁面可包含伺服器取得的快照,瀏覽器中的狀態頁會定期更新。重新整理頁面不表示必定執行新的模型探測。缺少或無效的測量值維持無資料,不用目標數值替代觀測值。

目前彙整資料的限制

公開資料尚不包含獨立效能評測需要的全部資訊。沒有請求數、流量組成、地區和分位數,單一平均值或比例不能證明你的工作負載會得到相同表現。顯示 100% 也不保證未來請求必定成功。

沒有流量與故障不同,閘道報錯與模型回答不正確也不同。任務完成品質需要獨立評估。

觀測可用性與 SLA

歷史觀測不是合約服務等級承諾。服務條款說明現有約定;需要書面 SLA 時請聯絡支援另行商定。請求可能受上游可用性影響,公開路由策略是如實傳回上游錯誤,不靜默替換其他模型。

可重現報告需要哪些資料

發布評測前記錄模型與線路、日期和地區、樣本數、並行數、串流設定、輸入輸出長度、重試、錯誤分類及測量定義。只有具備逐筆請求測量值時才能發布 P50/P95。保留失敗請求,不從樣本中排除慢請求。

查看服務狀態、錯誤處理與費用核對。