休閑
-
用 crontab 給 LLM 使用量裝上“監控眼”
在把大模型接入日常工作流之後,筆者很快遇到了一個新問題:模型到底被用了多少次 ?每天的高峰時段是什麽時候?周末是不是真的沒人調用 ?如果對這些數據一無所知,就談不上優化成本、排查異常,更談不上為後續擴容做 ...
在把大模型接入日常工作流之後,筆者很快遇到了一個新問題:模型到底被用了多少次 ?每天的高峰時段是什麽時候?周末是不是真的沒人調用 ?如果對這些數據一無所知,就談不上優化成本、排查異常,更談不上為後續擴容做 ...