APPLICATION LocalForge:ML驱动的LLM路由 我厌倦了手动决定使用哪个本地 LLM。所以我构建了一个自动完成这些的路由器——在不到 5ms 内对每个查询进行分类,并根据基准分数、历史性能和用户反馈将其路由到最优模型。