Agent 的每个小判断,都要交给生成式模型吗?
github.com/receptron/laya
Laya 不生成文本,而是把工单等状态和多个问题一起送入模型,一次推理给出分类、等级评分和是非判断的概率。这个 TypeScript 包通过 ONNX Runtime 在 Node.js 中运行,不需要运行时 Python。挺适合流程分流,不过权重约 1.7GB,部署时得留意内存。
Sep 25, 2026 · 2:42 PM UTC
1
1
201


